Jeff Dean回忆谷歌趣事：吴恩达激励自己继续研究，Hinton曾是最强「实习生」

AIGC动态2个月前发布 almosthuman2014

252 0 0

Jeff Dean回忆谷歌趣事：吴恩达激励自己继续研究，Hinton曾是最强「实习生」

文章摘要

Jeff Dean，谷歌的AI领域资深专家，自1999年加入谷歌以来，一直是公司在人工智能和机器学习领域的领军人物。他参与创立了Google Brain团队，并在2021年荣获IEEE冯诺依曼奖，以表彰他在大规模分布式计算机系统和人工智能系统科学与工程领域的杰出贡献。2023年，谷歌将Google Brain与DeepMind合并，成立了Google DeepMind，Jeff Dean担任首席科学家。

在与伦敦大学学院副教授Hannah Fry的访谈中，Jeff Dean回顾了他在谷歌的25年历程，以及AI技术的发展历程。他提到，90年代神经网络的性能有限，但他在大学时期就对大规模神经网络产生了兴趣。尽管早期尝试失败，但在谷歌与吴恩达的一次谈话后，他重新点燃了对神经网络的热情，并最终参与创立了Google Brain团队。

Jeff Dean还分享了Google与DeepMind合并的背后故事。他提到，深度学习之父Geoffrey Hinton在谷歌的一次访问中，提出了考察DeepMind的建议，这最终促成了两家公司的合作。DeepMind在强化学习领域的专长与谷歌在扩大神经网络规模方面的努力相结合，推动了AI技术的进步。

在讨论Transformer模型时，Jeff Dean解释了其在处理序列问题上的优势，如语言翻译、医疗诊断预测等。他指出，Transformer通过并行处理所有单词的状态，显著提高了模型的扩展性和性能。他还提到了Google Brain团队在语言建模方面的工作，以及如何通过高维向量表示单词，从而捕捉语言的深层含义。

此外，Jeff Dean还探讨了多模态模型的潜力，这些模型能够整合不同模态的输入数据，如文本、图像和声音，以提供更丰富的信息和更准确的预测。他认为，多模态模型的发展是AI领域的一个挑战，但也是实现更高级智能的关键。

最后，Jeff Dean提到了Gemini项目，这是Google Brain和DeepMind合并后的一个雄心勃勃的多模态项目，旨在训练高质量的大规模模型。他解释了Gemini这个名字的由来，象征着两个部门的合作和共同目标。

总的来说，Jeff Dean的访谈揭示了谷歌在AI领域的战略布局，以及他在推动AI技术发展中的关键角色。他的见解和经验为理解AI的过去、现在和未来提供了宝贵的视角。