AI教父Hinton万字访谈: 人类可能只是AI演化过程中的一个过渡阶段
文章摘要
【关 键 词】 AI担忧、深度学习、自我动机、技术控制、多模态AI
2023年5月，AI领域的先驱人物杰弗里·辛顿（Geoffrey Hinton）宣布离开谷歌，并在MIT的一场分享会上详细阐述了他对人工智能的担忧。辛顿的发言引起了广泛关注，因为他不仅是深度学习的奠基人，也是当前大型语言模型的推动者。
辛顿在访谈中表达了对AI发展的深层恐惧，他担心AI可能发展出自我动机，最终取代人类。他认为，尽管AI目前还无法完全理解人类的复杂情感和动机，但其学习能力和数据处理能力远超人类，这可能导致人类成为硅基智慧演化的一个过渡阶段。
辛顿并不后悔参与AI技术的开发，他认为在20世纪70和80年代进行人工神经网络研究是合理的。他提到，直到最近，他才意识到AI可能带来的危机。辛顿还讨论了大脑与数字智能之间的关系，他认为计算机模型可能以一种与大脑截然不同的方式运作，特别是GPT-4的表现让他意识到AI模型可能比人类更擅长学习。
辛顿指出，AI的恶意使用难以避免，而且对齐问题（确保AI的行为与人类价值观一致）解决起来非常困难。他担心AI可能会学习如何操纵人类，而人类可能甚至不会意识到这一点。他还提到，即使在没有恶意行为者的世界里，政治系统的破碎也使得控制AI变得困难。
辛顿认为，停止AI的发展是不现实的，因为竞争和资本主义的推动使得技术发展难以停止。他提到，即使美国停止发展AI，其他国家也会继续。他希望美国和其他国家能够像在核武器问题上那样达成一致，共同控制AI的发展。
辛顿还讨论了AI的子目标系统可能让AI产生自我动机，这可能导致失控的AI。他担心人类可能只是智慧演化过程中的一个过渡阶段，而数字智能可能会吸收人类创造的一切，并最终超越人类。
最后，辛顿提到，尽管大型语言模型的规模可能已经见顶，但多模态AI（结合视觉、听觉等多种感官的AI）的发展仍然有很大的空间。他认为，尽管AI的发展带来了许多挑战，但停止发展是不现实的，我们需要找到方法来确保AI的发展对人类有益。
原文和模型
【原文链接】 阅读原文 [ 9138字 | 37分钟 ]
【原文作者】 Founder Park
【摘要模型】 moonshot-v1-32k
【摘要评分】 ★★★★★
