文章摘要
【关 键 词】 人工智能、开放探索、目标导向、通用AI、创新突破
在探讨人工智能（AI）领域的进步和挑战时，两位研究者肯尼斯·斯坦利（Kenneth Stanley）和乔尔·雷曼（Joel Lehman）提出了一种与传统目标导向方法不同的视角。他们认为，在追求高远且不确定的目标，如通用人工智能（AGI）时，开放性探索比严格规划更为有效。这一观点在他们合著的《为什么伟大不能被计划》一书中得到了阐述，并在他们加入OpenAI后得到了实践的验证。
OpenAI自2015年成立以来，虽然表面上看似遵循目标导向的路径，但实际上在其内部进行了许多开放性的探索。例如，ChatGPT的诞生就是一个意料之外的项目，它最初并非是公司的主要发展方向，却最终成为了一个突破性的成果。OpenAI的CEO Sam Altman也是这本书的支持者，他认为在训练模型时，虽然指标的上升令人鼓舞，但对于发现新的研究范式来说，这种目标导向的方法并不总是有效。他强调了在探索新奇性时的耐心，即使大多数时候这种探索并不成功，但一旦成功，其效果将是惊人的。
然而，随着AI技术的发展，全球AI行业的竞争日益激烈，这种竞争可能会导致研究走向狭窄的目标，从而限制了开放性探索的空间。斯坦利和雷曼警告说，仅仅依靠Scaling Law（缩放定律）这样的“踏脚石”是不够的，因为AGI的目标仍然遥不可及。他们认为，目前行业的目标过于集中，可能会导致研究进入“死胡同”。
尽管如此，斯坦利和雷曼在OpenAI的工作经历中，看到了开放性探索如何塑造了公司的成功。他们认为，开放性探索和目标驱动并不是对立的，而是可以相互融合的。在他们的对话中，他们提到了OpenAI内部的探索精神，以及如何通过不断的尝试和迭代来推动创新。
尽管他们对目标导向的方法持批评态度，但他们也认识到，在当前的AI行业中，这种目标导向的方法仍然占据主导地位。他们指出，许多公司在早期就建立了一套体系，并且非常目标导向，这可能会减少开放性探索的机会。他们建议，为了实现AGI，公司不仅需要改善现有的模型，还需要探索新的路径。
最终，斯坦利和雷曼离开了OpenAI，转而寻求更多开放性探索的机会。雷曼加入了一家研究虚拟生命的公司，而斯坦利创办了基于开放性系统的社交网络Maven，并获得了Sam Altman的投资。他们的经历和观点强调了在追求AI领域的长期和深远目标时，开放性探索的重要性。
原文和模型
【原文链接】 阅读原文 [ 8391字 | 34分钟 ]
【原文作者】 极客公园
【摘要模型】 moonshot-v1-32k
【摘要评分】 ★★★★★
