为什么伟大不能被计划？亲历者揭秘 OpenAI 崛起的关键

433 0 0

文章摘要

在探讨如何实现伟大目标的过程中，两位人工智能研究者肯尼斯·斯坦利和乔尔·雷曼提出了一种与传统目标导向方法不同的视角。他们认为，在追求高远目标如通用人工智能（AGI）时，自由探索比严格规划更为有效。这一观点在他们合著的《为什么伟大不能被计划》一书中得到了阐述，并在他们加入OpenAI后的实践中得到了体现。

OpenAI虽然表面上看似一个目标导向的组织，但其实内部充满了开放性的探索。例如，ChatGPT这个意外的成功项目，最初并非公司的主要方向，而是在探索中逐渐发展起来的。OpenAI的CEO Sam Altman也认同这一观点，他强调在训练模型时，虽然指标的提升令人欣喜，但对于发现新的研究范式却并不总是有效。因此，他愿意尝试更多新奇性的探索，即使这意味着长时间的等待。

斯坦利和雷曼的研究起源于他们对人工智能“开放性系统”的兴趣，他们通过实验如图片孵化器和机器人迷宫，发现创新往往来自于非目标驱动的探索。他们认为，无论是在算法、个人还是组织层面，过于遥远的目标更适合通过自由探索来实现。

尽管OpenAI自成立以来就设定了实现AGI的宏伟目标，但斯坦利指出，公司内部实际上进行了许多开放性的探索。他认为，即使在追求AGI的过程中，也需要不断的新奇探索，而不是仅仅依赖于目标导向的方法。

雷曼补充说，OpenAI的成功不仅仅是因为目标导向，而是因为它愿意尝试不同的发展方向。例如，GPT背后的核心技术Transformer架构是由谷歌推出的，而OpenAI则是在此基础上进行探索和发展。

在讨论中，斯坦利和雷曼强调，开放性探索和目标驱动并不是对立的，而是可以相互融合的。他们认为，找到两者之间的平衡是非常微妙的，但这对于推动AGI的发展至关重要。

此外，他们还讨论了当前人工智能领域的竞争态势，指出过度的竞争可能会导致创新的减少，因为公司可能会过于专注于短期目标而忽视了长期的开放性探索。他们建议，为了实现AGI，公司不仅需要改进现有的模型，还需要探索新的路径。

最后，斯坦利和雷曼重申了他们的观点，即“伟大无法被计划”，并认为这一观点在未来很长一段时间内都不会过时。他们认为，社会需要认识到目标导向的局限性，并更加重视开放性探索的价值。