2030年，AGI概率至少10%！AI范式转变快，谁能预测GenAI下一代？

127 0 0

文章摘要

Epoch AI高级研究员Ege Erdil通过结合外推预测和第一性原理推理，预测到2030年实现人类智力水平的AI可能性至少为10%，乐观估计为20%。外推预测方法依赖于历史数据和趋势分析，适用于预测AI在已有基础能力的任务上的进展速度，而第一性原理推理则基于人脑能力、训练数据可用性等基本事实，更适合预测AI尚未掌握的任务。这两种方法各有优劣，结合使用可以提供更全面的视角。

外推预测的局限性在于过度依赖AI过去和当前的能力，容易低估未来的突破。例如，2013年Frey和Osborne的预测认为计算机化任务的成功标准是可量化且易于评估，但随着深度学习的进步，这一预测被证明是错误的。类似地，2010年代中期的“预测机器”概念也未能预见AI向无监督学习和生成式AI的转变。这表明，仅依赖外推法预测AI未来能力存在严重缺陷。

第一性原理推理则提供了更具前瞻性的视角。例如，Ray Kurzweil在1999年基于人脑计算能力和摩尔定律，预测人类水平的AI将在2029年诞生。Ege Erdil进一步参考人脑的运行时计算能力、训练计算量、训练算法和训练数据量，提出了构建能够执行类似人类任务的AI系统的理论下限。目前，AI系统在大多数任务上已满足条件1、2和4，但在算法上仍逊色于人脑。

AI的经济影响预测同样面临挑战。Acemoglu在最近的论文中过度依赖外推法，估计未来十年AI将使经济产出增长0.7%。然而，这种预测忽略了AI未来可能执行许多当前无法完成的任务，因此可能严重低估了AI的潜在影响。Ege Erdil认为，科学推理任务反而更容易受到AI自动化的影响，因为人类在这些任务上的算法效率较低。

总体而言，预测AI未来发展应避免局限于当前能力，而应从任务的内在难度出发。尽管当前AI在许多任务上无法胜任，但这反映了自动化这些任务所需的资源需求。通过结合第一性原理推理，Ege Erdil得出了更为乐观的预测，认为到2030年实现人类水平的AI可能性至少为10%，甚至更高。这一结论与近期的历史发展相符，提醒我们不应依赖过去表现不佳的预测方法。