人类下一个奇点，超级智能时代

83 0 0

文章摘要

Sam Altman在其博客文章《温和的奇点》中，详细探讨了人工智能（AI）技术发展的现状与未来趋势。他指出，人类已经跨越了技术发展的关键转折点，正迈向数字超级智能时代。尽管目前机器人尚未普及，但AI在许多领域已经展现出超越人类的能力，并显著提升了工作效率。Altman预测，到2025年，能够进行认知工作的智能体将出现，2026年可能会出现能够提出新见解的系统，2027年或许会有能够执行现实世界任务的机器人问世。这些技术将使更多人能够创造软件和艺术，虽然专家仍会优于新手，但新工具的普及将带来巨大变革。

到2030年代，智力和能源将成为极其丰富的资源，这将消除人类进步的两大限制。Altman认为，AI将在许多方面为世界做出贡献，尤其是在推动科学进步和提高生产力方面，从而带来生活质量的显著提升。科学进步是整体进步的最大驱动力，未来可能会比现在好得多。ChatGPT已经比任何在世的人类都更强大，数亿人每天都依赖它完成越来越重要的任务。一项小小的新功能可以创造巨大的积极影响，而一个小小的错位乘以数亿人，则可能造成巨大的负面影响。

Altman强调，AI的快速发展将带来一系列变化。到2030年，一个人能够完成的工作量将比2020年多得多，这将是一个惊人的变化，许多人将从中找到受益的方法。然而，2030年代在某些方面可能不会有太大的不同，人们仍然会爱自己的家人，表达自己的创造力，玩游戏，在湖里游泳。但在其他非常重要的方面，2030年代可能会与以往任何时候都大不相同。我们不知道我们能超越人类水平的智能有多远，但我们即将揭晓答案。

智力和能源的丰富将消除人类进步的基本限制因素，理论上我们可以拥有其他任何东西。我们已经生活在令人难以置信的数字智能之中，在最初的震惊之后，我们大多数人都已经相当习惯了。我们很快就从惊讶于人工智能能生成一段优美的文字，到期待它何时能写出一本优美的小说；或者从惊讶于它能做出挽救生命的医学诊断，到期待它何时能开发出治疗方法；或者从惊讶于它能创建一个小型计算机程序，到期待它何时能创建一整个新公司。这就是奇点的发展方式：奇迹变成常规，然后成为基准。

科学家们表示，他们的生产力比使用人工智能之前提高了两到三倍。先进的人工智能之所以有趣，原因有很多，但也许最重要的是，我们可以用它来更快地进行人工智能研究。我们可能会发现新的计算基质、更好的算法，以及其他未知的东西。如果我们能在一年甚至一个月内完成十年的研究工作，那么进步的速度显然会大不相同。从现在起，我们已经开发的工具将帮助我们获得更多的科学洞见，并帮助我们创建更好的人工智能系统。当然，这与人工智能系统完全自主更新自己的代码不同，但这仍然是递归自我改进的初级形式。

经济价值的创造已经启动了一个飞轮，推动着用于运行这些日益强大的人工智能系统的基础设施的复合式建设。能够制造其他机器人的机器人也不远了。如果我们必须用传统方式制造第一批一百万个类人机器人，但之后它们可以运营整个供应链——挖掘和提炼矿物、驾驶卡车、运营工厂等等——来制造更多的机器人，而这些机器人又可以建造更多的芯片制造设施、数据中心等，那么进步的速度显然会大不相同。随着数据中心生产的自动化，智能的成本最终应该会趋近于电力的成本。技术进步的速度将继续加快，而且人们将继续能够适应几乎任何事情。

将会有非常困难的部分，比如整个类别的工作消失，但另一方面，世界将迅速变得更加富有，我们将能够认真考虑以前从未考虑过的新政策想法。我们可能不会一下子就采用新的社会契约，但当我们几十年后回顾时，这些渐进的变化将带来巨大的影响。如果历史有任何借鉴意义的话，我们会想出新的事情去做，新的东西去追求，并迅速吸收新工具（工业革命后的工作变化就是一个很好的近期例子）。期望会提高，但能力也会同样迅速提高，我们都会得到更好的东西。我们将为彼此创造越来越美好的事物。人类相对于人工智能有一个长期重要且有趣的优势：我们天生就关心他人以及他们的想法和行为，而我们对机器并不太关心。

新奇迹实现的速度将是巨大的。今天很难想象到2035年我们会有什么发现；也许我们会在一年内解决高能物理问题，第二年就开始太空殖民；或者在一年内实现重大材料科学突破，第二年就实现真正的高带宽脑机接口。许多人会选择以大致相同的方式生活，但至少有些人可能会决定“接入”。展望未来，这听起来很难理解。但亲身经历可能会让人印象深刻，但也并非无法应对。从相对论的角度来看，奇点是一点一点发生的，融合是缓慢进行的。我们正在攀登指数级技术进步的长弧；向前看总是像垂直的，向后看则是平坦的，但它是一条平滑的曲线。

除了巨大的好处之外，还有一些严重的挑战需要面对。我们确实需要从技术和社会两方面解决安全问题，但考虑到经济影响，广泛普及超级智能的访问权限也至关重要。最好的前进道路可能是这样的：解决对齐问题，这意味着我们可以可靠地保证我们让人工智能系统学习并朝着我们集体长期真正想要的方向行动。然后专注于使超级智能变得便宜、广泛可用，并且不太集中在任何个人、公司或国家手中。社会是有韧性的、有创造力的，并且适应迅速。如果我们能够利用人们的集体意愿和智慧，那么尽管我们会犯很多错误，有些事情会变得非常糟糕，但我们会快速学习和适应，并能够利用这项技术获得最大的好处和最小的坏处。在社会必须决定的广泛范围内，给予用户很多自由似乎非常重要。世界越早开始讨论这些广泛的界限是什么，以及我们如何定义集体对齐，就越好。

我们（整个行业，而不仅仅是OpenAI）正在为世界构建一个大脑。它将非常个性化，每个人都很容易使用；我们将受到好想法的限制。长期以来，创业行业的技术人员一直嘲笑“创意人士”；那些有想法并寻找团队来实现的人。现在在我看来，他们即将迎来自己的辉煌时刻。OpenAI现在有很多身份，但首先，我们是一家超级智能研究公司。我们面前有很多工作要做，但我们面前的大部分道路现在已经照亮，黑暗的区域正在迅速消退。我们非常感激能够做我们所做的事情。廉价到无需计量的智能已经触手可及。这听起来可能很疯狂，但如果我们在2020年告诉你我们会走到今天这一步，这可能比我们目前对2030年的预测听起来更疯狂。愿我们平稳地、指数级地、平静地跨越超级智能。