OpenAI：通用人工智能规划及未来

AIGC动态5个月前发布 admin

564 0 0

作者信息

【原文作者】 信息网络工程研究中心
【作者简介】 发布教育部信息网络工程研究中心的工作讯息、科研成果、学术动态
【微信号】 gh_61d0777e0d92

OpenAI：通用人工智能规划及未来

文章摘要

【关键词】 AGI、OpenAI、Sam Altman、人工智能、通用人工智能

Sam Altman，OpenAI首席执行官，于2023年2月24日发表了一篇关于AGI（通用人工智能）的文章。文章主要阐述了OpenAI的使命，即确保AGI造福全人类，并探讨了AGI带来的潜在利益和挑战。

首先，Altman指出，如果AGI被成功创造，它将大幅提升人类能力、增加社会财富、推动全球经济增长、发现全新科学知识，从而追求无限可能。AGI有潜力为每个人提供难以置信的新能力，成为一个强大的能力放大器。

然而，AGI也带来了严重滥用、重大事故和社会混乱的风险。因此，社会和AGI的创造者们必须弄清楚如何把它做好。Altman强调了OpenAI最关心的三个原则：确保AGI让人类在宇宙中最大限度地繁荣；希望AGI的益处、使用和治理能够被广泛和公平地共享；成功应对巨大的风险。

在短期内，Altman认为有几件事需要提前做好准备，以迎接AGI的到来。首先，随着更强大的系统的创建，他希望部署它们并获得在现实世界中操作它们的经验。这将有助于逐步过渡到一个有AGI的世界，从而降低风险。其次，OpenAI正在努力创建越来越和人类价值观对齐、可操控的模型。此外，Altman还呼吁就如何管理这些系统、如何公平分配收益以及如何公平使用展开全球性对话。

在长期内，Altman相信人类的未来应由人类决定，应对所有试图建立AGI的行为进行严格审查，并对重大决策进行公众咨询。他认为，第一个AGI仅仅是智能发展进程的一个点，它会继续进步，可能会在很长一段时间保持过去10年发展速度。

总之，Altman表示，成功平稳过渡到一个拥有超级智能的世界也许是人类历史上最为重要、最充满希望、也是最可怕的工程。OpenAI致力于为世界贡献与这种繁荣相称的AGI。