怎样保证你不是AGI独裁者？马斯克为何退出OpenAI？早期邮件公开了

AIGC动态1个月前发布 almosthuman2014

201 0 0

文章摘要

今年，OpenAI与马斯克之间的纠纷持续升级。3月份，马斯克指控OpenAI不计后果地开发人类级别的人工智能，并在诉讼文件中详细阐述。随后，OpenAI通过公开邮件往来截图驳斥了马斯克的所有指控，指出马斯克承诺投资10亿美元，实际只投了不到4500万美元，并希望完全控制OpenAI或将其并入特斯拉，但被拒绝。

11月14日，马斯克针对OpenAI的起诉升级，增加了新的原告和被告。随着起诉文件的更新，Elon Musk、Sam Altman、Ilya Sutskever和Greg Brockman之间的往来邮件已经作为法庭诉讼程序的一部分公开。马斯克试图通过这些邮件证明OpenAI违反反垄断法，并表达了他对OpenAI背离最初愿景的背叛感。

邮件内容显示，马斯克对OpenAI与DeepMind/Google相抗衡的可能性评估为0%，认为需要每年数十亿美元的投入。他强调，人类的未来掌握在■■■手中，而从第二批曝光的邮件来看，这个答案大概可以锁定是谷歌。马斯克最担心的竞争者是Google与DeepMind。

2015年7月，Sam Altman举办了一场晚宴，Elon Musk、Greg Brockman、Ilya Sutskever相聚在一起。他们意识到人工智能需要一个非营利组织，让AI普惠世人。但很快，他们就发现了各种各样的困难，特别是由于OpenAI不赚钱，给人才提供的薪水没有别的公司高。

2015年底，DeepMind开出高价工资，在NIPS会场“抢夺”OpenAI看中的人才。Sam Altman担心OpenAI会被扼杀在摇篮里，主动给每个人每年增加了10-20万的薪酬，这引来了马斯克的疑问。马斯克以开放的姿态拥抱了涨薪计划，表示需要尽一切努力来获得顶尖人才。

但在2017年秋天，OpenAI创始团队一开始融洽的关系出现了裂痕。根据Shivon Zilis发给马斯克的邮件，Greg和Ilya开了一个小会，最终汇总为7个问题，涉及公司的绝对控制权、控制权和过渡时间、马斯克愿意花多少时间在OpenAI、马斯克具体如何分配时间、时间与控制权的比例、股权分割、融资目标等。

马斯克的回复是：“这太烦人了。请让他们去创业。我受够了。”Ilya Sutskever在这封主题为“Honest Thoughts”的邮件中进一步提出了对马斯克担任公司领导者的顾虑。他担心，尽管马斯克当前并无此意，但随着公司在通往AGI的道路上取得实际进展，马斯克可能会选择继续保留对公司的绝对控制权。

结合后来的事件发展，Sam Altman正在设计另一套模式“让4-5家有兴趣的大型企业投资的方式，该工具的回报上限为50倍”。由于缺少上下文，只能从这封邮件中得知，马斯克被要求正式从董事会辞职。后面的故事我们就很熟悉了，在Sam Altman的亲自设计之下，OpenAI Inc.搭建了一家“有收益上限”的有限合伙企业——OpenAI LP，并以此为主体对外融资。马斯克退出了OpenAI董事会，并在公开场合表示，离开的原因是利益冲突。然而不到六个月后，OpenAI就获得了微软10亿美元的投资，微软还提供了基础设施技术，二者一起搭建了一台超级计算机来训练ChatGPT以及图像生成器DALL-E的大型模型。