纽约大学 Bud Mishra 教授：AI 时代，人类与智能机器如何共生？

956 0 0

文章摘要

本文探讨了人工智能（AI）技术的发展及其与人类共生关系的可能影响。文章首先回顾了艾萨克·阿西莫夫提出的“机器人三大法则”，这些法则为机器人与人类的共生关系提供了伦理指导。然而，在当今AI技术日益成熟和复杂化的背景下，这些法则是否仍然适用，以及它们在现代AI伦理和设计中的应用和挑战是什么，成为了一个值得探讨的问题。

纽约大学教授Bud Mishra提出了一种新颖的视角，他认为人和智能机器的共存类似于线粒体与真核细胞之间的复杂共存关系。他将这一观点发表在了《AI, Thinking Machines and a Vast Active Living Intelligent System》一文中，该论文从生物学的维度思考和畅想人工智能的未来，利用信息不对称性博弈论的工具去分析和讨论未来人工智能时代人和智能机器共生的可能性。

Bud Mishra教授是纽约大学库兰特生物信息学组的创建者，他的研究专注于使用计算方法来分析和理解复杂的生物数据。他的跨学科方法和创新研究在学术界受到广泛认可。在早期的研究中，Mishra教授提出了一个新的生物信息学计算工具Valis（Vast Active Living Intelligent System），旨在解决生物学界当前面临的基因组学和蛋白质组学问题。

在《AI, Thinking Machines and a Vast Active Living Intelligent System》这篇论文中，Mishra教授设定了一个个体“V”，它是众多相似（但非完全相同）的个体V构成的庞大集合中的一员，它能够向其他的个体“V”发送信号、互相交流。他指出，生命体与非生命体之间的界限并不是绝对的，在某些情况下，生命体可以与非生命体共生，并通过公开可见的信号进行策略性互动。

Mishra教授提出AI与人类之间的共生关系也可以通过逐渐的演化和适应来发展，从而形成一种互利共生的状态。一种可能的共生关系是，AI依赖人类的创造力和道德判断，而人类依赖AI的数据处理和分析能力。共生关系中的双方会共同进化，以更好地适应环境和彼此的需求。

然而，这种共生关系的实现并非易事，将面临诸多挑战，包括如何确保双方的利益平衡、如何防止AI的滥用以及如何处理可能出现的伦理和法律问题。Mishra教授认为，在这一过程中，信息不对称博弈论是设计AI与人类之间的共生机制的重要工具。

在论文中，Mishra教授使用信号游戏的概念来分析AI和人类之间的互动，AI和人类通过发送和接收信号来进行沟通和决策。最终达到纳什均衡，其中欺骗行为不是最优策略。在分离均衡状态下，人类可能无法克服信息不对称，但仍能够区分出具有欺骗性信号的发送者和诚实发信号的发送者。

Mishra教授目前正在设计一个推理系统，使用“直觉”来实现这一目标。他指出，纳什均衡最终将达到什么样的状态，以及其稳定性如何，或许很快就会看到答案。但是，这些答案可能会使人类陷入“进化的死胡同”，由于某些偶然或快速发生的事件，使得生物或技术的进化路径被锁定，无法进一步发展或适应新的环境。

在面对AI技术的发展时，人类需要保持审慎和警惕，同时也要保持开放和包容的心态，以应对可能出现的各种挑战和机遇。为更好地讨论上述问题，加强跨学科的合作与交流，以推动人工智能技术的健康发展并为人类社会的进步做出贡献，Mishra教授及受邀专家学者，与GAIR研究院、IJAIRR期刊、雷峰网一起，将于 X 月 X 日召开网络研讨会。