AI圈纷纷传阅，Andrej Karpathy 的最新演讲全文来了

92 0 0

文章摘要

Andrej Karpathy在首届YC AI创业学校的演讲中，深入探讨了人工智能时代软件的变革及其对未来编程范式的影响。他提出，软件正在经历第三次革命，即“软件3.0”，这一变革正在“吞噬”旧有的代码体系。Karpathy将软件的发展分为三个阶段：软件1.0是传统的编程代码，软件2.0是神经网络的权重，而软件3.0则是通过大语言模型（LLM）进行编程，提示词成为新的代码。这种变革不仅改变了编程的方式，还使得编程语言从传统的代码转向了自然语言，尤其是英语。Karpathy强调，这种用英语编程的范式，使得每个人都可能成为程序员，极大地降低了编程的门槛。

在演讲中，Karpathy详细解释了LLM的生态系统及其与操作系统的类比。他认为，LLM类似于一种新型的操作系统，具备计算、内存和上下文管理的能力。当前的LLM仍然处于“大型机时代”，计算资源集中在云端，用户通过网络进行交互，类似于1960年代的分时共享系统。Karpathy指出，个人计算革命尚未到来，但随着技术的发展，未来可能会出现更加个人化的LLM应用。

Karpathy还讨论了LLM的认知特性，指出它们虽然拥有超强的记忆能力，但也存在幻觉、编造内容等认知缺陷。他特别提到，LLM缺乏自我认知和长期记忆，这限制了它们在复杂任务中的应用。为了克服这些缺陷，Karpathy建议开发者应设计“生成-验证循环”，通过人类与AI的协作，确保系统的可靠性和安全性。

在应用层面，Karpathy提出了“部分自主应用”的概念，强调LLM应用应具备自主程度滑块，允许用户根据任务复杂性调整AI的自主性。他以编码工具Cursor和搜索引擎Perplexity为例，展示了如何通过GUI和上下文管理，提升人类与AI的协作效率。Karpathy认为，未来的软件将越来越多地融入AI，但人类仍然需要在循环中，确保系统的正确性和安全性。

最后，Karpathy展望了未来编程的发展方向，提出了“氛围编程”的概念，即通过自然语言进行编程，使得编程变得更加直观和易于理解。他乐观地认为，这种变革将使得更多人能够参与到软件开发中，推动技术的进一步普及和创新。