“为什么说大模型可能是软件开发的死胡同？”

246 0 0

文章摘要

本文探讨了大语言模型（LLM）在软件开发中应用的局限性和挑战。作者指出，当前的AI系统缺乏内部结构，无法作为组件进行开发或重用，也无法进行关注点分离或分阶段开发。LLM被像汽车一样出售，用户需要为整个产品付费，而不能将其作为可组合模块的一部分。这种做法违背了计算领域的基本原则，即任务应当可以被分解。

LLM的运作模式导致了一系列问题，包括无法将LLM的行为与训练数据分离，安全和隐私问题，以及法律所有权问题。这些问题使得LLM在软件开发中的应用前景受限，除非LLM本身就是产品。作者认为，将重大创新外包给LLM厂商，实际上是将自己的产品路线图交给了另一家公司掌控。

对于软件开发人员来说，应对LLM的挑战需要保持开放的态度，拥抱真正可解释、可测试的AI。开发人员应当设计一个能够为企业提供所需功能的流程，然后开发一个平台，以可持续的方式让开发人员进行构建。关键要设计一个能够为企业提供所需功能的流程，然后开发一个平台，以可持续的方式让开发人员进行构建。

本文强调，软件开发人员不应因追求短期的热度而轻易改变游戏规则。作为开发人员，我们应当保持开放的态度，拥抱真正可解释、可测试的AI。如果涉及训练过程，这个过程应当是可监控、可报告、可重复、可解释且可逆的。作者担心的是，这种差异就像是科学与圣物信仰之间的对比，不应该期望这两个领域会有任何融合的可能性。