大模型的能力被夸大了

412 0 0

模型信息

【模型公司】 OpenAI
【模型名称】 gpt-4-0125-preview
【摘要评分】 ★★★★★

大模型的能力被夸大了

文章摘要

大模型技术，尤其是语言模型（LLM），被广泛认为是提升工作效率的关键技术。麦肯锡的预测显示，LLM和其他生成式AI技术每年能为全球企业带来高达4.4万亿美元的利润增长，而尼尔森公司则宣称这些工具能使员工生产力提升66%。然而，尽管这些预测充满乐观，但也有理由怀疑这些工具是否真能对企业生产力产生革命性影响。生产力评估往往关注于单一任务层面，而将这些具体发现推广到企业层面可能会带来高昂的成本。

研究表明，虽然在某些情况下使用生成式AI能够提高生产力，但在数据覆盖不足或推理能力不足的任务上，生产力实际上可能下降。此外，引入新技术可能导致专家人才流失，这些人才的工作成果是培训这些系统的基础。因此，建议企业在采纳LLM时采取更为细致和数据驱动的策略，考虑这项技术真正能带来帮助的领域，并压制将其融入组织中所有工作和任务的冲动。

LLM的两个关键问题对其长期商业影响至关重要：其持续生成令人信服的错误信息的能力，以及长期使用LLM可能对员工和内部流程带来的负面影响。尽管LLM在语法流畅性上取得了巨大进步，但它们在自动查找事实方面并不出色。此外，LLM可能扭曲了优秀员工的激励机制，并可能在复杂的工作流程中引入系统性风险。

LLM还面临着被过去束缚的问题，即当组织推出新产品或服务时，可能没有足够的数据来训练模型。此外，模型崩溃是另一个重要问题，即当这些系统开始基于自身的输出进行训练时，将迅速降低质量。长期视角下，非事实性输出的问题需要更多关注，例如使用LLM编写法律文书或员工手册可能导致错误和效率低下。

解决LLM在强化和放大偏见方面的作用也至关重要。多元化和包容性劳动力的益处已被广泛证实，而像LLM这样的技术可能通过消除边缘化社区使用的语言类型或者通过糟糕的总结减少它们的贡献，使这些社区感到被忽视或不受欢迎。

综上所述，尽管LLM和其他生成式AI技术在某些领域显示出提高生产力的潜力，但它们也带来了一系列风险和挑战。企业在采用这些技术时应采取谨慎的态度，考虑其长期影响，并在适当的情况下有效且自信地使用这些工具。