天下苦LangChain久矣

932 0 0

文章摘要

Ell 是一个新发布的语言模型编程库，旨在与 LangChain、Llama-Index 和 DSPy 等现有库竞争，甚至有可能取代它们。Ell 的核心维护者对 LangChain 的抽象表示不满，认为 Ell 提供了一种更简洁的解决方案。Ell 的设计理念是将提示视为程序而非简单的字符串，这一理念在社区中引起了讨论。

Ell 的一个显著特点是其对多模态输入的支持，允许用户上传图像并基于这些图像提问，这为广泛的应用场景打开了大门。此外，Ell 还支持结构化输出，尽管这一功能目前只对特定版本的 GPT-4 模型可用。

Ell 的监控功能允许用户跟踪提示的变化，包括延迟和 Token 使用等指标，所有这些数据都存储在本地数据库中，而不是第三方数据库。尽管作者对监控功能的实际效用持怀疑态度，但认为将提示-响应对存储在数据库中有助于创建微调数据集。

在工具使用方面，Ell 支持使用装饰器来定义工具，尽管作者在尝试使用 SERPAPI 搜索时遇到了困难。此外，Ell 的前端使用 React，后端则基于 FastAPI，这种架构设计受到了作者的赞赏。

尽管 Ell 在某些方面还不够成熟，例如与 DSPy 相比，实现如 RAG 这样的功能可能需要更多的工作，而且它也没有 LangChain 提供的广泛集成。但作者鼓励社区尝试 Ell 并形成自己的看法。

作者对 Ell 的一些核心概念持保留态度，例如将提示视为程序，以及对 LLM 的不同理解。尽管如此，作者认为 Ell 的出现是有益的，因为它提供了不同的抽象方式来与语言模型一起工作。

最后，作者提出了关于 API 调用之上是否需要抽象，以及正确的抽象级别应该是什么样的问题，这引发了对语言模型编程库未来发展的进一步思考。