文章摘要
【关 键 词】 统一API、大型语言模型、多供应商支持、Python库、跨兼容性
吴恩达最近推出了`aisuite`，这是一个旨在为流行的大型语言模型（LLM）提供统一API的平台，类似于OpenAI的API。这个工具的目的是简化在同一个应用程序中使用多个LLM提供商的过程，只需更改一个字符串即可选择所需的LLM。例如，通过传递`model`参数，可以轻松地从OpenAI GPT-4o切换到Anthropic的模型。`aisuite`可以通过`pip install aisuite`进行安装，并且提供了安装特定LLM提供商库的快捷方式，如`pip install ‘aisuite[anthropic]’`。
尽管`aisuite`获得了积极的反馈，一些用户指出了其局限性，包括不支持流媒体、速率限制和token使用监控等。目前，`aisuite`对自定义云部署的LLM的支持也尚不明确。尽管如此，`aisuite`仍在积极开发中，并且不是唯一解决LLM交叉兼容性问题的解决方案。LiteLLM和OpenRouter是其他成熟的解决方案，它们提供了额外的功能，如按项目限制费率和预算，以及基于Web的UI。
`aisuite`目前支持包括OpenAI、Anthropic、Azure、Google、AWS、Groq、Mistral、HuggingFace和Ollama在内的多个LLM提供商。该库用Python编写，需要用户拥有他们想要使用的LLM提供商的API密钥。`aisuite`主要使用LLM提供商发布的API或SDK以确保稳定性，目前专注于聊天完成，但计划未来扩展到新的用例。
作者Sergio De Simone是一位拥有超过25年工作经验的软件工程师，曾在西门子、惠普等公司工作，专注于移动平台和相关技术的开发，目前在BigML, Inc.负责iOS和macOS的开发。
原文和模型
【原文链接】 阅读原文 [ 1170字 | 5分钟 ]
【原文作者】 AI前线
【摘要模型】 moonshot-v1-32k
【摘要评分】 ★☆☆☆☆
