标签:提示缓存

Anthropic API新增提示缓存功能:成本降低90%,延迟降低85%

Anthropic公司为其大模型平台API引入了一项新功能——提示缓存(Prompt Caching),旨在帮助开发者优化API调用的效率和成本。这一功能特别适用于需要处理大量上...