标签：缓存策略

Anthropic API新增提示缓存功能：成本降低90%，延迟降低85%

Anthropic公司为其大模型平台API引入了一项新功能——提示缓存（Prompt Caching），旨在帮助开发者优化API调用的效率和成本。这一功能特别适用于需要处理大量上...

AIGC动态

1个月前