The Decoder· Matthias Bastian·· 4 小时前AI 评分71
Anthropic 在 Claude 平台公测 Message Threads,长对话首 token 时间缩短约 35%
Anthropic's Message Threads cut time to first token by 35 percent for long conversations
AI 导读
Anthropic 在 Claude 平台推出 Message Threads 公测功能,通过 API 只传输相较上一条消息发生变化的内容;Anthropic 称,对于 500,000 至 one million tokens 的请求,首 token 时间可缩短约 35%。
来源:The Decoder · the-decoder.com