Anthropic的Message

Anthropic在其Claude平台上发布了Message Threads功能，作为一项公开测试。此前，每次API请求都需要重新发送整个对话历史。而Message Threads仅传输自上次消息以来的更改内容，据Anthropic称，对于500,000到一百万个token的请求，可将首次获取token的时间缩短约35%。该公司表示，处理大量文档或图像的编码代理、计算机使用代理和工作流程将受益最大。该线程在请求之间保持加密状态，并在五分钟不活动后过期。由于Claude仍然读取完整的对话历史，因此token使用量不会改变。该功能可在Claude平台上以及通过AWS、Microsoft Foundry和Google Cloud使用。详细信息请参阅文档。