跳到正文
原文
OpenAI News·· 15 天前AI 评分44

GPT-6 如何改进提示词缓存

Better prompt caching for GPT-6

AI 导读

GPT-6 改进了提示词缓存机制,提供更高的缓存命中率、新的诊断工具、显式断点和成本控制功能。这些改进可降低推理延迟和使用成本。

来源:OpenAI News · openai.com