GPT-6引入改进版提示词缓存：提升命中率并降低延迟与成本
文章介绍了针对GPT-6优化的提示词缓存（Prompt Caching）技术。该机制通过实现更高的缓存命中率、引入全新诊断工具、显式断点设置以及细粒度控制功能，帮助开发者在调用模型时有效减少推理延迟并降低API使用成本。摘要中未提及更多底层架构细节或具体的性能测试对比数据。
推荐理由介绍了下一代大模型在提示词缓存与推理成本优化方面的重要工程改进。
原标题：Better prompt caching for GPT-6
阅读 OpenAI 官方动态 原文 ↗