GPT-6 получила улучшенный prompt caching — диагностика, явные breakpoints и ниже цена

Prompt caching для GPT-6 переработан: явные breakpoints и рост cache hit rate ⚡

В агентных сценариях счёт делают не одиночные запросы, а повторяющиеся. Именно под них OpenAI переработала prompt caching для GPT-6 — 23 сентября 2026 на странице «Better prompt caching for GPT-6» заявлен рост cache hit rate, то есть доли попаданий в кеш.

Что конкретно выкатили:

— вырос cache hit rate;

— новые инструменты диагностики кеша;

— explicit breakpoints, явные точки разрыва кеша;

— контроли, которые режут латентность и стоимость.

Эффект сформулировали без воды: повторяющиеся запросы становятся дешевле и быстрее. А именно на повторах стоит любой агентный пайплайн.

Что чаще всего упускают: диагностика и явные breakpoints превращают кеш из чёрного ящика в управляемый .🔍 До этого поймать, где точки разрыва кеша, было нечем. Теперь они видны и задаются вручную.

Разбор кеширования для GPT-6