ai·борщ
Все статьи →
БЛОГ

Кэширование промптов: как снизить счёт за ИИ-агентов в несколько раз

Anthropic снизила цену чтения из кэша на 75%. Как собрать промпт, чтобы бренд-гайд и база знаний кэшировались, и сколько это экономит на агентах.

3 сентября 2026 · AI Борщ

1 сентября 2026 года Anthropic выпустила Claude Fable 5.1 и снизила цену чтения из кэша на 75%: с 1 доллара до 25 центов за миллион токенов при цене обычного входа 10 долларов. Кэш хранит повторяющуюся часть промпта, например бренд-гайд, базу знаний или инструкции агента, и при следующих запросах модель читает её по сниженной цене. По оценке Anthropic, типичные расходы на Fable снизятся примерно на 25%, а в агентных сценариях до 45%. Экономия появляется, только если промпт собран правильно: неизменная часть в начале, переменная в конце.

Что такое кэш промпта

Провайдер сохраняет обработанное начало промпта. Если следующий запрос начинается так же, это начало читается из кэша по сниженной цене. Запись в кэш стоит дороже обычного входа: у Fable 5.1 запись на пять минут стоит 12,5 доллара за миллион токенов, на час 20 долларов. Минимальный размер кэшируемой части у Fable 5.1 - 512 токенов.

У других провайдеров механика похожая. У остальных моделей Claude чтение из кэша стоит 10% от цены входа. В GPT-5.6 появились явные точки кэширования и минимальный срок жизни кэша 30 минут. У DeepSeek V4-Pro чтение из кэша в пиковые часы стоит 4,4 цента за миллион токенов против 1,32 доллара без кэша.

Что кэшировать в маркетинге

  • ToV-файл и бренд-гайд, которые идут в каждый запрос на контент.
  • Базу знаний о продукте, прайс и условия.
  • Инструкции агента и описания его инструментов.
  • Длинный документ, по которому задаёшь много вопросов: договор, отчёт, расшифровки.
  • Историю диалога агента, который работает над задачей долго.

Как собрать промпт

  • Неизменную часть ставь в начало: инструкции, голос бренда, база знаний.
  • Переменную часть ставь в конец: вопрос, данные конкретной заявки, текст для правки.
  • Не меняй порядок и формат неизменной части: любое изменение в начале сбрасывает кэш.
  • Следи, чтобы запросы шли чаще, чем истекает срок жизни кэша.
  • Смотри в отчёте API долю токенов, прочитанных из кэша. Это главная метрика настройки.

Пример расчёта

Условный агент обрабатывает 1000 запросов в день. В каждом общая часть на 20 тысяч токенов, переменная на тысячу и ответ на 500 токенов. Модель Fable 5.1, кэш на час обновляется 24 раза в сутки.

ВариантЗапись в кэш, $Чтение из кэша, $Обычный вход, $Выход, $Итого в день, $
Без кэша0021025235
С кэшем по ценам Fable 59,620102564,6
С кэшем по ценам Fable 5.19,65102549,6

Кэш снижает счёт почти в пять раз, новая цена чтения добавляет ещё почти четверть экономии. На реальной задаче Cognition получила снижение стоимости одной задачи с 5,84 до 2,68 доллара, больше 95% токенов там пришлось на чтение из кэша.

Ограничения

  • Кэш живёт минуты или час. Редкие запросы не успевают его использовать.
  • Любая правка в начале промпта сбрасывает кэш, и за повторную запись приходится платить.
  • Запись дороже обычного входа, поэтому кэшировать то, что читается один раз, невыгодно.
  • Если повторяющегося контекста нет, экономии тоже нет.
  • На части платформ новые цены вводят поэтапно до конца осени, сверяй их на странице провайдера.

Ещё одна деталь релиза важна для маркетолога: Fable 5.1 и Mythos 5.1 - первые модели Claude, которые добавляют невидимые водяные знаки в тексты и файлы. Anthropic связывает это с требованиями EU AI Act.

Что осталось в записи и презентации

Илья Бердыш показал на AI Борще, как в mymeet.ai AI-агенты работают внутри компании, в том числе ведут Директ. У агентов, которые каждый день перечитывают одни и те же инструкции и данные, кэш даёт основную экономию. Как устроены агенты, есть в записи доклада.

Получить запись и материалы конференции →

Читайте по теме: Стоимость ИИ-задачи в маркетинге · Промпты для маркетолога: контекст важнее слов · Скрытая цена ИИ-инфраструктуры

AI Борщ прошёл 30 июня 2026. Доступна полная видеозапись конференции и все материалы спикеров.

Получить запись →
← Все статьиНа главнуюЗапись