Кэширование промптов

Отправляешь один и тот же промпт снова и снова?

Добавь "cache_control": {"type": "ephemeral"} и получишь до 90% скидки на чтение из кэша и ответы до 85% быстрее.

Примечание: у каждой модели есть минимальная длина промпта, которую можно кэшировать.

Одна строка. Огромная экономия.

Минимальная кэшируемая длина промпта:

- 4096 токенов для Opus 4.5 и Haiku 4.5
- 1024 токена для Sonnet 4.5, Sonnet 4, Opus 4.1, Opus 4

Подробнее: в доках