OpenAI API’de 12 saatlik prompt önbelleği: Uzun süren ajanlar için daha ucuz girdi

OpenAI, API’de 12 saatlik prompt önbelleği (prompt caching) seçeneğini kullanıma açtı. Şirketin geliştirici değişiklik günlüğündeki 20 Ekim tarihli kayda göre 12 saatlik önbellek, ortak talimatları, araçları ve bağlamı daha uzun süre önbellekte tutarak, istekler arasında saatler olsa bile daha düşük önbellekli girdi fiyatından yararlanmayı sağlıyor. Özellik v1/responses uç noktası için duyuruldu.

Fiyatlandırma

Değişiklik günlüğüne göre 12 saatlik önbellek yazımları, girdi token fiyatının 2,5 katı olarak ücretlendiriliyor. Buna karşılık önbellekten yapılan okumalar, ilgili modelin indirimli önbellekli girdi fiyatından faturalanıyor. Bu yapı, aynı uzun sistem istemini, araç tanımlarını veya bağlamı tekrar tekrar kullanan ve gün içinde aralıklı istek gönderen ajanlar için anlamlı hâle geliyor.

Nasıl seçiliyor?

OpenAI’nin prompt caching rehberine göre önbellek süresi prompt_cache_retention parametresiyle seçiliyor ve desteklenen değerlerden biri "12h". Rehberde, bir isteğin içinde 12 saatlik ve 30 dakikalık kesme noktalarının (breakpoint) birlikte kullanılabildiği bir Responses API örneği de yer alıyor. Dokümana göre öne çıkan kurallar şunlar:

• Bir kesme noktası, kendisinden önceki tüm öneki kapsıyor. Tek bir istekte her token, onu kapsayan seçili yazımlar arasındaki en uzun süreye göre bir kez faturalanıyor.
• Geçerli 30 dakikalık kapsamı 12 saate yükseltmek, o token’lar için yeni bir 12 saatlik yazım ücreti doğuruyor; önceki yazım için indirim yapılmıyor. Halihazırda geçerli 12 saatlik kapsamda olan kısım önbellek okuması olarak sayılıyor.
• 30 dakikalık bir okuma, kapsamı okumadan sonra en az 30 dakikaya tazeliyor; geçerli 12 saatlik bir girdiyi kullanıyorsa mevcut bitiş süresi korunuyor, 12 saatlik saat yeniden başlamıyor ve ek yazım ücreti alınmıyor.

Veri saklama politikasıyla ilişkisi

Rehber, varsayılan önbellek davranışının kuruluşun veri saklama politikasına bağlı olduğunu, Sıfır Veri Saklama (ZDR) etkin kuruluşlar için varsayılanların farklılaşabildiğini belirtiyor ve geliştiricilere bir değer seçmeden önce kendi modelleri ve kuruluşları için hangi saklama seçeneklerinin mevcut olduğunu doğrulamalarını öneriyor.

Kaynak: OpenAI API Changelog (20 Ekim 2026) · OpenAI API: Prompt caching rehberi