Gemini 4 Neon Bağlam Önbellekleme: %95 Giriş İndirimi Nasıl Sağlanır?
Gemini 4 Neon'da bağlam önbellekleme yalnızca örtük (implicit) şekilde çalışır. Siz bir önbellek oluşturmazsınız. Google, en az 4.096 tokenlık tekrarlanan istem (prompt) öneklerini kendiliğinden önbelleğe alır ve bu önbelleğe alınmış giriş tokenlarını 1M başına 3 $ yerine 0,15 $ ile faturalandırır; yani %95'lik bir indirim sağlar. Bunun avantajından yararlanmak için her istemin sabit kısmını başa koyup bayt bayt aynı tutun ve isabetleri usage.total_cached_tokens alanından doğrulayın.
Aşağıda: önbellek isabetleri için istem düzeni, ajan döngüsü kuralı, önbelleğe alınan token sayısının okunması ve kodlama ajanınızın sizin adınıza çalıştıracağı bir test yer alıyor.
Gemini 4 Neon bağlam önbellekleme nasıl çalışır?
Gemini 4 Neon bağlam önbellekleme, otomatik önek önbelleklemedir. Yeni bir istek, yakın zamanda gönderilen bir istekle aynı tokenlarla başladığında ve bu ortak önek en az 4.096 token uzunluğunda olduğunda, Google tekrarlanan kısmı önbellekten sunar ve önbellek fiyatıyla faturalandırır. Açıp kapatmanız gereken bir ayar, yönetmeniz gereken bir önbellek nesnesi, TTL veya depolama ücreti yoktur.
Google, Neon'u 18 Kasım 2026'da yayınladı (model kimliği gemini-4-neon, bkz. lansman yazısı). Önbellekleme bilgileri tek bir tabloya sığar:
| Kalem | Gemini 4 Neon |
|---|---|
| Önbellekleme modu | Yalnızca örtük, varsayılan olarak açık |
Belirgin (explicit) önbellekleme (cachedContents, caches.create) |
Desteklenmiyor |
| Önbellek isabeti için minimum önek | 4.096 token |
| Standart giriş | 1M token başına 3,00 $ |
| Önbelleğe alınmış giriş (Standart) | 1M token başına 0,15 $ |
| Önbelleğe alınmış giriş (Batch ve Flex) | 1M token başına 0,075 $ |
| Önbelleğe alınmış giriş (Priority) | 1M token başına 0,27 $ |
| İsabetleri nerede görebilirsiniz | usage.total_cached_tokens |
| Ücretsiz katman | Yok, yalnızca ücretli katman |
İndirim her katmanda %95'tir: 0,15 $, 3 $'ın %5'idir; 0,075 $, 1,50 $'ın %5'idir; 0,27 $ ise 5,40 $'ın %5'idir. Düşünme tokenları dahil çıktı tokenları, Standart katmanda 1M başına 15 $ olarak kalır. Önbellekleme yalnızca girişi etkiler.
Gemini 4 Neon örtük önbellekleme ve belirgin önbellekleme
Gemini 2.5 veya 3 üzerinde belirgin önbellekleme kullandıysanız, kodu bozan değişiklik tam olarak budur. Google'ın Neon geçiş notları bunu açıkça söylüyor: Gemini 4 Neon "belirgin önbellekleme desteklemiyor (cachedContents ve caches.create)" ve isteklerden cached_content alanlarını "kaldırmanız" gerekiyor.
Önbellekleme dokümantasyonu ayrıca Interactions API'nin yalnızca örtük önbellekleme desteklediğini ve belirgin önbelleklemenin hiçbir Gemini 4 modelinde kullanılamadığını belirtir. Belirgin önbellekler, desteklenen Gemini 3 ve 2.5 modellerinde generateContent üzerinden hâlâ çalışır.
Bu, geçiş için ne anlama geliyor:
-
caches.createçağırıp önbellek adı depolayan kodu silin. - Her istek gövdesinden
cached_contentalanını kaldırın. - Artık kullanmadığınız önbellek depolaması için ödeme yapmayı bırakın.
- İstemlerinizi, önceden belirgin şekilde önbelleğe aldığınız içerik her isteğin en başında olacak şekilde yeniden yapılandırın.
Bir belgeyi sabitleyemez veya bir TTL seçemezsiniz ve bir isabet garanti edilmez. Ancak şansınızı epey artırabilirsiniz.
Gemini 4 Neon önbelleğine isabet almak için istemleri nasıl yapılandırmalısınız?
Önbellek isabeti için, uzun ve birebir aynı bir önekin kısa süre içinde yeniden gönderilmesi gerekir. Google'ın dokümantasyonu iki ipucu verir: büyük ve ortak içeriği isteminizin başına koyun ve benzer önekli istekleri kısa bir süre içinde gönderin.
Her isteği şu sırayla oluşturun:
- Sistem talimatı. Sabit metin; zaman damgası, kullanıcı adı, istek kimliği yok.
- Araç ve fonksiyon bildirimleri. Her seferinde aynı liste, aynı sıra, aynı açıklamalar.
- Paylaşılan belgeler. Kod tabanı, sözleşme, API spesifikasyonu, uzun politika dosyası.
- Değişen kısım. Kullanıcının sorusu, en son araç sonucu, bugünün tarihi.
Önbellek ıskalamanın en yaygın nedeni, başa yakın küçük bir dinamik değerdir. Sistem talimatında Current time: 2026-11-19T09:14:02Z gibi bir satır, her çağrıda öneki değiştirir; böylece ondan sonrası hiçbir zaman eşleşemez. Bunu sona, belgelerin arkasına taşıyın.
Diğer önek bozucuları: rastgele sırada oluşturulan araç listeleri, farklı boşluklarla yeniden serileştirilen belgeler ve farklı sırada döndürülen getirilen parçalar.
Öneki 4.096 tokenın üzerinde tutun. Tek başına 2.000 tokenlık bir sistem istemi yeterli olmaz. Yanına uzun bir paylaşılan belge gönderirseniz, birleşik önek yeterli olur.
Interactions API ile, sabit talimatı system_instruction içinde geçirin ve belgeleri input içinde en başa koyun:
from google import genai
client = genai.Client() # reads GEMINI_API_KEY
SYSTEM = open("review_rules.md").read() # fixed text
CODEBASE = open("repo_snapshot.txt").read() # ~200K tokens, unchanged
def ask(question: str):
interaction = client.interactions.create(
model="gemini-4-neon",
system_instruction=SYSTEM,
input=CODEBASE + "\n\nQuestion: " + question,
)
print("cached tokens:", interaction.usage.total_cached_tokens)
return interaction
ask("Where do we validate JWT expiry?")
ask("Which handlers skip input validation?")
İlk çağrı önbelleği doldurur. İkinci çağrı 0 önbelleğe alınmış token yazdırıyorsa, önekte bir şey değişmiş demektir.
Örtük önbellekleme her iki sohbet modunda da çalışır. Yukarıdakine benzer durum bilgisi olmayan (stateless) çağrılar hak kazanır; previous_interaction_id ile zincirlenen durum bilgisi olan (stateful) oturumlar da öylece. İstek şekillerinin tamamı için Gemini 4 Neon API rehberimize göz atın.
Önbellekleme ajan döngülerinde nasıl çalışır: 2.050 token kuralı
Ajan döngüleri, önbelleklemeden en çok tasarruf sağlanan yerdir; çünkü her tur geçmişin tamamını yeniden gönderir. Gemini 4 modelleri bilmeniz gereken ek bir kural getirir. Google'ın önbellekleme dokümantasyonundan: "Gemini, önceki isteğin tamamını yalnızca yeni istek en az 2.050 token ekliyorsa önbelleğe alır." Model çıktısı, düşünce adımları ve fonksiyon sonuçlarının tümü bu toplama dahildir.
Bir tur 2.050 tokendan az eklerse, Gemini önceki isteğin son 2.050 tokenını standart giriş fiyatıyla yeniden işler. Önekin daha erken kısmı yine de isabet alabilir, ancak bu kuyruk 1M başına 3 $ ile faturalanır.
Google, ajan turlarının çoğunun bu eşiği aştığını belirtir. Sınır, {"ok": true} döndüren bir durum kontrolü gibi küçük adımlarla ilerleyen, çok konuşkan döngülerde devreye girer. Tur başına maliyet küçüktür (1M başına 3 $ ile 2.050 token yaklaşık 0,006 $ eder), ancak binlerce kısa tur üzerinde birikir. Döngünüz çok sayıda küçük çağrı yapıyorsa, mantığınız izin veriyorsa küçük araç sonuçlarını tek bir turda gruplandırın.
Gemini 4 Neon bağlam önbellekleme ne kadar tasarruf sağlar?
200.000 tokenlık bir kod tabanı hakkında 20 soruyu yanıtlayan bir kod inceleme asistanı ele alalım. Her soru 3.000 token ekler ve 1.000 tokenlık bir yanıt alır; Standart katmanda.
Önbellek isabeti olmadan, her çağrının maliyeti:
- Giriş: 203.000 × 3 $ / 1M = 0,609 $
- Çıkış: 1.000 × 15 $ / 1M = 0,015 $
- Çağrı başına: 0,624 $, yani 20 çağrı için 12,48 $
İlk çağrıdan sonra önbellek isabetleriyle, 2'den 20'ye çağrıların maliyeti:
- Önbelleğe alınmış önek: 200.000 × 0,15 $ / 1M = 0,030 $
- Yeni giriş: 3.000 × 3 $ / 1M = 0,009 $
- Çıkış: 0,015 $
- Çağrı başına: 0,054 $
İlk, önbelleğe alınmamış çağrıyı 0,624 $ olarak eklediğimizde oturumun toplam maliyeti 1,65 $ eder; yaklaşık %87 daha az.
Tasarrufun %95'in altında olmasının nedeni, çıktı ve yeni girişin asla indirim almamasıdır. Paylaşılan önek, geri kalanına göre ne kadar büyükse, girişte %95'e o kadar yaklaşırsınız. Aynı işi Batch ile çalıştırırsanız önbellek fiyatı bir kez daha yarıya düşer ve 0,075 $ olur. Tam fiyat listesi ve düşünme düzeyi maliyetleri için bkz. Gemini 4 Neon fiyatlandırması.
Yanıtta Gemini 4 Neon önbelleğe alınmış tokenlarını nasıl kontrol edersiniz?
Her yanıtta usage.total_cached_tokens alanını okuyun. Google, hem Python hem de JavaScript SDK'larında bu alanın kaç tokenın önbellek isabeti olduğunu gösterdiğini belgeler.
curl ve jq ile:
curl -s "https://generativelanguage.googleapis.com/v1beta/interactions" \
-H "x-goog-api-key: $GEMINI_API_KEY" \
-H "Content-Type: application/json" \
-d @request.json | jq '.usage'
Bir çağrının fiyatlandırması için önbelleğe alınmış tokenları 1M başına 0,15 $, girişın kalanını 3 $, çıkışı ve düşünme tokenlarını ise 15 $ ile faturalandırın. Önbelleğe alınan sayıyı istek kimliğinizin yanına kaydedin. Tüm trafikte aniden 0'a düşmesi genellikle bir dağıtımın öneki değiştirdiği anlamına gelir: yeni bir araç, yeniden ifade edilmiş bir kural ya da sistem talimatına sızan bir zaman damgası.
Kodlama ajanınızın Apidog CLI ile önbellek isabetlerini test etmesine izin verin
Önekler sıradan yeniden düzenlemeler (refactor) sırasında bozulur ve kimse fark etmez, ta ki fatura gelene kadar. Önbellek kontrolünü, kodlama ajanınızın sürdürdüğü ve CI'ın çalıştırdığı bir API testine dönüştürün.
Apidog CLI, Claude Code, Codex, Cursor veya OpenCode'un terminalden API testleri oluşturmasını ve çalıştırmasını sağlar. Bir kez kurun:
npm install -g apidog-cli@latest
apidog login --with-token <YOUR_TOKEN>
npx -y skills add https://apidog.com # pick your agent when prompted
Ardından ajanınıza tek bir istem verin:
In Apidog project <id>, create an environment for the Gemini API with a
GEMINI_API_KEY variable. Build a test scenario called "Neon cache hit" with two
steps that POST to /v1beta/interactions with model gemini-4-neon, using our
production system_instruction and the docs/context.md file as the start of
input, then two different questions. Assert HTTP 200 on both, and assert that
usage.total_cached_tokens on step 2 is greater than 4096. Run it and tell me
the cached token count.
Ajan, ortamı ve senaryoyu oluşturur, yükünü (payload) CLI şemasıyla karşılaştırır ve çalıştırır:
apidog environment create gemini-api --project <id> --base-url https://generativelanguage.googleapis.com
apidog test-scenario create --project <id> --name "Neon cache hit"
apidog cli-schema get test-scenario-update
apidog cli-schema validate test-scenario-update --file scenario.json
apidog test-scenario update <scenarioId> --project <id> --file scenario.json
apidog run -t <scenarioId> --project <id> -e <envId> -r cli,json
Birileri gelecek ay sistem istemine bir zaman damgası eklerse, değişiklik dağıtılmadan önce 2. adımın iddiası başarısız olur. Apidog CLI CI/CD rehberiyle hattınıza apidog run -t <scenarioId> --project <id> -e <envId> -r junit komutunu ekleyin ya da Claude Code'da Apidog CLI ile başlayın. Her çalıştırma iki gerçek Neon çağrısı yapar; dolayısıyla yukarıdaki fiyatlarla çalıştırma başına birkaç cent maliyeti olur. Apidog'un Ücretsiz planı 4 kullanıcıya kadar kapsar.
Önek önbelleklemenin sağlayıcılar arasında nasıl çalıştığı için bkz. istem önbellekleme nedir.
SSS
Gemini 4 Neon belirgin bağlam önbelleklemeyi destekliyor mu? Hayır. Google'ın Neon rehberi, cachedContents veya caches.create desteklemediğini ve isteklerden cached_content alanını kaldırmanız gerektiğini söylüyor. Neon yalnızca varsayılan olarak açık olan örtük önbellekleme kullanır.
Gemini 4 Neon önbellek isabeti için minimum istem boyutu nedir? 4.096 tokenlık paylaşılan önek. Bu, Gemini 4 Hydrogen, Argon ve Carbon ile aynı minimumdur. Gemini 2.5 Flash ve Pro ise 2.048 ister.
Gemini 4 Neon önbellekleme indirimi ne kadar büyüktür? Önbelleğe alınmış girişte %95. Standart, 1M token başına 3 $'dan 0,15 $'a; Batch ve Flex 1,50 $'dan 0,075 $'a; Priority ise 5,40 $'dan 0,27 $'a düşer. Çıkış ve düşünme tokenlarında indirim yoktur.
Gemini 4 Neon'u bir istemi önbelleğe almaya zorlayabilir miyim? Hayır. Örtük önbelleklemede açabileceğiniz bir ayar, seçebileceğiniz bir TTL veya garanti edilmiş bir isabet yoktur. Şansı, her isteğin başında uzun ve birebir aynı bir önek tutup benzer istekleri birbirine yakın zamanda göndererek artırabilirsiniz.
İsteğimin önbelleğe isabet edip etmediğini nasıl anlarım? Yanıttaki usage.total_cached_tokens alanını kontrol edin. Sıfırdan büyük bir değer, bu kadar giriş tokenının önbellek fiyatıyla faturalandığı anlamına gelir.
Önbellekleme previous_interaction_id ile çalışır mı? Evet. Google'ın dokümantasyonu, örtük önbelleklemenin hem previous_interaction_id ile zincirlenen durum bilgisi olan sohbetlerde hem de geçmişin tamamını kendinizin gönderdiği durum bilgisi olmayan çağrılarda çalıştığını söylüyor.


Top comments (0)