Groq API Nasıl Ücretsiz Kullanılır?

Groq, her hesaba OpenAI uyumlu uç noktası için bir Free Plan anahtarı verir ve bu anahtar kaydolduğunuz anda çalışır. İnsanların takıldığı nokta erişim almak değil, uygulamanız gerçekten modeli çağırmaya başladığında limitlerin içinde kalmaktır. Groq, belgelerinde model başına Free Plan rakamlarını yayınlar; ancak bu sayılar değişebilir ve kendi hesabınız farklı olabilir. Güvenilir alışkanlık, hesap ayarlarınızı kontrol etmek ve her çağrıda yanıt başlıklarını okumaktır, çünkü limitler oturum ortasında değişebilir.

Bugün Apidog'u deneyin

Bu kılavuz, bir anahtar edinmeyi, standart bir OpenAI istemcisini Groq'un uç noktasına yönlendirmeyi ve çoğu "ücretsiz katman" yazısının atladığı kısmı kapsar: üretimde bir 429'dan öğrenmek yerine limitlerinizi gerçek zamanlı olarak izlemek. Ardından kodlama ajanınız bu kontrolü bir Apidog CLI testine dönüştürür; böylece unuttuğunuz tek seferlik bir curl komutu değil, tekrarlanabilir bir kontrol elde edersiniz.

Kısa Özet

Groq iki katman sunar: Free Plan ve Developer Plan. Hız limitleri kuruluş düzeyinde uygulanır (kullanıcı başına değil), istekler, token'lar veya günlük toplamlar arasında hangi sınıra önce ulaşırsanız o geçerlidir ve önbelleğe alınmış token'lar size karşı sayılmaz. Groq model başına Free Plan rakamlarını yayınlar, ancak hesabınıza uygulanan sayılar konsolunuzdaki limitler sayfasında bulunur. Bu nedenle güvenilir yol, habersiz değişebilecek bir tabloya güvenmek yerine her çağrıda x-ratelimit-* yanıt başlıklarından bu değerleri okumaktır.

Anahtar edinme ve uç noktayı çağırma

console.groq.com adresinde bir hesap oluşturun ve anahtarlar sayfasından bir anahtar üretin. Groq bu anahtarı OpenAI uyumlu bir API aracılığıyla sunar; yani daha önce OpenAI'nin SDK'sını çağırdıysanız şekli zaten biliyorsunuz. Temel URL'yi OpenAI yerine Groq'a yönlendirin ve diğer her şeyi aynı tutun:

curl https://api.groq.com/openai/v1/chat/completions \
  -H "Authorization: Bearer $GROQ_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "llama-3.1-8b-instant",
    "messages": [{"role": "user", "content": "Summarize this ticket in one sentence."}]
  }'

Veya resmi Python OpenAI istemcisiyle:

import os
from openai import OpenAI

client = OpenAI(
    [REDACTED CREDENTIAL],
    base_url="https://api.groq.com/openai/v1",
)

response = client.chat.completions.create(
    model="llama-3.3-70b-versatile",
    messages=[{"role": "user", "content": "List three causes of API timeout errors."}],
)

print(response.choices[0].message.content)

Groq'un OpenAI uyumluluk belgeleri, mevcut kodu taşımadan önce bilmeye değer birkaç boşluğa dikkat çeker: logprobs, logit_bias, top_logprobs ve messages[].name hepsi 400 hatası döndürür, n ayarlarsanız 1'e eşit olmalıdır ve 0 sıcaklığı gerçek açgözlü kod çözme yerine küçük bir pozitif float'a dönüştürülür.

Free Plan ve Developer Plan

Groq'un kendi ifadesi açıktır: "Daha yüksek limitlere, Batch ve Flex işlemeye ve daha fazlasına erişmek için Developer planına yükseltin." Her yeni anahtar Free Plan ile başlar ve bu plan, testler ile küçük yan projeler için gerçekten kullanılabilirdir.

İşte Free Plan'ın birkaç model için izin verdiği miktarlar, Groq'un hız limitleri belgelerine göre 2026-09-15 tarihinde okunduğu şekliyle:

Model	RPM	RPD	TPM	TPD	Ses
groq/compound	30	250	70K	-	-
openai/gpt-oss-120b	30	1K	8K	200K	-
openai/gpt-oss-20b	30	1K	8K	200K	-
whisper-large-v3	20	2K	-	-	7.2K ASH / 28.8K ASD

Aynı sayfada her model için daha yüksek tavanlara sahip bir Developer Plan sekmesi ve ayrıca Batch ile Flex işleme bulunur. Yukarıdaki tabloyu bir anlık görüntü olarak değerlendirin, çünkü Groq bu sayıları haber vermeden değiştirebilir. Kendi rakamlarınız hesap ayarlarınızdaki limitler sayfasında bulunur: eğer uyuşmazlarsa bu tabloya değil o sayfaya güvenin.

İki politika ayrıntısı ham sayılardan daha önemlidir. Hız limitleri "kuruluş düzeyinde, bireysel kullanıcılarda değil" uygulanır; yani bir Groq organizasyonunu paylaşan beş kişi beş ayrı limit değil, tek bir limiti paylaşır. Ve "önbelleğe alınmış token'lar hız limitlerinize sayılmaz" — bu da iyi önbelleğe alınmış bir istem yapısının, başlıkta görünen sayının ima ettiğinden daha fazla gerçek verim sağladığı anlamına gelir.

Bir limite çarpmadan önce bilmeye değer modeller

Önemli olan limit, hangi modeli çağırdığınıza bağlıdır. Groq'un metin modelleri ve Compound sistemleri 131.072 token bağlam penceresinde çalışır:

Model Kimliği	Tür
llama-3.1-8b-instant	Hızlı genel amaçlı metin
llama-3.3-70b-versatile	Daha büyük genel amaçlı metin
openai/gpt-oss-120b	Açık ağırlıklı akıl yürütme modeli
openai/gpt-oss-20b	Daha küçük açık ağırlıklı akıl yürütme modeli
groq/compound	Ajanik sistem
groq/compound-mini	Daha hafif ajanik sistem

Whisper modelleri (whisper-large-v3 ve whisper-large-v3-turbo) bu tabloya uymaz. Bunlar ses transkripsiyon modelleridir ve Groq verimlerini token cinsinden değil, kendi RPM ve RPD sınırlarının yanı sıra saat başına ve gün başına ses saniyesi (ASH/ASD) cinsinden ölçer.

Her modelin kendi RPM, RPD ve token sınırları vardır; bu nedenle llama-3.1-8b-instant'ın limitlerinin openai/gpt-oss-120b için de geçerli olduğunu varsaymayın.

Tahmin etmek yerine hız limiti başlıklarını okuyun

api.groq.com'dan gelen her yanıt, tam olarak nerede durduğunuzu söyleyen bir dizi başlık taşır; konsolu ziyaret etmenize gerek yoktur:

• x-ratelimit-limit-requests ve x-ratelimit-limit-tokens: mevcut pencere için tavanınız
• x-ratelimit-remaining-requests ve x-ratelimit-remaining-tokens: şu anda kalan miktar
• x-ratelimit-reset-requests ve x-ratelimit-reset-tokens: pencerenin ne zaman yenileneceği
• retry-after: 429 üzerinde gönderilir ve ne kadar beklemeniz gerektiğini söyler

Her çağrıdan sonra x-ratelimit-remaining-tokens değerini okuyun; böylece bir kez bakıp sonra gözden geçirmeyi unuttuğunuz statik bir sayı değil, canlı bir göstergeye sahip olursunuz. İşte yalnızca başlıkları yazdıran hızlı bir cURL kontrolü:

curl -sD - https://api.groq.com/openai/v1/chat/completions \
  -H "Authorization: Bearer $GROQ_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model": "llama-3.1-8b-instant", "messages": [{"role": "user", "content": "hi"}]}' \
  -o /dev/null | grep -i ratelimit

Bunu konuşkan bir test betiğine karşı bir döngü içinde birkaç kez çalıştırın ve x-ratelimit-remaining-tokens değerinin geri sayımını izleyin. Uygulamanızın bir gün geri çekilme (backoff) mantığına ihtiyacı olursa, bir gecikmeyi tahmin etmek yerine retry-after başlığına uyan desenler için API hız sınırlaması nasıl uygulanır kılavuzumuza bakın.

Kodlama ajanınızın kontrolü Apidog CLI ile çalıştırmasına izin verin

Curl ve grep dansını elle yapmak tek bir hata ayıklama oturumu için işe yarar; bir ekibe ölçeklenmez ve kimse her dağıtımdan önce tek seferlik bir kabuk komutunu yeniden çalıştırmaz. Kontrolü bunun yerine kodlama ajanınıza verin: Apidog CLI ile testi bir kez yazar ve her istediğinizde çalıştırırsınız. Bir kez kurun:

npm install -g apidog-cli@latest
apidog login --with-token <YOUR_TOKEN>
npx -y skills add https://apidog.com   # pick your agent when prompted

Token, Apidog'da Hesap Ayarları → API Erişim Token'ı altından gelir. Ardından ajana şu istemi verin:

Use Apidog CLI on project <id>. Create a Groq environment with base URL
https://api.groq.com/openai/v1 and add POST /chat/completions with Bearer [REDACTED]
from {{GROQ_API_KEY}}. Create one test case per model we run in production
(llama-3.1-8b-instant, openai/gpt-oss-120b) that asserts status 200 and fails
when x-ratelimit-remaining-tokens drops below 10% of x-ratelimit-limit-tokens.
Put both cases in a "Groq limits" test suite, run it, and report the headers.

Çalıştırdığı komutlar, Apidog CLI 2.2.7'ye göre doğrulanmıştır:

apidog environment create Groq --project <id> --base-url https://api.groq.com/openai/v1
apidog endpoint create --project <id> --file groq-chat.json
apidog cli-schema validate test-case-create --file groq-8b-case.json
apidog test-case create --project <id> --file groq-8b-case.json
apidog test-suite create --project <id> --name "Groq limits"
apidog run --test-suite <suiteId> --project <id> -e <envId> \
  --env-var "GROQ_API_KEY=$GROQ_API_KEY" -r cli,junit

Küçülen bir bütçe artık demoda sürpriz bir 429 değil, başarısız bir test olarak ortaya çıkar. Apidog CLI CI/CD ardışık düzeni kılavuzumuzdaki gibi bu son satırı dağıtım öncesi CI işinize koyun ya da ajandan bir apidog scheduled-task create isteyin; bu, paketi bir runner üzerinde cron ile çalıştırır. Bu, Groq'un kuruluş düzeyinde havuzlaması göz önüne alındığında daha da önemlidir: bir ekip arkadaşının çalıştırdığı toplu iş, üretim uç noktanızın bir saat sonra ihtiyaç duyacağı paylaşılan bütçeyi yiyebilir. GPT hız limitleri için bir API test etme yazımızın arkasındaki fikir de tam olarak budur.

Gerçekten limite ulaştığınızda ne yapmalı

Bir 429 döndüğünde, hemen yeniden denemek yerine retry-after değerine uyun. İstek düzeyinde bir limite karşı sıkı bir yeniden deneme döngüsü, kalan bütçenizi daha hızlı harcar ve sıfırlama penceresini daha da ileri iter. Bunu bir test betiği değil bir üretim hizmeti olarak kuruyorsanız, hız limiti aşıldı hatası için kapsamlı kılavuzumuz yalnızca Groq'ta değil, sağlayıcılar arasında işleyen geri çekilme stratejilerini ele alır.

Free Plan'da sürekli tavana çarpıyorsanız, en hızlı çözüm Groq'un belgelerinde doğrudan işaret ettiği Developer Plan yükseltmesidir. İkinci en hızlı çözüm, özellikle bir prototip için, trafiği birden fazla sağlayıcıya yaymaktır. OpenRouter alternatifleri derlememiz, tam da bu durum için arka cebinizde bulundurmaya değer diğer uç noktaları kapsar.

SSS

Groq'un API'si için ücretsiz bir katman var mı?
Evet. Her yeni hesap, OpenAI uyumlu uç noktasına erişimle Free Plan'da başlar. Groq birkaç model için örnek Free Plan limitleri yayınlar, ancak hesabınıza gerçekten uygulanan sınırlar konsol ayarlarınızdaki limitler sayfasındadır.

Mevcut Groq hız limitimi nasıl kontrol ederim?
İki yol: hesap ayarlarınızdaki limitler sayfasını açın veya herhangi bir API yanıtındaki x-ratelimit-limit-requests ve x-ratelimit-limit-tokens başlıklarını okuyun. Başlıklar, çağrı yaptığınız anda hesabınızın gerçek limitini yansıtır; bu, bir kez görüp hatırladığınız bir sayıdan daha güvenilirdir.

Groq hız limitini aştığımda ne olur?
Kaç saniye beklemeniz gerektiğini söyleyen bir retry-after başlığı içeren bir 429 yanıtı alırsınız. Bir gecikmeyi tahmin etmek yerine bunu kodda ele almak için hız limiti aşıldı kılavuzumuza bakın.

Önbelleğe alınmış token'lar Groq hız limitime sayılır mı?
Hayır. Groq, önbelleğe alınmış token'ların hız limitlerinize sayılmadığını doğrudan belirtir; bu nedenle önbelleğe alınmış bir sistem mesajını yeniden kullanan bir istem yapısı, ham token limitinin ima ettiğinden daha fazla gerçek verim elde eder.

Groq hız limiti kullanıcı başına mı yoksa kuruluş başına mı?
Kuruluş başına. Aynı Groq organizasyonu altındaki her anahtar tek bir istek ve token havuzunu paylaşır; bu nedenle bir ekip arkadaşınızın betiği, üretim uygulamanızın ihtiyaç duyduğu bütçeyi yiyebilir.

Hangi Groq modelleri en yüksek bağlam penceresine sahiptir?
llama-3.1-8b-instant, llama-3.3-70b-versatile, openai/gpt-oss-120b, openai/gpt-oss-20b ve Compound sistemlerinin hepsi 131.072 token bağlam penceresinde çalışır. Whisper modelleri metin değil ses transkripsiyonudur; Groq limitlerini bunlar için ses süresi cinsinden ölçer. Hız limitleri aynı bağlam penceresi içinde bile modelden modele farklılık gösterir, bu nedenle her birini ayrı ayrı kontrol edin.

Sonuç

Groq API'sini ücretsiz kullanmanın yolu gizli bir sayı değil, bir alışkanlıktır. Bir anahtar alın, OpenAI uyumlu uç noktayı ona yönlendirin ve — bu yazı dahil — bir blog yazısında bulduğunuz bir rakama güvenmek yerine her çağrıda yanıt başlıklarını okuyun.

Kodlama ajanınızın bu kontrolü bir kez Apidog CLI ile, her model için kalan token'lar üzerinde bir doğrulamayla kurmasını sağlayın; o andan itibaren her dağıtımda çalışır. Kurulum, Groq belgelerinin geri kalanını okumaktan daha kısa sürer. Yük altında bir AI API katmanını test etme konusunda daha derin kapsam için AI ajanları için en iyi API test araçları kılavuzumuz iyi bir sonraki duraktır.