Batch API: Toplu İşlemler ve Async
Anlık olmayan iş yüklerini batch API ile %50 ucuz çalıştır. Etiketleme, içerik üretimi, eval'lar için ideal.
Şükrü Yusuf KAYA
10 dakikalık okuma
OrtaBatch API
Anlık cevap gerekmiyorsa görevleri tek dosyada Batch API'ye yolla. 24 saat içinde işlenir, %50 indirim.
python
# Batch API iskeletibatch = client.messages.batches.create(requests=[ { "custom_id":"label-001", "params":{ "model":"claude-sonnet-4-6", "max_tokens":256, "messages":[{"role":"user","content":"Şu mesajı kategorile: ..."}], }, }, # ... 999 daha])print(batch.id, batch.status) # Daha sonra sonuçları kontrol etbatch = client.messages.batches.retrieve(batch.id)if batch.status == "ended": for line in client.messages.batches.results(batch.id): print(line["custom_id"], line["result"]["message"]["content"])Batch API basit kullanım.
Boşluk doldur · text
Batch API anlık olmayan iş yükleri için _____ indirim sağlar. SLA tipik olarak _____ saatlik penceredir. Etiketleme ve _____ üretimi en yaygın kullanım.Sık Sorulan Sorular
Sonuç dosyasında o satır error olarak işaretlenir. Diğer istekler etkilenmez. Sen başarısız olanları toplayıp tekrar gönderirsin.
Yorumlar & Soru-Cevap
(0)Yorum yazmak için giriş yap.
Yorumlar yükleniyor...