OpenRouter, hemen sonuç gerektirmeyen büyük işler için Batch API’yi duyurdu. Sağlayıcı isteği 24 saatlik pencerede istediği zaman tamamlayabiliyor; karşılığında genelde normal token fiyatının %50’si (bazen daha az) uygulanıyor. Bugün 70’ten fazla modelde çalışıyor.
Nasıl kullanılır?
POST /api/v1/batches ile chat completions, responses, messages veya embeddings biçiminde istek listesi gönderiliyor. Durum GET /api/v1/batches/:id ile izleniyor; tamamlanınca sonuçlar aynı yanıtta dönüyor. İki haftalık betada 230 bin+ tamamlanan işte medyan süre 7 dakika, %90’ı bir saat içinde bitmiş.
Destek ve sınırlar
Her batch tek sağlayıcıda çalışıyor; varsayılan en ucuz batch uç noktası seçiliyor. BYOK destekleniyor. Satır hataları diğerlerini düşürmüyor. Girdi/sonuç 30 gün saklanıyor. Web araması standart tarifeden faturalanıyor; görseller/dosyalar genel URL olmalı. Ses, video ve OpenRouter web search eklentisi batch’te yok.
Kaynak: OpenRouter — Batch API
Henüz yorum yok. İlk yorumu siz yapın!