Yapay zekâ çıkarım altyapısı şirketi Baseten, kendi araştırma laboratuvarı Base Labs tarafından eğitilen iki yeni karar modelini (decision model) duyurdu: 27 milyar parametreli mammoth-1 ve 9 milyar parametreli elephant-1. Her iki model de açık kaynak olarak Hugging Face’te yayımlandı ve varsayılan olarak sıfır veri saklama (ZDR) ile Baseten Model API’leri üzerinden bir hafta boyunca ücretsiz denenebiliyor.
Karar modeli nedir?
Baseten’in açıklamasına göre karar modelleri, üretken dil modellerinden farklı olarak metin üretmiyor. Bunun yerine her soru için olası cevaplar üzerinde, toplamı 1 olan bir olasılık dağılımı döndürüyor. Bu modellere üç tür soru sorulabiliyor:
- Seçim: Bir listeden seçenek belirleme (ör. bir destek talebi altyapı, faturalama, güvenlik veya destek ekiplerinden hangisine gitmeli?).
- Puanlama: Girdiyi belirli bir ölçekte derecelendirme (ör. talep düşük mü yüksek mi aciliyette?).
- Evet/hayır: İkili karar (ör. bu e-posta bir oltalama girişimi mi?).
Şirket, talep yönlendirme veya spam işaretleme gibi sınıflandırma işleri için üretken modellerin hem pahalı hem yavaş olduğunu, ayrıca yanıtın kendisinin güvenilir bir kesinlik ölçüsü sunmadığını savunuyor. Karar modelleri metin üretimini atladığı için üretimde daha ucuz ve hızlı çalışıyor; ayarlanabilir güven eşikleri sayesinde örneğin model yüzde 90’ın üzerinde eminse talep otomatik yönlendirilip, daha düşük güvende bir insana aktarılabiliyor. Baseten’e göre bir karar modeli, akıl yürütme modeline kıyasla 10 kata kadar hızlanma sağlayabiliyor.
Benchmark sonuçları
Baseten’in paylaştığı verilere göre mammoth-1, Jev Decision Index 0.4‘te 71,24 puanla 208 karar modeli arasında birinci sırada. elephant-1 ise genel sıralamada sekizinciliği paylaşıyor ve 9B sınıfının en iyi karar modeli. Ayrı bir değerlendirme olan Artificial Analysis Decision Index’te mammoth-1 65,9, elephant-1 65,2 puan aldı; elephant-1 bu endekste önceki lider d1-ultra ile birinciliği paylaşıyor.
Şirket, daha fazla genel bilgi gerektiren işler için mammoth-1’i, ağırlıklı olarak hızlı akıl yürütme gereken işler için elephant-1’i öneriyor.
Mimari ve eğitim
Modeller, Qwen3.5-9B ve Qwen3.5-27B üzerine 6,21 milyon karar örneğiyle ince ayar yapılarak geliştirildi. Eğitim verisi; kamuya açık veri kümelerini temel karar becerileri, güvenlik ve çekimser kalma, değerlendirme (judging) ve uzmanlık alanlarını kapsayan sentetik örneklerle birleştiriyor. Veriler bilgi ve akıl yürütme, dil, araçlar ve otomasyon, erişim ve sınıflandırma ile sanat ve beğeni olmak üzere beş alanda toplandı. Baseten, modele emin olmadığında “bilmiyorum” demeyi öğreten örnekler de eklediğini belirtiyor.
Kullanım alanları
Şirketin öne çıkardığı senaryolar arasında destek taleplerinin önceliklendirilip yönlendirilmesi, spam ve oltalama tespiti, istem korumaları (guardrail) ve jailbreak tespiti ile istekleri küçük modeller ve öncü modeller arasında yönlendirme bulunuyor. Baseten, doğru karar modelini seçerken zor vakaları da içeren doğruluk testleri, modelin ne zaman emin olmadığını bilip bilmediği ve beklenen trafikte karar başına gecikme ile maliyetin ölçülmesini tavsiye ediyor.
Kaynak: Baseten: The top ranked decision models in the world: mammoth-1 and elephant-1
Henüz yorum yok. İlk yorumu siz yapın!