Fireworks Research, Ember-1’i duyurdu: Kimi K3 üzerine inşa edilmiş, gereksiz muhakemeyi kısaltmayı öğrenmiş özel bir model. Şirkete göre Ember-1, Kimi K3 kalitesini korurken yaklaşık %40 daha az token kullanıyor. Model, Research Preview olarak Serverless üzerinde bugün kullanılabiliyor.
Neden eğitildi?
Kullanıcılar K3’ün kodlama yeteneğini isterken uzun muhakeme izlerinin ölçekte pahalı olduğunu bildiriyordu. Muhakeme eforunu düşürmek kaliteyi fazla kaybettiriyordu; bu yüzden Fireworks 50’den fazla eğitim deneyi ve 200’den fazla değerlendirme yaptığını, yeni eğitim algoritmaları geliştirdiğini ve hepsini Fireworks Serverless Training üzerinde yürüttüğünü yazıyor. Muhakeme modellerinin ürettiği tokenlerin bazen %90’ından fazlasının iç muhakemeye gittiği; çok turlu ajan işlerinde bağlamın yaklaşık karesel büyüdüğü vurgulanıyor.
Benchmark ve canlı doğrulama
Specialized Intelligence Index’te Doximity Bedside Bench’te Ember-1, açık ve kapalı modeller arasında maliyet/görev Pareto sınırına oturtuluyor. Endüstri benchmark tablosunda örneğin Terminal Bench 2.1’de Ember-1 %82,0 (K3 max %80,9) ve K3 max’a göre ~%51,9 token/maliyet düşüşü; SWE-bench Verified’da %92,2 (K3 max %93,2) ile ~%15,5 token düşüşü listeleniyor. İki müşteri canlı A/B testinde görev başına yaklaşık %35 daha az token ve karşılaştırılabilir kalite; bir örnekte toplam token düşüşü %39, skor 0,751 → 0,753. İç trafikde geliştiricilerin fark etmeden daha az token tükettiği belirtiliyor.
Erişim
Ember-1, taban Kimi K3 yanında serving seçeneği olarak Research Preview’da; talep doğrultusunda kalıcı hale getirilebilecek iki haftalık serverless erişim modeli anlatılıyor. Ember-1 için eğitim desteği de duyuruldu: işletmeler kendi verileriyle özelleştirebilecek.
Kaynak: Fireworks — Introducing Ember-1
Henüz yorum yok. İlk yorumu siz yapın!