Not Diamond, uzun soluklu kodlama ajanları için tasarladığı yeni akıllı model yönlendiricisi Not Diamond Code‘u duyurdu. Çözüm, her adımda hem kullanılacak modeli hem de akıl yürütme seviyesini seçerek uzun oturumlarda maliyet ve kalite dengesini yönetmeyi hedefliyor.
Şirkete göre Not Diamond Code, mevcut ağ geçitleri ve harness’ler içinde çalışabiliyor; bunlar arasında Claude Code de yer alıyor. Amaç, ekiplerin her görevde en güçlü modele kilitlenmek yerine, girdiye göre uygun modele yönlendirerek frontier kalitesini korurken çıkarım maliyetini düşürmek.
Adım adım model ve reasoning seçimi
Yeni yönlendirici, uzun ufuklu kodlama oturumlarını destekleyecek şekilde kurgulanmış. Oturum boyunca her adımda model tercihi ve reasoning effort birlikte belirleniyor. Böylece basit ara adımlar daha hafif modellere, karmaşık karar noktaları ise daha güçlü modellere kaydırılabiliyor.
Duyuruda maliyet tarafında frontier kalite korunurken yüzde 20’nin üzerinde, bazı senaryolarda yüzde 20-65 aralığında çıkarım tasarrufu vurgulanıyor. Not Diamond’ın genel ürün anlatımında da kod ajanları için maliyet dağınıklığını azaltmak ve varsayılan olarak en pahalı modele gitme alışkanlığını kırmak öne çıkıyor.
Önbellek farkındalıklı yönlendirme
Not Diamond Code, yalnızca anlık istemi değil oturum bağlamını da hesaba katan bir yönlendirme yaklaşımı kullanıyor. Yönlendirici; KV cache durumunu, alt ajan yapısını, compaction olaylarını ve tam oturum geçmişini değerlendirerek model ve reasoning seviyesi öneriyor.
Bu değerlendirme katmanının her çağrıya yaklaşık 100-150 milisaniye ek gecikme getirdiği belirtiliyor. Yaklaşım, uzun oturumlarda önbellek ve bağlam durumuna duyarlı karar vermeyi amaçlayan “cache-aware routing” olarak tanımlanıyor.
Gizlilik korumalı mod
Üründe gizlilik odaklı bir yönlendirme seçeneği de yer alıyor. Privacy-preserving mode ile yalnızca türetilmiş meta verilerin yönlendirme için kullanılabildiği, böylece asıl yüklerin (payload) yönlendirme tarafına çıkmadan kalabildiği aktarılıyor. Bu, kurumsal ekiplerin mevcut gateway ve harness düzenlerini bozmadan yönlendirme eklemesini kolaylaştırmayı hedefliyor.
Mevcut yığınla entegrasyon
Not Diamond Code’un mevcut gateway ve harness’ler içinde çalışabilmesi, satıcı kilidine girmeden model seçimini otomatikleştirmeyi amaçlıyor. Yönlendirme önerileri, ekiplerin tercih ettiği model geçidi ve ajan altyapısı üzerinden uygulanabiliyor.
Özetle Not Diamond Code; uzun soluklu kod ajanı oturumlarında model ve reasoning seçimini adım adım otomatikleştiren, önbellek ve oturum geçmişine duyarlı, isteğe bağlı gizlilik korumalı bir yönlendirici olarak konumlanıyor. Erken erişim ve entegrasyon detayları şirketin ürün kanalları üzerinden paylaşılıyor.
Henüz yorum yok. İlk yorumu siz yapın!