NVIDIA, yerel yapay zeka ajanları için özel olarak geliştirilmiş Nemotron 3.5 Lightning ve akıllı yönlendirme sistemi NeMo Switchyard‘ı duyurdu. Şirket, Frontier modellerin karmaşık planlama görevlerini üstlenirken rutin yürütme işlemlerini daha hafif modellere devredebilecek bir mimari sunuyor.
Nemotron 3.5 Lightning: 3 Milyar Aktif Parametre
Yeni model, 30 milyar parametreli MoE mimarisi kullanırken yalnızca 3 milyar aktif parametre ile çalışıyor. Bu tasarım, benzer boyuttaki modellere kıyasla dört kata kadar daha fazla çıktı hızı sunuyor. Model, Nemotron 3 Ultra’dan damıtılarak elde edilmiş ve özellikle araç çağırma, doğrulama ve alt ajan görevleri için optimize edilmiş.
NeMo Switchyard: Akıllı Yönlendirme
NeMo Switchyard, iş akışı adımlarını açık ve kapalı kaynak modeller arasında otomatik olarak yönlendiren bir sistem. Karmaşık planlama görevleri frontier modellerde kalırken rutin yürütme Lightning üzerine devrediliyor. Sistem, iş yüküne özgü eğitim gerektirmeden yönlendirme kararları alabilen tuning-free router’lar içeriyor.
Meta Muse Glimmer ile Farklı Yaklaşımlar
Bu duyuru, Meta’nın bir gün önce piyasaya sürdüğü Muse Glimmer 30B’den sonra geldi. İki şirket de aynı geniş anlamda “ajanik yapay zeka” hedefliyor ancak mimari yaklaşımları farklılık gösteriyor. Meta yoğun, çok modal bir yerel ajan beyni inşa ediyor; NVIDIA ise planlama, yürütme ve yönlendirmeyi dağıtarak bir “yerel ajan iş gücü” oluşturuyor.
Açık Kaynak Geri Dönüyor
Her iki şirketin de bu alanda açık kaynak çözümler sunması, yerel yapay zeka geliştirme ekosisteminde yeni bir ivme yaratıyor. Geliştiriciler artık bulut bağımlılığı olmaksızın kendi ajan sistemlerini kurabilecekleri araçlara kavuşmuş oluyor.
Kaynak: @NVIDIAAI · @kimmonismus
Henüz yorum yok. İlk yorumu siz yapın!