Google FunctionGemma ile büyük yapay zeka modeli yeteneklerini cep telefonlarına “sıkıştırıyor”

iowen
20 Ara 2025 21:36
Güncelleme: 20 Ara 2025

5 dk. Okuma Süresi

Yazı Özetini Göster

Google, 18 Aralık’ta Gemma 3 270M ince ayarına dayanan özel bir model olan FunctionGemma’nın lansmanını duyurdu. Amaç, cep telefonları gibi uç cihazlara güçlü işlev çağırma yetenekleri kazandırmaktır. FunctionGemma, transformer mimarisine dayalı olarak yapılandırılmıştır ve TensorFlow gibi popüler derin öğrenme kütüphaneleri kullanılarak geliştirilmiştir. Bu model, veri işleme ve doğal dil anlayışı konularında üstün performans sergileyen çok katmanlı bir yaklaşım ile tasarlanmıştır.

Google, endüstrinin basit konuşma arayüzlerinden aktif aracılara kaymasıyla birlikte, geliştiricilerin görevleri yerel olarak gerçekleştirecek modellere daha acil ihtiyaç duyduğunu söyledi.

https://www.youtube.com/watch?v=-Tgc_9uYJLI

FunctionGemma bu amaç için geliştirildi. Gemma serisinin hafiflik avantajlarını devralmakla kalmıyor, aynı zamanda uç cihazların bulut bilgi işlem gücüne güvenmemesi için özel ince ayar kullanıyor. Kullanıcı talimatlarını doğru anlayabilir ve ilgili işlevleri çağırabilir.

Genel büyük modellerin aksine FunctionGemma kişiselleştirme için tasarlanmıştır. İnsanlarla doğal olarak konuşabilir ve bilgisayara komut vermek için yapılandırılmış işlev çağrısı kodu üretebilir.

Google tarafından gerçekleştirilen ‘Mobil Eylemler’ testinde model inanılmaz bir esneklik gösterdi: İnce ayar yapılmadan temel sürümün doğruluğu %58’di ve hedeflenen ince ayardan sonra karmaşık talimatları (‘yarın öğle yemeği için randevu al ve bunu takvime ekle’, ‘dün aldığım lezzetli yemeği anneme göndermeme yardım et’ gibi) yürütmedeki doğruluğu %85’e sıçradı. Testler, NVIDIA Jetson Nano ve ana akım mobil cihazlarda, geniş bir kullanıcı senaryoları yelpazesi sunan Google’ın Mobil Eylemler veri seti üzerinde yapıldı. Değerlendirmede doğruluk, gecikme süresi ve işlem verimliliği gibi metrikler kullanıldı.

FunctionGemma son derece hafif bir tasarım kullanarak sınırlı bilgi işlem gücü ve pili olan uç cihazlarda sorunsuz çalışır. JSON verilerini ve çoklu dil girişini verimli işlemek için Gemma’nın 256k kelime dağarcığını kullanarak gecikmeyi önemli ölçüde azaltır. Bu kapasite, kesintisiz işlem yaparak çok dilli sorguları rahatlıkla ele almasına olanak tanır. Bu sayede, kullanıcılar çok daha akıcı ve doğal bir deneyim yaşayarak, örneğin anında çeviri ve karmaşık görevlerin yürütülmesi konusunda cihazlarını etkin bir şekilde kullanabilirler.

Bu model şu anda NVIDIA Jetson Nano gibi geliştirme kartlarına ve ana akım mobil cihazlara uyarlanmıştır. Ayrıca, basit görevleri yerine getirip karmaşık mantığı daha büyük Gemma 3 27B modeline yönlendiren bir trafik komutanı olarak da hizmet verebilir. Örneğin, bir kullanıcı cihazından sesli komut ile ‘sabah 8’de hatırlatıcı kur’ talimatını verdiğinde, FunctionGemma bu basit görevi kendisi işleyebilir. Ancak, kullanıcının komple bir takvim planı talimatı verdiğinde, bu karmaşık görev için uygun olan daha geniş veritabanına sahip Gemma 3 27B modelini kullanarak, talimatı sistematik bir şekilde işleme alır. Bu sayede, kullanıcının karmaşık talepleri etkili bir şekilde yerine getirilir.

Geliştirme eşiğini düşürmek için Google, FunctionGemma için kapsamlı bir ekolojik destek oluşturdu. Geliştiriciler modelleri Hugging Face ve Kaggle üzerinden indirebilir, Unsloth, Keras veya NVIDIA NeMo ile ince ayar yapabilir.

Dağıtım açısından model, LiteRT-LM, vLLM, Lama.cpp ve Ollama gibi araçları tam olarak destekler. Google ayrıca TinyGarden oyun demosunu ve sanal çiftlikleri veya cep telefonu sistemi ayarlarını kontrol etmek için doğal dilin nasıl kullanılacağını gösteren bir mobil operasyon ince ayar kılavuzunu da yayınladı.

“Yarın öğle yemeği için bir takvim etkinliği oluştur”, “John’u kişilerime ekle” veya “El fenerini aç” olsun, model doğal dili ayrıştırabilir ve komutu yürütmek için doğru işletim sistemi araçlarını tanımlayabilir.

Bu etkileşimli mini oyunda oyuncular sanal bir araziyi yönetmek için sesli komutları kullanır. Örneğin, En üst sıraya ayçiçeği ekin ve onları sulayın diyebilirsiniz. Model, belirli ızgara koordinatları için talimatları Bitki ek veya Su ekinleri gibi uygulama işlevlerine ayırır.

Tamamen kullanıcının tarayıcısında yerel olarak çalışan, FunctionGemma tarafından desteklenen bir oyunda eğlenceli fizik simülasyon bulmacalarını çözmek için doğal dili kullanabilirsiniz. Transformers.js destek sağlar. Bunun yanı sıra, FunctionGemma geniş bir yelpazede örnek senaryolarda kullanılabilir. IoT cihazlarına entegrasyonu sayesinde, ev otomasyon sistemlerinde cihaz yönetimini ve optimizasyonunu kolaylaştırabilir. Sağlık sektöründe, hasta yönetimi uygulamalarında kişisel asistan olarak kullanılabilir veya tıbbi veriler üzerinden hızlı analizler gerçekleştirebilir. Endüstriyel otomasyon alanında ise üretim hatları üzerinde otomatik denetim ve kontrol süreçlerini iyileştirmek için işlevsellik sunabilir.

Etiketler :

Bu yazıya ait etiket bulunamadı.