Dil Modelleri Yeni Modaliteyi Agirliklari Degistirmeden Ogrrenebilir

Yeni bir arastirma, dil modellerinin altta yatan agirliklara dokunmadan yeni bir modalite ogrrenebilecegini gosterdi. Araştırmacılar, yalnızca kodlayıcı ile dil modelinin gomulu uzayi arasındaki kucuk bir projektör eğitildiğinde, modelin mevcut yeteneklerinin gerilemedigini ortaya koydu.

Projektor Temelli Ogrenme: Arka Plan

Geleneksel olarak, bir dil modeline yeni bir modalite eklemek için modelin kendi agirliklari uzerinde ince ayar yapilirdi. Ancak bu yaklasim, modelin daha once kazandigi yeteneklerde gerilemeye neden olabiliyordu. Yeni arastirma, bu sorunu projektör temelli bir yaklasimla cozmeyi basariyor.

Yontem su sekilde isliyor: Kodlayıcı (encoder) ile dil modeli arasındaki projektör, yalnızca bu kucuk bilesen eğitiliyor. Dil modelinin kendi agirliklari oldugu gibi kaliyor ve boylece mevcut yetenekler korunmus oluyor.

3D Testlerinde Carpidici Sonuclar

Araştırmacılar, bu yaklasimi 3D görevlerinde test ettiler. Sonuclar dikkat cekiciydi: Dondurulmus agirliklara sahip modeller, birlikte ince ayar yapilan modellerle yarışacak hatta onlari gececek performans gosterdi. Ustrlik, bu modeller egitim suresinde iki kattan daha hizli ogreniyordu.

Bunun tam tersi bir sekilde, birlikte ince ayar yapılan Llama modelinin ana gövdesi, GSM8K testinde %86,96’dan %0,61’e dustu. Bu dramatik gerileme, ortak ince ayarın mevcut yetenekleri ne ölçüde bozabilecegini gözler önune seriyor.

Neden Projector Is All You Train?

Arastirmanin basligi, yaklasimin özünü yansitiyor: Bir dil modeline yeni bir modalite eklemek için ihtiyacınız olan tek sey, kodlayıcının ciktisini modelin gömülü uzayına haritalayan küçük projektörü eğitmektir. Dil modelinin kendisini yeniden eğitmek güvenilir bir katkı saglamıyor ve mevcut yeteneklerini bozuyor.

Bu bulgu, yapay zeka alanında modalite genisletme konusunda yeni bir paradigma sunuyor. Modellerin mevcut bilgilerini koruyarak yeni yetenekler kazanmasi, yapay zeka sistemlerinin evriminde önemli bir adim olabilir.

Yapay Zeka Arastirmalarinda Yeni Bir Bakış Açısı

Araştırma, arxiv.org/abs/2608.19726 adresinde yayınlandi. Makale, “Projector Is All You Train” basligini tasimaktadir ve dil modellerinin modalite ogrenmesi konusunda mevcut anlayisi kökten degistirme potansiyeli tasiyor.

Bu yaklasim, özellikle sinirli hesaplama kaynaklariyla calisan ekipler ve mevcut yeteneklerini korumak isteyen yapay zeka sistemleri için kritik onem tasimaktadir. Projektör eğitimi, tam model ince ayarina kiyasla çok daha az kaynak tüketiyor ve riskleri önemli ölçüde düsürüyor.

Uzmanlar, bu yöntemin gelecekteki çok modaliteli yapay zeka sistemlerinin temel bilesenlerinden biri olabilecegini düsünüyor.

Kaynak: Rohan Paul (X/Twitter), arxiv.org/abs/2608.19726