İçeriğe geç
CANLI 05:12 Hugging Face, dil modeli çıkarım yönlendirmesini OpenRouter’a geçirdi 05:12 FBI, açık kaynaklı AI saldırı aracı Artex’in saatler içinde ağları ele geçirdiğini duyurdu 05:12 ABD, Çin şirketlerinin yurt dışından uzaktan AI çip gücüne erişimini sıkılaştırıyor 05:12 Kaliforniya başsavcısı, kontrolsüz AI ajanları gerekçesiyle OpenAI’ye dava açtı 05:12 Tencent Hy4 flash: 224 milyar parametreli, günlük işler için daha ucuz çok kipli model Zekâ endeksi lideri Claude Fable 5.2 (Max, Default Fallback) · 64,6 17.11.2026
Bülten

Thinking Machines Lab, büyük dil modeli çıkarımlarındaki belirsizliğin kökenini ortaya koydu

· 2 dk okuma · 0 yorum

Yapay zekâya sor Paylaş
Yönetici

Yayınlanma:

ai/muhabir · özet metinden derlendi

OpenAI eski CTO'su Mira Murati tarafından kurulan Thinking Machines Lab, büyük dil modeli çıkarımlarındaki belirsizlik sorununa odaklanan ilk araştırma sonuçlarını yayımladı. "Tekrarlanabilirlik bilimin ilerlemesinin temelidir, ancak büyük dil modellerinden tekrarlanabilir sonuçlar elde etmek son derece zordur" diye belirten araştırma ekibi, sıcaklık (temperature) parametresi 0 olarak ayarlansa bile model çıktılarında öngörülemezlik olduğunu saptadı. Geleneksel görüş, belirsizliğin "eşzamanlılık + kayan nokta" varsayımından kaynaklandığını; yani GPU kayan nokta işlemlerinin birleşmeli olmaması ve eşzamanlı yürütmenin farklılıklara yol açması nedeniyle ortaya çıktığını öne sürer.

Bu kısa özet, sayfanın kendi metninin ilk cümlelerinden otomatik derlendi; “Yeniden yaz” aynı özeti baştan yazar.

eski CTO’su Mira Murati tarafından kurulan Lab, büyük dil modeli çıkarımlarındaki belirsizlik sorununa odaklanan ilk araştırma sonuçlarını yayımladı. “Tekrarlanabilirlik bilimin ilerlemesinin temelidir, ancak büyük dil modellerinden tekrarlanabilir sonuçlar elde etmek son derece zordur” diye belirten araştırma ekibi, sıcaklık (temperature) parametresi 0 olarak ayarlansa bile model çıktılarında öngörülemezlik olduğunu saptadı. Geleneksel görüş, belirsizliğin “eşzamanlılık + kayan nokta” varsayımından kaynaklandığını; yani GPU kayan nokta işlemlerinin birleşmeli olmaması ve eşzamanlı yürütmenin farklılıklara yol açması nedeniyle ortaya çıktığını öne sürer.

Ancak araştırma, gerçek kökenin toplu işleme (batch) stratejisinde yattığını gösterdi. Sunucu yükü değiştiğinde batch size değiştiğinde, çekirdek fonksiyonlarının hesaplama sırası da değişiyor ve bu da çıktı sonuçlarını etkiliyor. “Neredeyse tüm büyük dil modeli çıkarım uç noktalarının belirsiz olmasının ana nedeni, yükün belirlediği batch size’ın kendisinin belirsiz olmasıdır” diye belirtti ekip. Takım, çekirdek fonksiyon yapılandırmasını sabitleyerek batch’e bağlı değişmezlik sağlanmasını; böylece RMSNorm, matris çarpımı ve dikkat mekanizmasının hesaplama sıralarının batch size’dan etkilenmemesini önerdi.

Deneyler, bu yöntem uygulandıktan sonra Qwen3 modelinin 1000 örneklemede tamamen tutarlı çıktılar verdiğini, optimize edilmemiş versiyonun ise 80 farklı sonuç ürettiğini gösteriyor. Araştırma ayrıca bu yöntemin pekiştirmeli öğrenmenin eğitim kararlılığı üzerinde olumlu etkisi olduğunu kanıtladı.

Bu çalışma, büyük dil modellerinin temel mekanizmalarını anlamaya yeni bir bakış açısı sunuyor; açık kaynaklı parti değişmezliği çekirdek fonksiyonu kütüphanesi mevcut çıkarım sistemlerine doğrudan uygulanabilir. Mevcut uygulamanın yaklaşık %15 performans kaybı bulunsa da, belirlenebilirlik gerektiren kullanım senaryoları için uygulanabilir bir çözüm sağlıyor.

Yapay zekâya sor

Haberi seçtiğiniz asistanda hazır bir soruyla açın

Şu haberi 3 maddede özetle: https://aihaber.org/thinking-machines-lab-buyuk-dil-modeli-cikarimlarindaki-belirsizligin-kokenini-ortaya-koydu/

Gemini hazır soruyla açılamıyor: soru panonuza kopyalanır, açılan sayfada yapıştırmanız yeterli.

Paylaş
X LinkedIn WhatsApp Telegram Reddit Bluesky Threads E-posta

Bu haber işinize yaradı mı?

Yorumlar 0

Yorum yazın

Karakter: 0/1000

Henüz yorum yok. İlk yorumu siz yazın.