Tencent'in yapay zekâ ekibi, amiral gemisi modelinin Tencent Hy4 açık ağırlık sürümünü yayımladı. Tencent Hy4 açık ağırlık paketinde neler var? Teknik özellikler Hy4, "uzman karışımı" (MoE) mimarisi kullanıyor. Bu yapıda model çok sayıda küçük uzman ağdan oluşuyor. Her token için bun…
- Tencent'in yapay zekâ ekibi, amiral gemisi modelinin Tencent Hy4 açık ağırlık sürümünü yayımladı.
- Tencent Hy4 açık ağırlık paketinde neler var?
- Teknik özellikler Hy4, "uzman karışımı" (MoE) mimarisi kullanıyor. Bu yapıda model çok sayıda küçük uzman ağdan oluşuyor. Her token için bun…
Tencent'in yapay zekâ ekibi, amiral gemisi modelinin Tencent Hy4 açık ağırlık sürümünü yayımladı.
’in yapay zekâ ekibi, amiral gemisi modelinin açık ağırlık sürümünü yayımladı. Model Hugging Face, ModelScope ve GitCode üzerinden indirilebiliyor. Hy4, metin, görsel ve video anlayabilen çok kipli bir model. Dil omurgasında 770 milyar parametre bulunuyor. Ancak bu kez lisans, ağustostaki önizleme sürümünden farklı.
Tencent Hy4 açık ağırlık paketinde neler var?
Hugging Face’teki model kartına göre üç sürüm açıldı:
- Hy4: Talimatla eğitilmiş, sohbet ve akıl yürütme için hazır ana model.
- Hy4-FP8: Aynı modelin daha az bellek isteyen 8 bitlik sürümü.
- Hy4 base: Sadece ön eğitimi yapılmış temel model. Sohbet için değil, üzerine kendi eğitimini yapmak isteyenler için.
Ekip, modelle birlikte güvenlik değerlendirmelerini içeren bir sistem kartı da yayımladı. Yerel testler için GGUF biçiminde sıkıştırılmış dosyalar da paylaşıldı.
Teknik özellikler
Hy4, “uzman karışımı” (MoE) mimarisi kullanıyor. Bu yapıda model çok sayıda küçük uzman ağdan oluşuyor. Her token için bunların sadece birkaçı çalışıyor. Böylece dev bir model, daha düşük hesap maliyetiyle çalışabiliyor.
- Toplam 770 milyar parametre, metin tokenı başına 49 milyar aktif parametre.
- Görsel tarafında 1,23 milyar parametrelik ayrı bir görüntü kodlayıcı.
- 78 katman: İlki klasik, kalan 77’si uzman katmanı.
- Her uzman katmanında 256 uzman ve bir ortak uzman. Her token sekiz uzmana yönlendiriliyor.
- 1.048.576 tokenlık, yani yaklaşık 1 milyon tokenlık bağlam penceresi.
Model kartı, dikkat katmanında ve GLM’den esinlenen seyrek bir yapı kullanıldığını söylüyor. Bu yapı, uzun metinlerde her kelimeye değil, seçilmiş 2.048 tokena bakıyor. Ayrıca 3,3 milyar parametrelik DFly2 adlı bir “taslakçı” model var. Bu küçük model sonraki kelimeleri önceden tahmin ediyor, büyük model de bunları onaylıyor. Amaç, cevap üretimini hızlandırmak.
Önizlemeye göre ne değişti?
Tencent, Hy4 önizlemesini ağustos sonunda yayımlamıştı. O sürümü Hy4 Preview haberimizde anlatmıştık. Model kartına göre yeni sürümde hem ön eğitim hem de son eğitim büyütüldü. Modele görsel ve video anlama eklendi. Talimat takibi, uzun bağlam, uzun soluklu görevler ve derin araştırmada iyileşme olduğu belirtiliyor.
Ekip, sınırları da açıkça yazıyor. Model kartına göre Hy4 ile en iyi kapalı modeller arasında hâlâ belirgin bir fark var. Bu fark özellikle araştırma düzeyi matematik, uzun soluklu kodlama ve gelişmiş görsel soru-cevapta görülüyor.
Lisans: Apache 2.0’dan Tencent Hy Lisansı’na
En önemli fark lisansta. GitHub’daki önizleme deposu Apache 2.0 lisansıyla yayımlanmıştı. Yeni Hy4 ise “Tencent Hy License 1.0” ile geliyor. Bu lisans genel olarak ücretsiz kullanım, değiştirme ve dağıtma izni veriyor. Ama ticari bir koşul ekliyor.
Koşul, modeli başkalarına API gibi genel amaçlı bir hizmet olarak sunan şirketleri ilgilendiriyor. Lisans metnine göre bu şirketler iki durumda Tencent’ten ayrı yazılı izin almak zorunda:
- Son 12 ayda dünya genelindeki toplam geliri 50 milyon doları aşıyorsa.
- Modeli aylık 100 milyondan fazla aktif kullanıcısı olan bir üründe kullanıyorsa.
Şirket içi kullanım bu koşulun dışında. Model ya da çıktıları üçüncü kişilere sunulmadığı sürece ayrı izin gerekmiyor. Belirli bir özelliğe gömülü son kullanıcı ürünleri de “model hizmeti” sayılmıyor.
Türkiye ve kullanıcılar için ne anlama geliyor?
Hy4’ü bir ev bilgisayarında çalıştırmak gerçekçi değil. 770 milyar parametrelik bir model, birden çok güçlü ekran kartı olan sunucular istiyor. Bu yüzden asıl hedef kitle, kendi altyapısını kuran kurumlar ve bulut sağlayıcıları.
Türkiye’deki şirketler için öne çıkan noktalar şöyle:
- Kendi sunucunda büyük model. Bankalar, telekom şirketleri ya da kamu kurumları, verisini dışarı göndermeden büyük bir çok kipli model kurabilir.
- Lisans çoğu Türk şirketine dert olmaz. 50 milyon dolar gelir eşiği, sadece modeli API olarak satan büyük sağlayıcıları ilgilendiriyor. Yine de hukuk ekibinin metni okuması şart.
- Daha hafif seçenek de var. Tencent bu hafta başında daha küçük ve ucuz Hy4 flash’ı duyurmuştu. Ayrıntılar Hy4 flash haberimizde.
- Türkçe için kendi testinizi yapın. Model kartı çok dilli testlerden söz ediyor ama Türkçe için ayrı bir sonuç vermiyor.
Daha geniş açıdan bakınca Hy4, Çinli şirketlerin büyük modellerini açık ağırlıkla yayımlama eğilimini sürdürüyor. Ancak lisans değişikliği bir sinyal. Önizlemede tamamen serbest olan şartlar, ana sürümde büyük ticari rakiplere karşı sıkılaştırıldı.
Kaynak: Hugging Face: tencent/Hy4 model kartı; Tencent Hy License 1.0; GitHub: Tencent-Hunyuan/Hy4; GitHub: Hy4 preview; Tencent Hunyuan X duyurusu
Yapay zekâya sor
Haberi seçtiğiniz asistanda hazır bir soruyla açın
Şu haberi 3 maddede özetle: https://aihaber.org/tencent-hy4-acik-agirliklari-yayimlandi/
Gemini hazır soruyla açılamıyor: soru panonuza kopyalanır, açılan sayfada yapıştırmanız yeterli.
Bu haber işinize yaradı mı?
Yorumlar 0
Henüz yorum yok. İlk yorumu siz yazın.
Yorum yazın