Alibaba Qwen ekibi, Qwen3.8 Flash Next modelini acik kaynak olarak yayinladi. Her ne kadar isim Qwen3.8 olarak devam etse de, ekip bu modelin aslinda Qwen4 resmi surumu oncesi bir mimari onizlemesi oldugunu belirtti.
ModelScope Uzerinden Resmi Duyuru
Qwen ekibi, toplulugun Qwen4 serisine hazirlik yapabilmesi icin mimari iyilestirmelerini onceden paylastiklarini ifade etti. Model, ModelScope platformu uzerinden indirilmeye hazir.
ModelScope’un yaptigi duyuruda soyle denildi: Qwen4’u guclendiren yeni nesil mimari artik burada! Qwen3.8-Flash-Next’in acik surumune hazir olun.
Yeni Multimodal MoE Mimarisi
ModelScope’tan elde edilen bilgilere gore, Qwen3.8 Flash Next yeni bir multimodal MoE (Mixture of Experts) mimarisi kullaniyor:
- Toplam parametre: Yaklasik 125 milyar
- Aktif parametre: Token basina yalnizca yaklasik 6 milyar
- Ek N-gram Embeddings: Yaklasik 51 milyar parametre
Dikkat cekici olan, Attention, Residual, Embedding ve Optimization katmanlarinin tamaminin mimari acidan yukseltilmis olmasi.
Egitim Maliyeti ve Performans
Ilk tanitim materyallerine gore Qwen3.8 Flash Next, Qwen3.7 Plus’in yaklasik 1/9’u kadar egitim maliyetiyle benzer seviyede bir performans sunuyor. Ayrica Coding ve Cowork senaryolarinda ek iyilestirmeler sagladigi belirtiliyor.
Bu verimlilik artisi, MoE mimarisinin yalnizca gerekli uzmanlari aktive etmesi sayesinde mumkun oluyor.
N-gram Embedding Stratejisi
Qwen ekibi, model kapasitesinin onemli bir kismini N-gram Embedding gibi dusuk hesaplama maliyetli yapilara tasiyor. Bu strateji, toplam parametre sayisini artirirken islem maliyetini dusuk tutmayi hedefliyor.
Toplam parametre artarken token basina aktif parametre sayisinin dusuk kalmasai uzun bagnlamli islemlerin daha ucuz hale gelmesi anlamina geliyor.
Resmi Model Karti Yayinlanmadi
125 milyar parametre, 6 milyar aktivasyon ve 51 milyar N-gram gibi spesifikasyonlar henuz resmi olarak dogrulanmadi. Model karti’nin onumuzdeki gunlerde tam olarak yayinlanmasi bekleniyor.
Qwen4 Geliyor
ModelScope’un duyurusundaki en net mesaj: Qwen4 yaklasiyor. Qwen3.8 Flash Next, bu gecisin ilk isareti olarak degerlendiriliyor.
Qwen3.8 Flash Next hakkinda daha fazla bilgi icin Qwen AI Model Gu ncellemeleri sayfamizi takip edebilirsiniz.
Henüz yorum yok. İlk yorumu siz yapın!