CUDA’nin Cin’de LLM Egitimindeki Gizli Maliyeti: Huawei Ascend Gecisi Neden Bu Kadar Zor?

Cin’de en gelismis buyuk dil modellerinin (LLM) egitiminde hâlâ Nvidia’nin CUDA platformu kullaniliyor. Ulkenin yurtici yapay zeka cip gelistirme cabalarina ragmen, uygulamada Nvidia bagimliligi devam ediyor. SCMP’nin birden fazla Cinli LLM gelistiricisiyle yaptigi roportaj, bu tablonun detaylarini ortaya koydu.

CUDA mi, CANN mi? Temel Fark

Nvidia’nin CUDA (Compute Unified Device Architecture), yapay zeka modeli egitiminde dunya capinda standart haline gelmis bir hesaplama platformu. Huawei’nin yerli alternatifi CANN (Compute Architecture for Neural Networks) ise Ascend islemci serisiyle calisan bir yazilim yigini. Ancak bu ikisi birbirinin dogrudan alternatifi degil — mevcut CUDA kodlari CANN uzerinde dogrudan calismiyor.

Gecis Maliyeti Ne Kadar?

Araştirmacilara gore CUDA’dan Huawei Ascend’e gecis, sadece donanim degisimi degil — tum yazilim katmaninin yeniden yazilmasi anlamina geliyor. Ortaya cikan veriler sasirtici:

• Acik kaynak model ve kaynak kod mevcutsa: 2-3 muhendis yaklasik 1 ay ek is yuklu
• Sadece model agirliklari varsa, kaynak kod yoksa: 10’dan fazla muhendis 6 aydan uzun ek calisma

Bir arastirmacinin hesaplamasina gore Huawei Ascend‘e tam gecis, toplam sure ve maliyette en az %50 artis gerektiriyor.

Nvidia’nin Hakiki Korumasi: Donanim Degil, Yazilim Ekosistemi

Cin’in yurtici yapay zeka cip gelistirme konusundaki ilerlemeleri tartismasiz — Ascend serisi fiziksel performans acisindan Nvidia’ya yakinsadursun, asil mesele baska bir yerde. Nvidia’nin gercek guvencesi CUDA’nin kendisi degil, CUDA’nin etrafinda olusmus devasa yazilim ekosistemi.

Mevcut Python ve derin ogrenme kutuphaneleri, model egitim pipeline’lari, araclar ve topluluk destegi — bunlarin tamami CUDA etrafinda sekillenmis durumda. Huawei’nin CANN’i bu ekosistemi bastan olusturmak zorunda kaliyor ve bu, yillar alabilecek bir surec.

Yerli Cozumler Ne Durumda?

Yine de Cin’de yerli alternatiflere dogru somut adimlar atiliyor. Meituan (), haziran ayinda LongCat-2.0 modelini piyasaya surdu. Sirketin sozlerine gore bu model, 50.000 Cin yapimi hesaplama kartindan olusan bir kume uzerinde tamamen egitilmis ve calistirilmis — henuz resmi olarak dogrulanmamis olsa da uzmanlar bunun Huawei Ascend kartlari oldugunu dusunuyor.

Sonuc: Programcilar CUDA’dan Cixarmak

Cin’in AI cip rekabetinde asil soru su: Sadece Nvidia’ya yakin performansta cip uretebilecekler mi, yoksa programcilarini CUDA ekosisteminden koparabilecekler mi?

Birincisi zaten buyuk olcude cozulmeye basladi. Ikincisi ise cok daha karmasik ve uzun vadeli bir meydan okuma. CUDA ile yazilmis onlarca yillik kod, araç ve deneyim birikimi, birkac yilda tasinmaz. Nvidia’nin gercek koruma hendeci iste bu yazilim katmani.

Kaynak: Max For AI (@MaxForAI) – X | SCMP