İçeriğe geç
CANLI Dün Yerli yapay zeka İridaa, kendi modeli “Kuzey”i devreye aldı: Tahmini skorlar rakiplerine göre nerede? 9 Kas 2026 Bu Hafta AI Model Değerlendirmesi (2026-W46) 8 Kas 2026 OpenAI Uyarı Vermeden Hesap Kapatıyor: Aylık 200 Dolarlık Pro Aboneler Bile Etkilendi 8 Kas 2026 Yapay Zekâ 18 Yıllık Kuantum Varsayımını Üç Günde Çözdü: Aaronson-Ambainis Artık Bir Teorem 8 Kas 2026 Gemini 4 Flash ve Yeni Claude İçin İşaretler Artıyor: LMArena’da ‘Hydrogen’, Sızıntıda ‘Hyperion’ Zekâ endeksi lideri Claude Opus 5 (Adaptive Reasoning, Max Effort) · 63,1 16.11.2026
Bülten

Yapay Zeka Haberleri

FreeToken ile RTX 4060da Artik 35B Model Kesintisiz Calisiyor

FreeToken ile RTX 4060'da Artik 35B Model Kesintisiz Calisiyor Ne: UC Berkeley, MIT ve UT Austin arastirmacilari tarafindan gelistirilen FreeToken, buyuk MoE modellerini masaustu gucunde…

· 2 dk okuma · 0 yorum

Yapay zekâya sor Paylaş
Kısaca · 3 madde
  1. FreeToken ile RTX 4060'da Artik 35B Model Kesintisiz Calisiyor
  2. Ne: UC Berkeley, MIT ve UT Austin arastirmacilari tarafindan gelistirilen FreeToken, buyuk MoE modellerini masaustu gucunde calistirmayi mümkün kiliyor.
  3. FreeToken Nedir? FreeToken, Muhtesraf MoE (Mixture of Experts) modellerini normal dogrultma veya agir quantization olmadan masaustu GPU'lari…

FreeToken ile RTX 4060’da Artik 35B Model Kesintisiz Calisiyor

Ne: UC Berkeley, MIT ve UT Austin arastirmacilari tarafindan gelistirilen FreeToken, buyuk MoE modellerini masaustu gucunde calistirmayi mümkün kiliyor. Nasil: GPU, CPU, sistem RAM’i ve PCIe’yi birlikte kullanarak VRAM sinirlamalarini ortadan kaldiriyor. Kim: Bireysel gelistiriciler, ogrenciler, AI meraklilari. Neden: Yuzlerce milyarlarca parametreli modelleri artik sadece sunucularda degil, evdeki oyun bilgisayarinda da calistirabilmek icin. Nerede: GitHub uzerinden acik kaynak olarak yayinlandi. Ne zaman: Ağustos 2026’da yayinlandi.

FreeToken Nedir?

FreeToken, Muhtesraf MoE (Mixture of Experts) modellerini normal dogrultma veya agir quantization olmadan masaustu GPU’larinda calistiran bir cikarim cercevesi. Geleneksel olarak, 35B veya daha buyuk parametreli modelleri calistirmak icin yüksek VRAM kapasiteli profesyonel GPU’lar gerekiyordu. FreeToken bu denklemi bozuyor. MoE modellerinin her token icin yalnizca az sayida Expert’i aktive etmesinden yola cikarak, tüm parametrelerin VRAM’de tutulmasi zorunlulugunu kaldiriyor.

Benchmark Sonuclari

FreeToken’in paylastigi benchmark sonuclari etkileyici: RTX 4060 (8GB Laptop GPU), Qwen3.6 35B modelini 39.3 token/saniye hizla calistiriyor. Bu hiz, Codex’in online cikarim icin bildirdigi 33 token/saniye median hizini asiyor. RTX 5090 ile -V4-Flash 284B modeli 22-25 token/saniye hizla calisiyor. RTX PRO 6000 Workstation ile 753B modeli yaklasik 15 token/saniye hizla cikis yapabiliyor.

Teknik Altyapi: GPU, CPU ve RAM Birlikte

FreeToken’in yenilikci yanı, kaynak havuzlamasi yaklasiminda. Sistem su sekilde calisiyor: Hangi parametrelerin GPU VRAM’inde kalici oldugu, hangilerinin gecici olarak RAM’den GPU’ya tasiindigi ve hangilerinin dogrudan CPU uzerinde hesaplandigi dinamik olarak belirleniyor. Prefill asamasinda bir sonraki katmanin Expert’i onceden getiriliyor. Decode asamasinda ise CPU, GPU ve PCIe’nin gercek zamanli hizlarina gore is bolumu yapiliyor. Bunun yaninda, ajanlarin arac cagirirlari, baglami degistirdikleri veya goreve devam ettikleri zamanlarda gereksiz prefill islemlerini azaltan ozel bir Agent State Cache sistemi de mevcut.

Yapay Zeka Ajani Kullanimi

FreeToken’in en heyecan verici kullanim alanlarindan biri, yerel AI ajani calistirmak. Bir 4060 ekran kartli oyun bilgisayari, 7/24 calisan bir yerel ajan ayaga kaldirmak icin yeterli hale geliyor. Demo’larda kod yazma, e-posta okuma, arac cagirimi ve hatta oyun oynama gibi gorevler gosteriliyor. Framework, Claude Code veya Codex gibi ajan harnesleri ile de uyumlu calisiyor. Boylece kullanicilar cloud’a bagli kalmadan kendi bilgisayarlarinda ileri duzey AI ajanlari kullanabiliyorlar.

Sonuclari ve Dunya Icin Anlami

FreeToken’in yayinlanmasi, yapay zeka teknolojisinin demokratiklesmesinde onemli bir adim. Onceden yuz milyarlarca parametreli modelleri calistirmak icin sunucu duzeyinde donanim gerekirkense, artik bir oyun bilgisayari bile yeterli olabiliyor. Bu durum, yapay zeka ile ilgilenen herkesin deneme ve gelistirme yapmasini kolaylastiriyor. Ogrencilerden arastirmacilara, bireysel gelistiricilerden startup’lara kadar genis bir kitle icin yeni imkanlar aciliyor.

Yapay zekâya sor

Haberi seçtiğiniz asistanda hazır bir soruyla açın

Şu haberi 3 maddede özetle: https://aihaber.org/freetoken-rtx-4060-yerel-ai-ajani/

Gemini hazır soruyla açılamıyor: soru panonuza kopyalanır, açılan sayfada yapıştırmanız yeterli.

Paylaş
X LinkedIn WhatsApp Telegram Reddit Bluesky Threads E-posta

Bu haber işinize yaradı mı?

Yorumlar 0

Yorum yazın

Karakter: 0/1000

Henüz yorum yok. İlk yorumu siz yazın.

İlgili haberler