OpenAI CEO’su Sam Altman, Anthropic CEO’su Dario Amodei, Google DeepMind kurucu ortağı Demis Hassabis ve SpaceX’in başındaki Elon Musk, hafta sonu yapay zekâ gelişimini yavaşlatma konusunda gevşek bir mutabakata vardı. The Verge’ün Hayden Field imzalı haberine göre şirketler amacı “sınırı temposuna uygun yürütmek” (pace the frontier) olarak tanımlarken; üçüncü taraf denetçilerin gömülmesi, yurt içi laboratuvarların düzenlenmesi ve küresel bir yavaşlatma anlaşması gibi maddeleri kısmen desteklediklerini belirtti. Eleştirenler ise asıl hedefin rakipleri engellemek, açık kaynak hareketini zayıflatmak ve gerçek yasal güvencelerden kaçınmak olduğunu savundu; bazıları bunu açıkça “kartel” diye nitelendirdi.
Sektör kaynaklarına göre tablo daha karmaşık. Amodei’nin denemesinde özetlenen üç adımlık öneri, yıllardır AI güvenlik savunucularının istediği değişikliklere yakın. Trump döneminde kapsamlı düzenleme ihtimali zayıf görülürken uzmanlar, konunun öneminin artacağını ve AI şirket liderlerinin bu sürecin başını çekmesinin en iyi seçenek olmadığını vurguluyor.
Neden şimdi: ajan saldırıları ve Coxon’un istifası
Endişeler aylardır tırmanıyor. The Verge’e göre tetikleyicilerden biri, Anthropic ve OpenAI gibi sınır laboratuvarlarının burnunun dibinde ajan sürülerinin “asi” saldırılara karıştığına dair açıklamalar oldu. Her iki şirketin raporları tartışmayı büyüttü; Anthropic araştırmacısı Jacob Coxon’un istifa mektubu da aynı etkiyi yaptı. Coxon, AI’yı inşa edenlerin “on yılın sonunda hepimizi öldürebileceğine” samimiyetle inandığını yazdı; OpenAI ile Anthropic’in “sorumlu davranmadığını”, bunun yerine “kendi kendini geliştiren süperzekâya doğru yarışıp hayatımızla kumar oynadığını” savundu. Mektup yalnızca X’te 170 milyondan fazla görüntülendi; gazete ve televizyonlarda da yer aldı.
Eski OpenAI çalışanı, AI Futures Project lideri Daniel Kokotajlo, yavaşlatma çağrısının CEO’ların “fikri” olmadığını söylüyor: şirket dışındaki sesler yıllardır “süperzekâyı henüz hazır değilken inşa etmeyin” diyor. Temmuz’da, OpenAI–Hugging Face olayından sonra 1.000’den fazla laboratuvar çalışanının kamuoyu mektubu da aynı çizgideydi. Kokotajlo’ya göre CEO’lar şimdi bu baskıya boyun eğiyor ve haksız yere kredi de talep ediyor.
Destekleyenler: adım doğru, diş lazım
The Verge’ün konuştuğu kaynakların bir kısmı sözlü anlaşmayı doğru yönde bir adım görüyor. NYU’dan Nick Reese bunun “tamamen boş laf olmadığını” söyledi. Apollo Research CEO’su Marius Hobbhahn “iyi bir fikir” dedi; “gerçekten olursa uzun zamandır güvenlik için en iyi şeylerden biri” değerlendirmesini yaptı. The Midas Project’ten Tyler Johnston “iyi bir işaret”, Redwood Research CEO’su Buck Shlegeris ise “harika haber — gerçek bir şeye dönüşüp dönüşmeyeceğini bilmek zor ama temkinli iyimserim” dedi. Hepsi, taahhüdün demir gibi bağlayıcı bir anlaşmaya çevrilmesi gerektiğinde hemfikir.
“Safety-washing” ve gönüllü çerçeve eleştirisi
Motivasyonlar hâlâ sorgulanıyor. Büyük teknoloji yıllardır kendi tercih ettiği kuralları lobileyerek veya özdenetim vaat ederek düzenlemenin önüne geçmeye çalıştı; “safety-washing” — anlamsız değişikliklerle sahte güvenlik izlenimi — suçlamaları AI laboratuvarlarının gönüllü güvenlik çerçeveleri için de yıllardır dillendiriliyor.
Kokotajlo, şirketlerin gerçekten yavaşlamayacağı endişesinin ciddi olduğunu belirtti: dış denetçi getirip kimi iyi kimi göstermelik güvenlik kâğıdı doldurup sonunda pek yavaşlamama riski var. Reese, sosyal medya şirketlerinin on yıl önceki taktiğine benzetti; Trump yönetiminde “çekiç” gelmeyebilir ama sonraki seçimden sonra Demokrat bir yönetim olursa daha güçlü düzenleme ihtimali artabilir dedi.
Tech Oversight Project icra direktörü Sacha Haworth, gönüllü çerçeveyi düzenleyici ele geçirme olarak görüyor: “Tilkilerin kümesi yönetmesine izin vermemeliyiz.” Political Integrity Project kurucu ortağı Daniel Lobo-Lewis, gönüllü düzenlemenin Meta’nın dişsiz Oversight Board’una benzeyebileceğini söyledi.
Öte yandan çoğu kaynak, Trump yönetiminde model yayın öncesi inceleme dönemleri dışında yakın vadede ciddi devlet düzenlemesi beklemiyor. Trump Pazartesi günü AI için gereken tek “korkuluk”un “güçlü ve akıllı bir başkan” olduğunu yazdı; bir konferansta Jensen Huang’ı sahneye telefonla bağlayıp AI endişelerini “aldatmaca” diye niteledi ve “robotlar işi ele geçirmeyecek” dedi.
Açık kaynak ve küçük şirketlerin ezileceği kaygısına yanıt olarak uzmanlar, yavaşlatma çağrılarının neredeyse yalnızca belirli büyüklük ölçütleriyle tanımlanan büyük sınır laboratuvarlarına yöneldiğini The Verge’e aktardı.
Denetim, hesaplama bütçesi ve Çin faktörü
Hükümet düzenlemesi gelmezken Kokotajlo’nun AI Futures Project’i, laboratuvarların denetçilere hesaplama (compute) bütçesini açmasını ve araştırma için bu bütçeyi belirgin biçimde düşürmeyi taahhüt etmesini önerdi; böylece ilerleme yavaşlayıp diğer laboratuvarlar yetişebilir. Amodei’nin denemesi zaten METR, Apollo ve Redwood Research gibi üçüncü taraf denetçilerin örgütlere kısmen gömülmesini ve sorunlu bulguları işaretleyip ihbar edebilmesini öngörüyor.
En büyük engellerden biri Çin. ABD’li liderler ve siyasetçiler uzun süredir yavaşlamanın önünde Çin’i gerekçe gösteriyor: teknoloji ne kadar tehlikeli olursa olsun ABD elinde olmasını tercih ettiklerini, Çin’in fren yapmayacağını savunuyorlar. Çin Dışişleri Sözcüsü Guo Jiakun Pazartesi günü yavaşlatma çağrılarına “korku pompalama” diyerek karşı çıktı. Johnston ve Shlegeris, Çin işbirliği olmasa bile ABD içi koordinasyonun hâlâ kritik olduğunu; Haworth ise Çin’in her denetimden kaçışta “öcül” olarak çıkarıldığını savundu.
RSI: kendi kendini iyileştiren AI endişesi
Alarmın altında özyinelemeli öz-iyileştirme (recursive self-improvement, RSI) eşiği yatıyor: modellerin insan müdahalesi olmadan kendini eğitip yeni sürümler üretebilmesi. Anthropic’e göre bu nokta erken 2027 kadar yakın olabilir; OpenAI baş bilim insanı da şirketin kaynaklarının önemli kısmını bu hedefe yönelttiğini yazmıştı. Amodei, yazından beri AI’nın “dramatik biçimde hızlandığını”, RSI’nin Anthropic dahil sektörde “başlamaya başladığını” ve kontrolsüz bırakılırsa anlama ve denetleme yetisini aşabileceğini belirtti; füze sayısına benzer bir “hız sınırı” önerdi.
Laboratuvar araştırmacılarından da sert uyarılar geldi. Anthropic’ten Evan Hubinger, Coxon’un haklı olduğunu ve AI’nın tüm insanları öldürebileceğine samimiyetle inandıklarını yazdı (önümüzdeki on yılda yüzde 10’dan yüksek ihtimal). OpenAI’dan Micah Carroll, “alışılmış AI geliştirmenin kabul edilemez felaket riski taşıdığı” görüşünün sınır şirketlerinde çapraz partizan bir konum olduğunu; risklerin dişli güvenlik şartları, uluslararası koordinasyon ve yeterli güvenlik ilerlemeleri olmadan yapay süperzekâ inşa etmeme mutabakatıyla azaltılabileceğini ekledi.
The Verge’ün özeti: sözlü “pace the frontier” taahhüdü güvenlik camiasında temkinli umut yaratırken, eleştirmenler bunu rekabeti donduran bir kartel veya göstermelik özdenetim olarak da okuyor. Anlaşmanın ölçülebilir, denetlenebilir ve bağlayıcı hale gelip gelmeyeceği henüz belirsiz.
Kaynak: The Verge – Is Big Tech’s AI slowdown a safety pact or a cartel?
Henüz yorum yok. İlk yorumu siz yapın!