Demis Hassabis Yapay Zeka Güvenliği İçin Uluslararası Denetim Mekanizması Önerdi

DeepMind CEO’sı Demis Hassabis, yapay zeka güvenliği alanında önemli bir adım attı. Financial Times’ın aktardığına göre, Hassabis görevinden ayrılmadan önce gelişmiş yapay zeka için bağımsız bir güvenlik standartları kuruluşu kurulmasını önerdi. Bu kuruluş, Uluslararası Atom Enerjisi Ajansı (IAEA) modeline benzer şekilde tasarlanacak.

IAEA Modeli Önerildi

Habere göre Demis Hassabis, diğer yapay zeka laboratuvarı liderleriyle de bu planı görüştü. IAEA modeli, uluslararası düzeyde güvenlik denetimleri ve en iyi uygulamaların kodifikasyonunu içerecek. Demis Hassabis yapay zeka güvenliği konusundaki vizyonu, AGI geliştirme süreçlerinin denetlenmesi gerektiği görüşünden kaynaklanıyor.

Beyaz Saray Görüşmeleri

Demis Hassabis, yaz aylarında ABD Hazine Bakanı Scott Bessent ve Trump’ın üst düzey teknoloji danışmanı Michael Kratsios ile bir araya geldi. Bu görüşmeler, yapay zeka güvenliği konusundaki ulusal ve uluslararası düzenlemelerin geleceğini şekillendirmek amacıyla gerçekleştirildi.

AGI İçin Yeni Düzenleme

Uzmanlar, bu tür bir uluslararası denetim mekanizmasının hayata geçmesinin kolay olmayacağını vurguluyor. Yapay zeka laboratuvarları arasındaki rekabet ve farklı ulusal düzenlemeler, küresel standartların belirlenmesini zorlaştırıyor.

Bu arada Anthropic’in 2 trilyon dolarlık değerlemesi ve yapay zeka yatırımlarındaki artış, sektörün ne kadar büyüdüğünü gösteriyor.

Küresel Tepkiler ve gelecek

Yapay zeka topluluğunda Hassabis’in önerisi karışık tepkilere yol açtı. Bazı uzmanlar, IAEA modelinin nükleer enerji denetiminde başarılı olduğunu ve benzer bir modelin yapay zeka için de uygulanabileceğini savunuyor. Diğerleri ise yapay zekanın nükleer enerjiden farklı olarak hızla gelişen ve kontrolü zor bir teknoloji olduğunu belirtiyor.

Demis Hassabis’in önerdiği bağımsız denetim mekanizması, bu alanda atılabilecek en kapsamlı adımlardan biri olarak görülüyor.