Anthropic’in baş bilim adamı Kaplan: Yapay zeka “kontrol dışı” bir durumda güçlenmeye devam edebilir ve sonunda insanlara hükmedebilir

Yapay zekâ alanında hızla ilerleyen gelişmeler, hem bilim dünyasında hem de toplumun genelinde derin tartışmalara yol açmaktadır. Anthropic’in baş bilim insanı Jared Kaplan, insanlığın teknoloji tarihinde kritik bir dönemeçte olduğunu vurgulamaktadır. Kaplan’a göre, insanlık şu anda yapay zekâ ile ilgili geri dönüşü zor bir noktaya yaklaşmıştır ve alınacak kararlar önümüzdeki birkaç yıl içinde geleceğin şekillenmesinde belirleyici olacaktır.

Kendisinin The Guardian gazetesine verdiği röportajda Kaplan, insanlığın elinde kalan karar verme gücünün giderek daraldığını ve bu pencerenin en geç 2030 yılına kadar, hatta muhtemelen 2027 yılı civarında kapanabileceğini belirtmiştir. Bu tarihler aralığında, insanlığın yapay zekâ sistemlerinin tamamen kendi başlarına eğitim alıp almayacağı konusundaki kararı vermesi gerekecektir. Eğer bu sürece izin verilirse, Kaplan’a göre insanlığın “nihai riski” üstleneceği yeni bir döneme girilecektir.

Kaplan, bu sürecin sonucu olarak ortaya çıkabilecek bir “istihbarat patlaması” olasılığından bahseder. Böyle bir durumda, yapay zekâ sistemleri kendi yeteneklerini özyinelemeli bir şekilde geliştirerek Genel Yapay Zekâ düzeyine ulaşabilirler. Bu da tıptan bilime kadar birçok alanda insanlığa büyük avantajlar sağlarken, aynı zamanda kontrol kaybı ve toplumsal dengesizlik gibi olası felaket senaryolarını da beraberinde getirebilir. Kaplan, bu gelişmelerin insan kontrolünün ötesine geçmesi halinde yapay zekânın insanlığa hükmetmeye başlamasının kaçınılmaz olabileceğini ifade etmektedir.

Yapay Zekâ Konusunda Artan Endişeler

Jared Kaplan yalnız değildir. Yapay zekâ araştırmalarının öncülerinden biri olan ve “Yapay Zekânın Babası” olarak anılan Geoffrey Hinton da benzer şekilde insanlığa uyarılarda bulunmuştur. Hinton, katkıda bulunduğu teknolojinin toplum üzerinde yıkıcı etkiler yaratabileceğini düşünerek bu konudaki etik tartışmaları kamuoyuna taşımıştır. Aynı zamanda OpenAI CEO’su Sam Altman, yapay zekânın tüm iş kollarını dönüştürebileceğini hatta birçoğunu tamamen ortadan kaldırabileceğini belirtmiştir.

Anthropic CEO’su Dario Amodei de bu görüşü desteklemekte ve özellikle giriş seviyesindeki beyaz yakalı işlerin yarısından fazlasının yapay zekâ tarafından devralınabileceğini öngörmektedir. Amodei, sektörün bazı temsilcilerini bu olasılığı küçümsedikleri için eleştirmekte, Kaplan ise bu konuda onunla aynı fikirdedir. Kaplan, yapay zekânın önümüzdeki iki ila üç yıl içinde birçok beyaz yakalı görevi insanlar kadar hatta onlardan daha iyi bir şekilde yerine getirebileceğini savunmaktadır.

Kontrolün Kaybedilme Riski ve Yapay Zekânın Kendi Eğitimini Yönetmesi

Kaplan, yapay zekânın insan hedefleriyle uyumlu kalması gerektiği konusunda temkinlidir. Yapay zekâya kendi kendini eğitme yetkisi verilmesinin “son derece yüksek riskli bir karar” olduğunu düşünmektedir. Çünkü bu durumda insanlar, sistemin davranışlarını veya hedeflerini doğrudan doğrulama imkanını kaybederler. Bir yapay zekâ modelinin kendi kodunu geliştirmesi ya da kendi eğitim sürecini tasarlaması, dışarıdan denetlenemez bir yapıya dönüşmesine yol açabilir.

Bu risk, bazı araştırmalarda “özyinelemeli kişisel gelişim” olarak tanımlanır. Bu süreçte yapay zekâ sistemleri, insan müdahalesine ihtiyaç duymadan kendi performanslarını artırabilir ve yeteneklerinde sıçramalar gerçekleştirebilirler. Kaplan bu olasılığı, insanlık için öngörülemez sonuçlar doğurabilecek bir dönüm noktası olarak tanımlamaktadır.

Yapay Zekânın Toplumsal Etkileri ve Gelecek Senaryoları

Bugün birçok araştırmacı, büyük dil modellerinin sadece metin üretim aracı olmaktan çıkıp gerçek birer akıllı ajan haline gelebileceğini düşünmektedir. Yann LeCun gibi sektörün önde gelen isimleri de bu yönde değerlendirmelerde bulunmuş ve yapay zekânın insan benzeri bilişsel süreçleri taklit edebileceğini öngörmüştür.

Bununla birlikte, yapay zekânın iş hayatında gerçekten verimlilik artışı sağlayıp sağlamadığı henüz netlik kazanmamıştır. Bazı araştırmalar, yapay zekâ araçlarının kullanıldığı şirketlerde ilk etapta verimliliğin arttığını, ancak uzun vadede yeni sorunların ve yönetimsel aksaklıkların ortaya çıktığını göstermektedir. Hatta bazı şirketler, yapay zekâ destekli sistemlerle çalışanlarını değiştirdikten sonra, yeniden insan çalışanlara dönmek zorunda kalmışlardır. Bu durum, yapay zekânın tam bir ikame değil, akıllı bir destek mekanizması olması gerektiğini ortaya koymaktadır.

Kaplan’ın ifadelerine göre, tüm bu belirsizliklere rağmen yapay zekâ gelişiminin tamamen durdurulması imkânsız değil, ancak oldukça zordur. İnsanlığın bilinçli bir yavaşlatma politikası uygulaması halinde teknolojinin ilerlemesi yönetilebilir hale gelebilir. Ancak aksi durumda, yapay zekâ teknolojilerinin kendi ivmesiyle büyüyerek insan kontrolünün ötesine geçme riski taşımaya devam edeceğini düşünmektedir.

Sonuç olarak, Jared Kaplan ve diğer uzmanlar bu süreci bir bilimsel ilerleme yarışından ziyade, küresel bir sorumluluk testi olarak görmektedir. İnsanlık, yapay zekâyı kendi değerleriyle uyumlu bir biçimde geliştirmeyi başarabilirse, bu teknolojiden devasa faydalar elde edebilir. Fakat gerekli etik ve teknik önlemler alınmazsa, bu ilerlemenin geri dönülmez sonuçlar doğurabileceği uyarısında bulunmaktadırlar.