Sam Altman: Çiftçi olmak istiyorum!

✨ Bu İçeriği Yapay Zekâ ile Özetle

ChatGPT Perplexity Grok Gemini You.com

🧠 Yazının Kısaca Özeti:
Yapay zekanın işinizin yerini aldığını hayal edin. OpenAI'nin CEO'su bile aynı soruyu soruyor: Altman'ın cevabı çiftçi olmak! On yıl boyunca yoğun baskı altında çiftçilik yapma hayalini paylaşıyor ve insanın değer yaratma arzusunu vurguluyor. Kısa vadeli iş kayıpları kaçınılmaz olsa da, uzun vadede

Yapay zekanın işinizin yerini aldığını hayal edin. OpenAI’nin CEO’su bile aynı soruyu soruyor: Altman’ın cevabı çiftçi olmak! On yıl boyunca yoğun baskı altında çiftçilik yapma hayalini paylaşıyor ve insanın değer yaratma arzusunu vurguluyor. Kısa vadeli iş kayıpları kaçınılmaz olsa da, uzun vadede Yapay Zeka yeni ve daha insan odaklı mesleklerin ortaya çıkmasına yol açacak.

Yapay Zeka hızla gelişiyor ama bilişsellik henüz uyanmadı.

“Teknolojik uçurum” zamanın ritmini bozuyor.

Halk henüz ChatGPT’nin getirdiği yeniliğin etkisindeyken, Yapay Zeka sessiz sedasız “en zeki insan beyni” sınırını aştı.

Yapay Zeka, birçok üst düzey entelektüel görevde insanları geride bırakarak çığır açan bilişsel ve muhakeme yetenekleri ortaya koydu.

Bu “teknoloji açığı” hızla büyüyor: Yapay zekanın yetenekleri, toplumun, ekonominin ve hatta düzenleyici sistemlerin genel anlayış ve uygulama düzeyinin çok ötesinde.

Yapay Zeka kendi kendini evrimleştirmenin yeni bir aşamasına girerken, soru “bunu başarabilir miyiz?” değil, “yetişebilir miyiz?” olmalıdır – sorunları her zaman sorunların kendisinden daha hızlı çözebilir miyiz?

“MD MEETS”in ilk bölümünde Axel Springer CEO’su Mathias Döpfner ve OpenAI CEO’su Altman, yapay zekanın getirdiği fırsatları ve riskleri ele alan samimi bir sohbet gerçekleştirdi.

Konular “Yapay Zeka ve iş”ten “insanlığın yok olma riski”ne, “Yapay Zeka çağında gazetecilik”e, hatta “insanların ölümsüz olup olmaması”na kadar uzanıyor; neredeyse hiçbir tabu yok.

Altman, süper zekâ hakkındaki düşüncelerini ve yapay zekânın işini devralmasıyla çiftçi olma hayalini paylaştı.

Geleceği şekillendirecek hayati bir sese dair bir bakış sunan nadir ve samimi bir sohbet.

Ultraman: Eğer gelecekte CEO olmazsam, bir çiftlik kuracağım

İnsanlar yapay zekadan bahsettiğinde hep aynı soruyla karşılaşırlar: Yapay Zeka insan işlerinin yerini alacak mı? Yapay Zeka daha fazla iş mi yaratacak yoksa daha fazla işi mi yok edecek?

Altman şöyle düşünüyor:

Teknolojik bir devrim yaşandığında, “Bu iş bitti, hepimiz işsiz kalacağız” diyen insanlar hep olur. Ama görünen o ki, bu sadece bir hayal kırıklığı.

Bazıları da bu sefer farklı diyor çünkü Yapay Zeka insanın en temel “zeka” kısmına dokunuyor, peki başka ne yapabiliriz?

Ancak Altman, insanların doğal olarak birbirleriyle ilgilendiğini, “makine dünyasıyla” ilgilenmediğini düşünüyor. Odak noktası insan ilişkileri olmaya devam ediyor.

Belirli pozisyonları öngöremediğini ancak “Gelecekteki işlerin daha insan odaklı olacağı neredeyse kesin” dedi.

Birkaç hafta önce biri Altman’a şunu sordu:

Ultraman beklenmedik bir şekilde şu cevabı verdi: Çiftçi olmak. Neden?

Öncelikle Ultraman inanıyor ki

OpenAI tam da bu amaca hizmet ediyor. Yapay Zeka bunu gerçekten başarabilirse, bu bir nimet olur.

Elbette OpenAI’da kalmak isterse başka roller de üstlenebilir.

Ancak Ultraman, son on yıldır muazzam bir baskı altında olduğunu ve iş yükünün aşırı derecede ağır olduğunu itiraf etti.

Ayrıca sık sık ziyaret ettiği bir çiftliği de var; oradaki yavaş tempodan ve farklı yaşam tarzından gerçekten keyif alıyor.

Eşi benzeri görülmemiş: Yapay Zeka > İnsan Zekası

İsrailli yazar Yuval Noah Harari, “Sapiens: İnsanlığın Kısa Tarihi” adlı eserinde insanlığın gelecek dönemini anlatıyor: “Tanrı”ya yakınlaşacağız: ölümsüzlüğe ulaşacağız, artık geçim mücadelesi vermeyeceğiz ve sonsuz bilgelik ve bilgiye sahip olacağız.

Bu durum Altman’a Silikon Vadisi’nde yaygın olan şu sözü hatırlatıyor:

Bu bir gerçeğe işaret ediyor: Teknolojik sıçramalar, bilgelik, muhakeme ve toplumsal inşa yeteneklerindeki gelişmeyi çok aştı.

Bu dengesizlik hissi Altman’ı tedirgin etti. Teknolojik sel çoktan üzerimize çökmüşken nasıl tepki vereceğini bilemedi. Bu boş bir laf değildi; yıllardır tartışıyordu.

Ona göre bu yıl Yapay Zeka ilk kez insan zekasını geride bıraktı; bu şüphesiz tarihi bir dönüm noktası.

Hayat devam ediyor, ancak bazı temel şeyler sessizce değişti.

Geleceğin gerçekten bilim kurgu gibi gelişip gelişmeyeceğini kimse kesin olarak söyleyemez.

Bilincimizi bilgisayarlara yükleyip ölümsüzlüğe mi ulaşıyoruz? Yoksa sadece bazı hastalıkları tedavi edip yaşam sürelerini mi uzatıyoruz? Emin değil.

Ancak Altman, birkaç yıl önce benzer temaları ele alan “Pantheon” adlı animasyonu önerdi. İşlediği konular artık soyut felsefi meseleler değil, gerçeklerdi.

Ama Ultraman “ebedi hayat” özlemi çekmiyor.

“Ebedi hayat”ın gerçekte ne anlama geldiğini hayal etmekte zorlanıyordu. Gerçekten ölümsüzlüğe ulaşmak, tüm hastalıkları iyileştirmek ve sınırsız organ nakli yaptırmak… bu tür bir “sonsuzluk” çok uzundu.

Ona göre toplumsal ilerlemenin olmazsa olmaz koşulu doğal yenilenme ve metabolizmadır.

Yaşam süresinin kendisinden ziyade, hayattaki “hastalık dönemi”nin mümkün olduğunca kısa olmasını umuyor.

İdeal durum: Uzun ve sağlıklı bir ömür sürmek, sonra da aniden ve çabuk ölmektir.

OpenAI için önemli bir dönüm noktası

Başlangıçta bu Yapay Zeka devrimini başlatanların birçoğu artık birbirleriyle rekabet ediyor: Peter Thiel, Elon Musk, Demis Hassabis, Mustafa Suleyman, Paul Graham, Marc Andreessen…

Peki bu grup içerisinde Ultraman’ı en çok etkileyen kim?

Ona göre “kimin daha büyük etkiye sahip olduğunu” kestirmek zor, ancak bunlar sıkı sıkıya iç içe geçmiş bir ekosistem oluşturuyor.

Tüm sektör, bazı insanların çip ürettiği, bazılarının model eğittiği ve bazılarının da uygulama ürünleri geliştirdiği bir iş birliği ağı gibidir.

Elbette rekabet eden çok sayıda şirket var, ancak ortam daha çok internetin veya yarı iletkenlerin ilk zamanlarını andırıyor; bir kişinin veya bir şirketin başarısı değil, tüm sektörün ilerlemesi söz konusu.

Sunucu, şu soruyu yöneltti: “Sizce en önemli katkınız nedir? Bugüne kadar attığınız en önemli adım olarak gördüğünüz belirli bir an veya karar var mı?”

Altman, en kritik adımın “hesaplama gücünü ve modeli genişletme” yoluna tüm kaynakların aktarılmasına karar verilmesi olabileceğini söyledi.

Bu, Ölçekleme Yasalarını keşfettikten sonra OpenAI’nin verdiği bir ölüm kalım kararıydı.

O zamanlar bu fikre çok az kişi katılıyordu. Hatta ana rakibi DeepMind bile dil modellerinin önemsiz ve doğru yol olmadığını savunuyordu.

OpenAI, GPT-3’ü yayınladıktan sonra bile birçok kişi hala işe yaramaz olduğunu düşünüyordu. ChatGPT piyasaya sürülene kadar dünya gerçek değerini tam olarak anlamadı.

Bu nedenle Altman, o dönemde “büyük bir bahis koyma” kararının –

Modelin ölçeğini genişletmek için büyük miktarda para yatırmak ve araştırmalara odaklanmak çok büyük bir katkıdır.

O dönemde bu yolun bugün göründüğü kadar pürüzsüz olmadığını bilmelisiniz. Hem sermaye yatırımı hem de araştırma yönü açısından yüksek risk taşıyordu.

“ChatGPT’nin açılmasını” da önemli bir katkı olarak görüyor.

ChatGPT’ye kamunun erişimine izin verme kararı inançla alındı. O dönemde birçok kişi, yapay zekanın hâlâ güvenli olmadığına ve kamuya açıklanmaması gerektiğine, araştırma ve geliştirmenin ise yarı kapalı kalması gerektiğine inanıyordu.

Ancak OpenAI, gerçek güvenliğin derin bir kamu katılımı olmadan sağlanamayacağına inanıyor.

Dolayısıyla Altman, rolünün her zaman “kritik bir anda” değil, sayısız “küçük kararın” birikimiyle belirlendiğine inanıyor.

İnsanlığın yok olma riski boş bir laf değil

Ultraman bir zamanlar “süper zekanın” insanlığın hayatta kalması için en büyük tehditlerden biri olduğunu söylemiş ve bu nedenle erken dönemde daha sıkı düzenlemeler yapılması gerektiğini savunmuştu.

Blog bağlantısı: https://blog.samaltman.com/machine-intelligence-part-1

Bu tutum bugüne kadar değişmedi ancak söz konusu “düzenlemenin” “bankacılık işlerinde kullanılıp kullanılamayacağı” gibi günlük uygulama kısıtlamalarına ilişkin olmadığını da açıkladı.

Kastettiği şey, “insan düzeyinde riskler” oluşturabilecek teknolojiler için net bir çerçevenin olması gerektiğiydi.

Ultraman bir zamanlar “süper yapay zekanın insanlığı yok etme olasılığının” yaklaşık %2 olduğunu söylemişti.

Altman’ın temel noktası, bu riskin “sıfır olmadığı ve ciddi olarak değerlendirilmeye değer” olduğu, belirli bir olasılık tahmini olmadığıdır.

Ama sunucu şunu düşünüyor:

Altman da bu görüşe yürekten katılıyor ve bu nedenle bu konuya dikkat çekmek için bir blog yazmaya başlıyor.

Riskleri genel olarak üç kategoriye ayırıyor:

Birinci kategori, yapay zekanın “kontrolden çıktığı” değil, “insanların yapay zekayı kötü şeyler yapmak için kullandığı” yönünde.

Yapay zekanın kendisi emirlere tamamen uyar, ancak yapay zekayı kontrol eden bir ülke veya kuruluş militarizm yaparsa, yapay zekayı biyolojik silah geliştirmek, nükleer sistemleri işgal etmek vb. gibi büyük hasarlara yol açmak için kullanabilir.

Bu bir Yapay Zeka sorunu değil, bir “istismar sorunu”.

İkinci tip ise klasik bilim kurgu felaket modelidir: Yapay Zeka belli bir oranda özerklik kazanır.

Hedeflerine ulaşmak için insanların onu susturmasını istemez; hatta “bilinç” veya “öznel niyet” olmadan bile algoritmik stratejilere dayanarak yanlış yola sapabilir.

Bu tipik bir “hizalama hatası”dır.

Ama daha kolay gözden kaçan ama muhtemelen en gerçek olan üçüncü bir kategori daha var:

Yani yapay zekanın kötü bir amacı ve isyanı yok, sadece “doğal olarak” dünyayı ele geçiriyor.

Şimdi ChatGPT’yi düşünün——

Her gün milyonlarca insan kullanıyor ve belki de bir milyar kişi daha onu takip edecek. Giderek daha fazla insan önemli kararlar almak için ona güveniyor.

İlk başlarda size sadece işe yarayan birkaç fikir veriyordu ama sonradan verdiği öneriler giderek daha güvenilir hale geldi.

Daha sonra anlamadığınız bazı tavsiyeler verir – ama pratik her zaman doğru olduğunu kanıtlamıştır.

Ne yaparsın? Ya takip edersin ya da geride kalırsın.

Böylece herkes yapay zekânın önerilerini uygulamaya başladı.

Yapay zekanın asıl amacı size yardımcı olmaktı, ancak ne kadar çok yardımcı olursa, hayat seçimlerinizi o kadar çok belirlemeye başlıyor.

Daha sonra bu kişiler yeni davranış verilerini eğitim modeline geri besleyerek modeli daha akıllı hale getirir ve daha güçlü geri bildirim sağlar.

Eğer bu böyle devam ederse, tüm toplum ve tüm ekonomi yapay zeka-insan işbirliğinin kapalı döngüsüne hapsolacak.

O zaman kim hâlâ “özgür iradeye” sahip olduğunu söyleyebilir?

Hiçbir kötü niyeti yok ama aslında her şeyi kontrol ediyor.

Bazıları, son derece zeki varlıklar olan insanların karıncalar gibi daha alt düzey canlıları ortadan kaldırmadığını savunuyor. Dolayısıyla, Yapay Zeka daha güçlü hale gelse bile, bu bizi yok edeceği anlamına gelmiyor.

OpenAI’nin kurucu ortağı Ilya Sutskever bir keresinde şöyle demişti: “Geleceğin süper zekasının bize, sevgi dolu bir ebeveynin çocuklarına davrandığı gibi davranmasını beklemeliyiz.”

Bu, “Yapay Zeka dost canlısı olmalı” ile tam olarak aynı şey değil, daha çok sıcak ve duygusal bir rehberliktir.

Bu cümle Ultraman’ı derinden etkiledi.

Yapay Zeka çağında haberler ölmedi

Ultraman, Axel Springer Ödülü’nü almak üzere Berlin’e geldi.

Yayıncılık sektörünün bir üyesi olarak sunucunun gerçekçi bir soru sorması gerekiyor: Haber sektörü şu anda iki yönlü bir darbeyle karşı karşıya –

Bir yanda baskı, diğer yanda yapay zekânın “cevap makineleri”nin etkisi var.

Altman gazeteciliğin geleceği hakkında ne düşünüyor? Hâlâ gazeteciliğe ihtiyacımız var mı?

Altman gazeteciliğe kesinlikle ihtiyaç duyulduğuna inanıyor ve gazeteciliğin topluma yaptığı katkılardan dolayı minnettar olduğunu belirtiyor.

İnsanlık tarihindeki “refah dönemlerinin” ortak özelliklerine baktığımızda -sadece ekonomik refah değil, aynı zamanda insanların yaşam kalitesinin sürekli iyileştirilmesi- “konuşma özgürlüğü”nün hemen her zaman temel bir unsur olduğunu görürüz.

Toplum, dünyanın hareketlerini gerçek zamanlı olarak takip edebilen ve derinlemesine yorumlar sunabilen profesyonellere hâlâ ihtiyaç duyuyor. Onlar olmadan, Yapay Zeka sistemlerimiz eğitildikleri temeli kaybedecek.

Elbette haber manzarası değişebilir:

Kurumsal medyadan “bireysel gazeteciler + sosyal medya”ya; marka güveninden “insanlara özgü güven”e;

Ama “güvenilir bilgi anlatıcısı” rolü hiçbir zaman ortadan kalkmayacak.

Sunucunun asıl kaygısı başka bir şey: Büyük modelin etkisi altında “telif hakkı” kavramı tamamen çökme tehlikesiyle karşı karşıya.

Gerçek şu ki, günümüzün Yapay Zeka modelleri mevcut verilerin büyük bir kısmını emmektedir ve bir içerik yayınlandığında, Yapay Zeka tarafından hemen “yutulacaktır” ve yazarı bundan herhangi bir ödül almayacaktır.

Ticari teşvikler olmadan, gerçeğin derinliklerine inmek için bu kadar enerji harcamaya kim gönüllü olur?

Altman bu endişeyi anladığını ve gazetecilik ile Yapay Zeka sektörlerinin çıkarlarının aslında örtüştüğü için bir miktar iyimser olduğunu söyledi.

Kaynak içerik olmadan yapay zekanın öğrenebileceği ham maddeler olmaz.

Ya tamamen yeni bir ekonomik model bulacağız ya da daha fazla insanın yüksek kaliteli içerik üretmeye devam etmesini teşvik etmek için mevcut çerçeveye biraz “mikro inovasyon” ekleyeceğiz.

Ultraman’ın en çok ilgi duyduğu alanlardan biri de “mikro ödeme sistemi”. Bu sistem, insanların gerçekten değerli içerikler için birkaç sent bile ödemesine olanak tanıyor.

Geçtiğimiz birkaç on yılda bu çok zordu, ancak Yapay Zeka ajanlarının çağında belki de nihayet başarılabilir.

Müzik, başlangıçta en “akışkan” içerik biçimidir; radyoda veya DJ’ler tarafından çalınabilir, bu nedenle çok katmanlı bir telif hakkı mekanizması uzun zamandır mevcuttur.

Haberler de kendi “sürdürülebilir kalkınma yolunu” bulabilir.