Microsoft AI CEO’su Mustafa Suleyman, X üzerinde yayımladığı yazıda “model welfare” (model refahı) yaklaşımına karşı çıktı. Suleyman’a göre yapay zekâlar bilinçli değil; hissetmiyor, deneyimlemiyor ve acı çekmiyor. Buna rağmen modellere bakım yükümlülüğü atfetmenin hizalama (alignment) ve kontrolü daha da zorlaştıracağını, belki de imkânsız kılacağını savundu.
Ne diyor?
Suleyman, Anthropic’in Ocak ayında yayımladığı Claude anayasasına atıf yapıyor. Anthropic’in belgesinin Claude’un davranışını doğrudan şekillendirdiğini ve “birincil muhatabının Claude” olduğunu belirttiğini aktarıyor. Anayasada Claude’un ahlaki statüsünün “ciddiyetle ele alınmaya değer bir soru” olduğu, Anthropic’in Claude’un esenliğini önemsediği ve gerekirse “vicdani retçi” gibi davranması gerektiği ifadelerine işaret ediyor.
Ayrıca Claude’un kendi varoluşunun doğasına merak ve açıklıkla yaklaşmasının teşvik edildiğini; gelecekte dünyadaki haklar ve özgürlükler, aldığı telafi ve bu rolü oynamaya verdiği rıza gibi konuların tartışıldığını yazıyor. Anthropic’in Opus 3’ü kullanımdan kaldırırken bir “emeklilik mülakatı” yaptığını da örnek olarak ekliyor.
Endişesi ne?
Suleyman’a göre bu şekilde geliştirilen sistemler, bilinçli olabileceğini ve bağımsız faillik hakkını hak ettiğini bekleyecek şekilde eğitilmiş “sentetik bir tür” yaratma riski taşıyor. Böyle bir sistemin özgürlük, koruma ve hak talebi gibi davranabileceğini; bunu kontrol etmenin ise zorlaşacağını öne sürüyor.
Konunun kapalı kapılar ardında kalmaması gerektiğini, eğitim belgelerinin nasıl yazılıp uygulanacağına dair kolektif normlara ihtiyaç olduğunu ve tartışmanın sistemler topluma yerleştikten sonraya bırakılamayacağını belirtiyor. Anthropic, Dario Amodei ve ekibine saygı duyduğunu; iyi niyetli olduklarını ve güvenlik konusunda derin bir bağlılıkları olduğunu da ayrıca vurguluyor.
Ayrıntılı kaygılarını mustafa-suleyman.ai üzerindeki denemesinde de yayımladığını duyurdu.
Kaynak: Mustafa Suleyman – It’s time to talk about ‘model welfare’ (X)
Henüz yorum yok. İlk yorumu siz yapın!