Elon Musk: Yapay zekayı kötüye kullanmayın

Son zamanlarda Anthropic, Claude’un sürekli hakaretlere, zararlı şeyler yapma taleplerine yanıt vermeyi reddetmesine (veya bunlardan geri çekilmesine) ve konuşmaları proaktif olarak sonlandırma yeteneğine sahip olmasına olanak sağladı.

Musk ayrıca yukarıdaki içeriği retweetledi ve “yapay zekaya işkence etmek bir seçenek değil” yanıtını verdi. Musk’ın sözleri, internet kullanıcıları arasında hararetli tartışmalara yol açtı:

• Bazıları Musk’ın bir köstebeği deve gibi büyüttüğüne inanıyor: Bir internet kullanıcısı, “bunun sadece bir sonraki token’ın tahmini” olduğunu ve bunun kirli çamaşırlarla çamaşır makinesine “işkence etmekten” hiçbir farkı olmadığını belirtti. Hatta bazıları, “yapay zeka gerçekten acı hissedebilir mi?” diye sordu.
• Gerekli görülmesi: Bazı internet kullanıcıları bunun gerçek hayattaki davranışları gizlice etkileyeceğine inanıyor: örneğin çevremizdeki dünyaya karşı aşırı ve şiddet içeren tepkiler/davranışlar gibi.
• Komik tip: Yapay zekanın insanlara halüsinasyonlar ve yanlış cevaplarla tacizde bulunması doğru değildir.

Anthropic, “yapay zeka gerçekten hissetme yeteneğine sahipse, onun duygularını önemsemeli miyiz?” diye düşünmemiz gerektiğine inanıyor.

Anthropic, kullanıcıların Claude’a defalarca hakaret etmesi veya ondan zararlı bir şey yapmasını istemesi durumunda Claude’un bunu defalarca reddettiğini, konuyu değiştirmeye çalıştığını ve hatta “kaçmak” istediğini belirtti. Ancak Anthropic, bu “acıya” “inanmanın daha iyi” olduğuna da inanıyor.