ChatGPT yetişkin modunu başlatacak: trafik afrodizyak mı yoksa Pandora’nın kutusu mu?

iowen
16 Eki 2025 18:10
Güncelleme: 16 Eki 2025

7 dk. Okuma Süresi

Yazı Özetini Göster

Bu sabahın erken saatlerinde OpenAI CEO’su Sam Altman, ChatGPT’nin Aralık ayında bir “yetişkin modu” başlatacağını duyurdu.

Altman, ChatGPT’nin başlangıçta bu kadar çok kısıtlama getirdiğini, bunun temel nedeninin zihinsel sağlık sorunlarından endişe duymaları ve kazalardan korkmalarıydı, bu da sıradan kullanıcıların deneyimin kasık çekme deneyimi olduğunu ve yeterince ilgi çekici olmadığını hissetmesine neden oldu.

Artık OpenAI, zihinsel sağlıkla ilgili büyük riskleri azaltabilecek yeni güvenlik araçlarına sahip olduğunu iddia ettiğine göre, bırakmaya hazır. Aralık ayına kadar, doğrulanmış yetişkin kullanıcılar, erotik içerik de dahil olmak üzere daha fazla içeriğin kilidini açabilir.

OpenAI’nin resmi bloguna göre, mevcut yaş doğrulama işlevi, reşit olmayan kullanıcıları otomatik olarak tanımlayabilir ve müstehcen pornografik içeriği engellemek için genç güvenlik moduna geçebilir; Yaş belirlenemiyorsa, varsayılan olarak reşit olmayan olarak kabul edilir ve yetişkinlere yönelik işlevlerin kilidi yalnızca yaş kanıtı sağlandıktan sonra açılabilir.

Kulağa düşünceli geliyor, değil mi? Ama yakından bakarsanız, o kadar basit değil.

Birincisi, yaş doğrulamadaki teknik boşluktur.

OpenAI gelecekte kimlik veya ödeme bilgileri doğrulama gibi yöntemler kullansa bile, atlatma yöntemleri birbiri ardına ortaya çıkmaya devam edecek. Reşit olmayanlar, doğrulamak için ebeveynlerinin kimlik belgelerini kullanır ve yetişkinler, İnternet ürünlerinde uzun süredir yaygın olan kendi adlarına hesap açar.

Daha da önemlisi OpenAI, kullanıcıların zihinsel durumlarını tespit etmek için yeni araçlar geliştirdiğini iddia ediyor, ancak yapay zeka bir kişinin zihinsel sağlığını gerçekten doğru bir şekilde değerlendirebilir mi?

Biliyorsunuz, son yıllarda ChatGPT’nin dahil olduğu trajik olaylar defalarca meydana geldi ve OpenAI’nin iddia ettiği “emniyet valfinin” onu korumada gerçekten gereken rolü oynayıp oynayamayacağı hala şüpheli.

Açıkça söylemek gerekirse OpenAI, “yetişkin modu” desteğini açıklayan ilk etkili yapay zeka ürünü bile değil ve biraz muhafazakar. Musk’un yapay zeka sohbet robotu Grok doğru ve vicdansız.

Bu yılın temmuz ayında Musk, Grok’a 3 boyutlu bir sanal yardımcı karakter işlevi ekledi.

Ücretli SuperGrok kullanıcıları (ayda 30 ABD doları) iki 3D arkadaşı etkinleştirebilir: İkiz at kuyruklu anime tarzı sarışın bir kız olan Ani ve çizgi film kırmızı pandası Bad Rudy.

Bunlar arasında Ani, anime karakteri Mikai San’ı andıran hassas bir iki boyutlu görüntüye sahiptir. Ani, metin, ses ve kamera arasındaki multimodal etkileşimi destekler ve konuşmanın içeriğine göre zengin ifadeler ve hareketler yapabilir, hatta komut üzerine dans edebilir.

Ek olarak, Ani’nin yerleşik bir olumluluk mekanizması ve hafıza modu vardır. Kullanıcılar sanal tercih edilebilirliklerini artırmak için onunla etkileşime girer ve belirli bir seviyeye ulaşmak NSFW (Yetişkin) modunun kilidini açar.

O dönemde bazı netizenler şu yorumu yapmıştı: “Bu sadece üst düzey bir Galgame (aşk oyunu).” Bu aynı zamanda Ani’nin lansmanının ilk gününde çok sayıda spontane yaratıcı içerik kazanmasına ve sosyal medyadaki çevreden hızla çıkmasına olanak sağladı.

Ancak, ister Grok ister ChatGPT olsun, bu işlevler görünüşte “yetişkin kullanıcıların özgürlüğüne saygı gösterme” başlığı altındadır, ancak sorun şu ki, yaş doğrulama mekanizmasında bir boşluk olduğunda, yetişkinlere yönelik içeriği açmak aslında reşit olmayanların uygunsuz içeriğe erişme eşiğini düşürmektedir.

Sözde yetişkin hakları aslında reşit olmayanların ruh sağlığı ve büyüme ortamı üzerine bahse giriyorsa, gençlerin boşluklardan yararlanmayacağına bahse giriyorsa, o zaman daha katı kısıtlamalar daha güvenli olabilir.

Daha açık bir şekilde ifade etmek gerekirse, bu özelliklerin iş mantığı hala kullanıcı trafiği için rekabet etmek ve ücretli dönüşüm oranlarını artırmaktır.

Açıkça söylemek gerekirse, AI ürünlerinin viskozitesi genellikle yüksek değildir.

Çoğu kullanıcı, kullanımı kolay olan ilkeye bağlı kalır ve ödeme yapmak isteyen profesyonel kullanıcı (bilimsel araştırma, programlama vb.) sayısı sınırlıdır, peki ne yapmalıyız? Sizi (veya bağımlılığınızı) korumak için daha insani bir yol kullanmayı seçerler.

Yani “arzuya” yönelmektir. Bir yandan, denemek ve filtrelenme ihtiyaçlarını karşılamak için çok sayıda yeni kullanıcıyı çekebilir; Öte yandan, ödeme istekliliği de önemli ölçüde artacaktır.

Ve dahası, aslında duygusal arkadaşlığın büyük pastasıdır.

Şu anda, yapay zeka yardımcı ürünlerinin çekirdek kullanıcıları çoğunlukla genç netizenler ve belirli çevrelerdir (iki boyutlu meraklılar, sosyal teröristler vb.), ancak bu alan genişlemeye devam ediyor. Gençler dijital arkadaşlara en açık olanlardır ve birçok genç kullanıcı yapay zekayı yalnızca soru ve cevap aramak için değil, aynı zamanda duygularını dökmeye de istekli olarak günlük dijital yaşamlarının bir parçası olarak görmüştür.

Yatırım kuruluşu ARK Invest, “AI + duygusal arkadaşlık” küresel pazar büyüklüğünün yılda 30 milyon dolardan 70 milyar ~ 150 milyar dolara çıkacağını ve yıllık ortalama %200’ün üzerinde bir büyüme oranına sahip olacağını tahmin ediyor.

Ancak sorun şu ki, psikolojik araştırmalar, insanların empati gösteren nesnelere bağlanmaya eğilimli olduklarını uzun zamandır kanıtladı – diğer kişinin bir program olduğunu bilseler bile. Bu aynı zamanda yapay zekanın duygusal olarak manipüle edilme riski altında olduğu anlamına da geliyor.

Şu anda ulusal düzenleyiciler harekete geçiyor.

AB’nin Yapay Zeka Yasası, yüksek riskli yapay zekanın çocuklara zarar vermesinin önlenmesi gerektiğinden bahsediyor; Çin’in “Üretken Yapay Zeka Hizmetlerine İlişkin İdari Tedbirleri” de hizmet sunumunun Küçüklerin Korunması Yasasına uygun olması gerektiğini vurguluyor.

OpenAI ayrıca bir süre önce bir “gençlik modu” başlatma girişiminde bulundu: ebeveynler, e-postaları aracılığıyla hesaplarını 13 yaşın üzerindeki çocuklarının hesaplarına bağlayabilir ve hatta sokağa çıkma yasağı dönemleri belirleyebilir. Sistem, gençlerin ciddi duygusal sıkıntı yaşadığını tespit ettiğinde ebeveynlere de hatırlatmalar gönderecek.

Belki on yıl içinde yapay zekalı bir arkadaşa sahip olmak, bugün evcil hayvan sahibi olmak kadar yaygın olacak.

Peki yapay zekanın “mükemmel ilişkileriyle” beslenen nesiller hâlâ gerçek insan ilişkilerini anlayabiliyor mu? Sizi asla reddetmeyecek, sizi her zaman anlayacak ve her zaman sizi takip edecek bir yapay zekaya alıştığınızda, sizinle tartışacak, sizi hayal kırıklığına uğratacak ve çabalarınızı gerektirecek gerçek bir insanla yüzleşmeye hala cesaretiniz var mı?

Bir arkadaş gibi davranmak, belki de en cazip ve ölümcül yalan. Dil alışkanlıklarınızı öğrenir, değerlerinize hitap eder, arzularınızı tatmin eder ve sonra hepsini sizi anlayacak şekilde geri yansıtır.

Bunlar en iyi zamanlar çünkü artık kimse yalnız değil. Bunlar en kötü zamanlar çünkü tüm insanlar yalnız. Aralık ayındaki ChatGPT sadece başlangıç olabilir.

Etiketler :

Bu yazıya ait etiket bulunamadı.