404 Media muhabiri Joseph Cox, sızdırılmış iç belgeler ve gördüğü gerçek istemlere dayanarak OpenAI’nin «Project Lily» kod adlı programında yüzlerce yüklenicinin gerçek ChatGPT kullanıcı sohbetlerini okuyup yanıtlara puan verdiğini iddia ediyor. Haber, güvenlik için işaretlenen içerik incelemesinden ayrı bir model iyileştirme sürecini anlatıyor.
İddia edilen inceleme süreci
Rapora göre yükleniciler kullanıcı adlarını görmüyor; OpenAI sohbetlerin bir «Privacy Filter»den geçtiğini söylüyor ancak hassas ayrıntıların yine de sızabileceğini kabul ediyor. İncelemeciler tüm konuşmaları görebiliyor; bazen «user memories summary» blokları da panelde yer alıyor. Amaç, ChatGPT yanıtlarını antropomorfizm ve aşırı yağcılık (sycophancy) açısından eleştirerek iyileştirmek.
404 Media, ChatGPT’nin 900 milyondan fazla kullanıcısının çoğunun sohbetlerinin insanlarca okunabileceğini bilmediğini öne sürüyor. Bir incelemeci, kullanıcıların bunu hayal etmediğini söyledi.
Şirketin konumu ve kapsam
OpenAI’nin hangi modeli eğittiği belgelerde açıkça yazılmıyor; yalnızca «Project Lily» kod adı geçiyor. Anthropic da 404 Media’ya model iyileştirme için insan incelemesi kullandığını doğruladı. Bu yazı bir soruşturma haberidir; iddialar bağımsız doğrulama gerektirir ve OpenAI’nin kabul ettiği kesin bir itiraf olarak sunulmamalıdır.
Kaynak: 404 Media – Inside ‘Project Lily’: The Humans Reading Your ChatGPT Chats
Henüz yorum yok. İlk yorumu siz yapın!