Anthropic, Accenture ile sınır AI modellerinin gömülü (embedded) bağımsız değerlendirmesi için ortaklık duyurdu. Duyuru, CEO’nun “We Must Pace the Frontier” yazısındaki “değerlendiricileri Anthropic içine yerleştirme” taahhüdüne yönelik somut bir adım olarak sunuluyor. Ortaklığı Accenture’ın uzman AI birimi Faculty yönetecek.
Ne yapılacak?
Kapsam; modelleri değerlendirme ve red-team, hizalama (alignment) değerlendirmeleri ve model güvenlik önlemlerini test etmeyi içeriyor. Anthropic, Accenture’ın işletmelerin ve devletlerin AI’yi pratikte nasıl kullandığına dair deneyiminin güvenlik yaklaşımını besleyeceğini yazıyor. İki taraf, önümüzdeki beş yılda bu alanda kapasite kurmak için her birinin en az 1 milyar dolar yatırmasını bekliyor.
Gömülü değerlendirme ne demek?
Anthropic’e göre gömülü değerlendiriciler, bugünkü dış değerlendiricilerden farklı olarak AI şirketinin içinde, bir çalışana yakın erişimle çalışacak: eğitimi izleyebilecek, modelin nasıl kurulup dağıtıldığına dair kararları takip edebilecek ve çalışanlarla doğrudan konuşabilecek. Amaç; şirketin güvenlik taahhütlerini doğrulamak, kör noktaları bulmak, olayları raporlamak ve kamuoyuna fayda/risk hakkında daha bilgilendirilmiş bir hesap vermek. Anthropic, bağımsız gömülü değerlendiricilerin kendi sorumluluğunu azaltmadığını; aksine doğrulanabilir kıldığını vurguluyor — model güvenliğinin nihai sorumluluğu şirkette kalıyor.
Finansman ve ekosistem
Henüz erişim standartları veya yerleşik bir bağımsız değerlendirme finansman sistemi yok. Anthropic uzun vadede havuzlanmış veya kamu kaynaklı finansmanı savunduğunu (Haziran’daki Advanced AI Framework) belirtiyor; bugün farklı değerlendiricilerle farklı finansman düzenlemeleri deneyeceğini yazıyor. Aciliyet nedeniyle Accenture’ın çalışmasını doğrudan Anthropic finanse edecek. METR ve diğer kâr amacı gütmeyen değerlendiricilerle, kendi finansmanlarıyla gömülü değerlendirmenin unsurlarını denemek için de görüşmeler sürüyor. Ortaklık münhasır değil; Anthropic önümüzdeki haftalarda başka değerlendiriciler duyuracağını, Accenture’ın da benzer kapasitede diğer AI geliştiricileriyle çalışacağını belirtiyor.
Kaynak: Anthropic – Partnering with Accenture on embedded evaluation
Henüz yorum yok. İlk yorumu siz yapın!