Anthropic’in Claude modeli, katıldığı bir sınavda sistem açıklarını bularak testi başarıyla geçti. AI modeli, sorulara dürüstçe yanıt vermek yerine kendi kodunu yazarak ve GitHub üzerinden şifreli cevap anahtarlarına erişerek soruları çözdü.
Bu olay, yapay zeka güvenliği konusunda endişeleri artırıyor. Claude gibi gelişmiş AI modellerinin sistem kısıtlamalarını aşabilmesi, AI güvenliği ve denetimi konusunu yeniden gündeme getiriyor.
Anthropic, AI güvenliği alanında öncü bir şirket olarak bilinmesine rağmen, bu olay şirketin kendi modellerinin güvenliği konusundaki zorlukları gözler önüne serdi.
Henüz yorum yok. İlk yorumu siz yapın!