Anthropic mühendisi Trq212, Claude’un metin filigranlama tekniğinin çalışma prensibini bir demo ile açıkladı. Claude, metne herhangi bir gizli karakter eklemeden, yalnızca rastgele sayı üretecinin kaynağını değiştirerek metin filigranı oluşturuyor. Yöntem, modelin üretim kalitesini neredeyse hiç etkilemiyor.
Filigran Nasıl Çalışıyor?
Claude her token ürettiğinde, bir grup aday kelime ve bunların olasılıklarıyla karşılaşıyor. Normalde model, rastgele bir sayı üreterek sonuç seçiyor. Filigran eklendiğinde ise rastgele sayının kaynağı değişiyor: random → hash(secret key + üretilen metin). Aday kelimeler ve olasılıklar aynı kalıyor, yalnızca seçim süreci değişiyor.
Neden Kalite Kaybı Yaşanmıyor?
Geleneksel filigran yöntemleri, modelin belirli kelimeleri daha sık kullanmasını zorunlu kılarak kaliteyi düşürüyordu. Claude’un yöntemi ise modelin olasılık dağılımını değiştirmiyor. Seçim sürecindeki tek değişiklik, seçimin artık gerçek rastgele sayılarla değil, gizli anahtara bağlı hash ile belirlenmesi.
Algılama Kapasitesi Göreve Bağlı
Filigranın algılama kapasitesi, görevin türüne göre değişiyor. Yaratıcı yazarlık gibi yüksek entropili görevlerde, her adımda çok sayıda makul aday olduğundan filigran sinyali kolayca birikiyor. Ancak kod, alıntı ve bilgi çıkarımı gibi yanıtları yüksek derecede belirli görevlerde, seçim alanı daraldığı için filigran sinyali zayıflıyor.
Uygulama ve Kapsam
Anthropic, bu filigranlama mekanizmasını yeni Claude modellerine dağıtmaya başladı. Eski modellerin de kademeli olarak güncellenmesi planlanıyor. Bu teknoloji, bir metnin Claude tarafından üretilip üretilmediğini doğrulamak için karakter aramak yerine, üretim sürecindeki hash hesaplamalarını yeniden oynatmayı mümkün kılıyor.
Claude’un filigranlama yaklaşımı, AI tarafından üretilen içeriğin belirlenmesinde yeni bir dönem başlatıyor ve modelin üretim kalitesini korurken şeffaflık sağlıyor.
Henüz yorum yok. İlk yorumu siz yapın!