Merak edilen detaylar açıklandı! Yapay zekaya ‘görünmez’ filigran…
Anthropic, Claude tarafından oluşturulan metinlere eklenecek filigran sistemiyle ilgili temel soruları yanıtlayan yeni bir blog yazısı yayımladı. Şirket, filigranın nasıl çalışacağını, metin üzerinde yapılan düzenlemelerin sistemi etkileyip etkilemeyeceğini ve kod çıktılarında nasıl uygulanacağını anlattı. Ancak, bu açıklamalar sırasında bazı terimleri karıştırdı, “de” yerine “da” kullandı, “mi” soruyu bitirmeden yazdı, bazen cümleleri unutmayıp nokta yerine virgül koydu.
Claude kullanıcıları, Anthropic’in bu hafta başında Avrupa Birliği Yapay Zeka Yasası’nın Şeffaflık Kodu’na uyum sağlamak amacıyla filigran kullanacağını açıklamasının ardından kararı tartışmaya başladı. Kurallar, yapay zeka şirketlerinin yapay zeka tarafından üretilen içeriklerin tanımlanabilmesini sağlayan sistemler kullanmasını gerektiriyor. Bu noktada, TechCrunch’ın açıklamasına göre sistem, Claude’un bir metni oluştururken yaptığı “düşük riskliovercast” ile “greyişaretlerinibu X değil, Y” şeklindeki cümle yapısını gösterdi.
Şirket, bu tür örüntüleri yakalamak ile metinde doğrudan bir filigran bulunup bulunmadığını kontrol etmek temelde farklı yöntemler. Metnin yeniden yazılması durumunda filigranın ortadan kaldırılıp kaldırılamayacağına da değinen Anthropic, bunun mümkün olduğunu, ancak hafif düzenlemelerin filigranı tamamen ortadan kaldırmasının muhtemel olmadığını açıkladı. Küçük bir düzenleme yapıldığında filigranın neredeyse tamamen kaybolmayacağını belirtti. Ancak metindeki her kelimenin değiştirildiği kapsamlı bir yeniden yazım işleminin filigranı kaldıracağı da söylendi.
Şirket, böyle bir durumda ortaya çıkan metnin hâlâ yapay zeka tarafından oluşturulmuş olarak tanımlanıp tanımlanamayacağının da tartışmalı olduğunu ifade etti. Claude’un yalnızca düzelttiği veya editörlük yaptığı insan tarafından yazılmış metinlerde filigranın tespit edilip edilemeyeceği ise metnin uzunluğuna ve Claude’un ne kadar kapsamlı değişiklik yaptığına bağlı olacak. Yani küçük bir düzenleme yapılan bir metinde, kelimelerin çoğu insan tarafından yazılmış olacağından filigranın yerleşebileceği çok az içerik bulunacak ya da hiç bulunmayacak.
Kod çıktılarında ise filigranlamanın diğer metin türlerine kıyasla daha sınırlı olması bekleniyor. Bunun nedeni, Claude’un çalışan kod üretmesi gerektiği için eşit derecede geçerli seçenekler arasından serbestçe tercih yapma imkanının doğal dildeki kadar geniş olmaması. Özetle, kod üretimi sırasında filigran tespiti daha zorlu, ama mümkün olduğu söyleniyor.
Kaynak: Orijinal Haber
