Claude’un Görünmez Filigranı: Nasıl Çalışır, Kod Çıktıları Nasıl Etkilenir?

Claude’un yeni filigran sistemi, Avrupa Birliği Yapay Zeka Yasası’nın Şefaflık Kodu’na uyum sağlamak için geliştirildi. Şirket, 14 Mart’ta yayımladığy blog yazısında metinlere nasıl ekleneceğini açıklıyor. Filigran, oluşturulmuş metinde belirli cümle yapıları ve örüntüler üzerinden tespit ediliyor. Kullancılar, metin düzenlemeleri yaparak filigranı kaldırabilir, ama bu genellikle zor. Kod çıktıları ise daha sınırlı bir şekilde işleniyor.

ESI Yapay Zeka Yasası, yapay zeka üretimi içeriklerin tanımlanmasını zorunlu kılıyor. Anthropic, filigranı ekleyerek bu düzenlemeye uyduğunu duyuruyor. Açıklamada, filigran sisteminin düşük riskli övercast ile “greyşaretlerinibu X değil, Y” cümle yapısını tespit ettiği söyleniyor. Bu örüntüleri yakalamak, metinde doğrudan filigran bulunup bulunmadığını kontrol etmeyi sağlıyor.

Claude’un metni üzerinde yapılan küçük düzenlemeler, filigranı tamamen ortadan kaldırmaz. Sadece tüm kelimeler değiştirildiğinde filigran silinir. Anthropic, bu durumda bile metnin yapay zeka tarafından oluşturulmuş olarak tanımlanıp tanımlanamayacağını tartışmalı olarak belirtiyor. İnsan editörü tarafından yapılan değişikliklerde filigran tespit metnin uzunluğuna ve değişiklik miktarına bağlıdır. Kısa düzeltmelerde filigran neredeyse hiç yer almaz.

Kod çıktılarında filigranlama, doğal dildeki kadar geniş seçim imkanına sahip olmadığı için daha sınırlı. Claude’un kod üretmesi gerektiği için serbesçe tercih yapma hakkı doğal dildeki kadar geniş değil. Bunun sonucunda, kod üreten metinlerde filigran tespiti daha az yaygın.

Bakalım bu yeni sistem, Claude kullanıcıları için ne kadar Şeffaflık getirecek? Gelişmeleri gelşmeleri ediyoruz…

Kaynak: Orijinal Haber