Anthropic’un Filigran Sistemiyle Yapay Zeka Şeffaflığında Yeni Yolculuk
Anthropic, bu hafta Avrupa Birliği Yapay Zeka Yasası’nın Şeffaflık Kodu’na uyum sağlamak için yapay zekaya ‘görünmez’ filigran ekledi. Şirket, bu yeni sistemin metin üzerine nasıl işlediğini, düzenlemelerin etkisini ve kod çıktılarında nasıl uygulanacağını açıklayan bir blog yazısı yayımladı. Bilgilere göre filigran, Claude’un bir metni oluştururken kullandığı ‘düşük riskli overcast’ ve ‘greyişaretlerinibu X değil, Y’ şeklindeki cümle yapısını tespit edebiliyor. Metin yeniden yazıldığında filigranın ortadan kaldırılıp kaldırılamayacağı konusu da ele alındı; hafif düzenlemeler filigranı tamamen kaldırmayacak, ancak kapsamlı yeniden yazım tüm filigranı ortadan kaldıracak.
Filigranın kaldırılmasıyla ilgili olarak Anthropic, bunun mümkün olduğunu ancak hafif düzenlemelerin filigranı tamamen ortadan kaldırmasının muhtemel olmadığını açıkladı. Metnin her kelimesi değiştirildiğinde ise filigran kaldırılacak. Şirket, bu durumda ortaya çıkan metnin hâlâ yapay zeka tarafından oluşturulmuş olarak tanımlanıp tanımlanamayacağının tartışmalı olduğunu belirtti. Bilgiye göre, Claude’un yalnızca düzelttiği veya editörlük yaptığı insan tarafından yazılmış metinlerde filigranın tespit edilemeyeceği, metnin uzunluğuna ve Claude’un ne kadar kapsamlı değişiklik yaptığına bağlı olacak.
Küçük düzenlemeler yapılan metinde, kelimelerin neredeyse tamamı insan tarafından yazılmış olduğundan filigranın yerleşebileceği çok az içerik bulunacak veya hiç bulunmayacak. Kod çıktılarında ise filigranlamanın diğer metin türlerine kıyasla daha sınırlı olması bekleniyor. Bunun nedeni, Claude’un çalışan kod üretmesi gerektiği için eşit derecede geçerli seçenekler arasından serbestçe tercih yapma imkanının doğal dildeki kadar geniş olmaması.
Kod çıktılarında filigran tespit edilmesi, doğal dildeki kadar geniş seçeneklerin olmaması nedeniyle daha zor olacak. Kod üretilirken kullanılan seçenekler daha sınırlı olduğundan filigran tespiti de daha az etkili olacak. Bu durum, kod çıktılarını incelerken filigran kullanımının sınırlı kalacağını gösteriyor.
Gelişmeler devam ediyor. Filigran sisteminin gerçek dünyadaki etkileri ve kullanıcıların bu yeni şeffaflık ile nasıl başa çıkacağı merak konusu. Bakalım bundan sonra ne olacak?
Kaynak: Orijinal Haber
