Claude’un Görünmez Filigranı: Nasıl Çalışır ve Düzenleme Etkileri
Anthropic, bu hafta yeni bir blog yazısı yayımlayarak Claude tarafından oluşturulan metinlere eklenecek filigran sistemiyle ilgili soruları cevapladı. Şirket, filigranın nasıl çalışacağını, metin üzerinde yapılan düzenlemelerin sistem üzerinde etkisi olup olmadığı ve kod çıktılarında nasıl uygulanacağına dair ayrıntıları paylaştı. Bu açıklamalar, Avrupa Birliği Yapay Zeka Yasası’nın Şeffaflık Kodu’na uyum sağlamak amacıyla Claude kullanıcıları arasında tartışma başlattı.
Blogda belirtilen filigran, Claude’un metin oluştururken kullandığı “düşük riskliovercast” ile “greyişaretlerinibu X değil, Y” gibi cümle yapılarının izlenmesiyle ortaya çıkar. Şirket, bu örüntüleri yakalamayı, metinde doğrudan bir filigran bulunup bulunmadığını kontrol etmek için farklı yöntemler olarak tanımladı. Filigranın ortadan kaldırılıp kaldırılamayacağı konusu, Anthropic’in açıklamasına göre, hafif düzenlemelerle tamamen etkilenmez; ancak kapsamlı bir yeniden yazımda filigran silinebilir.
Yazıda, metnin her kelimesinin değiştirildiği kapsamlı bir yeniden yazımın filigranı kaldıracağı vurgulandı. Anthropic, bu durumda ortaya çıkan metnin hâlâ yapay zeka tarafından oluşturulmuş olarak tanımlanıp tanımlanamayacağının tartışmalı olduğunu ifade etti. Küçük düzenlemelerle yapılan bir metinde, kelimelerin çoğunun insan tarafından yazılmış olacağının, filigranın yerleşebileceği çok az içerik bulunacağını belirtti.
Kod çıktıları için filigranlamanın diğer metin türlerine kıyasla daha sınırlı olacağı öngörülüyor. Bunun nedeni, Claude’un çalışan kod üretmesi gerektiği için eşit derecede geçerli seçenekler arasından serbestçe tercih yapma imkanının doğal dildeki kadar geniş olmaması. Kod üretiminde filigran, metin yapısının kısıtlı olmasından dolayı daha az belirginleşiyor.
EU AI yasası kapsamında, yapay zeka şirketlerinin ürettikleri içerikleri tanımlamasını sağlayan sistemlerin kullanılması zorunlu. Anthropic, bu hafta başında Avrupa Birliği Yapay Zeka Yasası’nın Şeffaflık Kodu’na uyum sağlamak için filigran kullanacağını açıkladı. Bu karar, Claude kullanıcıları arasında şeffaflık ve etik konularında tartışma yarattı.
Böylece, kullanıcılar filigranın ne kadar etkili olabileceği, düzenlemelerle ne kadar kontrol edilebileceği konusunda merak içinde. Şirketin açıklamaları, teknolojinin şeffaflık gereksinimleriyle nasıl uyum sağladığını gösteriyor.
Bakalım bu filigran sistemi, AI içerik üretiminde şeffaflığı ne kadar ileri taşıyacak?
Kaynak: Orijinal Haber
