Anthropic filigranlar Claude çıktısı, ancak eleştirmenler ödünleşimleri sorguluyor

Anthropic'nin Claude için metin filigranının, yapay zeka tarafından oluşturulan içeriği tespit edilebilir hale getirmesi gerekiyor. Ancak eleştirmenler kelime seçiminin etkilenmediğinden şüpheli ve avukatlar yeni şeffaflık sorunlarıyla karşı karşıya. Anthropic, Claude için metin filigranının içerik, yaratıcılık veya okunabilirlik üzerinde hiçbir etkisinin olmadığı konusunda ısrar ediyor. Yöntem, Google'ın SynthID-Text yaklaşımını temel alıyor ve metin oluşturma sırasında kelime seçimi için rastgelelik kaynağını değiştirerek istatistiksel olarak tespit edilebilir bir model oluşturuyor. Görünür işaretler eklenmemiştir. Hiçbir gizli karakter eklenmez. Blogcu John Gruber aynı fikirde değil. Daring Fireball ile ilgili uzun bir gönderide, iki eşanlamlı kelimenin tam olarak aynı anlamı taşımadığını savunuyor. Claude anlamsal kesinlik yerine gizli bir filigran anahtarına dayalı olarak "bulutlu" ve "gri" arasında seçim yaptığında, metin kalitesi kaçınılmaz olarak zarar görür. Gruber, sistemin bazen daha kötü bir kelimenin olasılığını artırdığını ve en iyi kelimenin olasılığını düşürdüğünü yazıyor. Anthropic'in farkın "algılanamaz" olduğu iddiasının tamamen yanlış olduğunu söylüyor. Reklam Gruber, 2002'den beri etkili teknoloji blogu Daring Fireball'u yönetiyor. Ayrıca, artık sohbet robotları tarafından yaygın olarak kullanılan biçimlendirme dili olan Markdown'un da ortak yaratıcılarından biri. Reklam Google Deepmind'in Nature'da yayınladığı ve Anthropic'nin alıntı yaptığı SynthID çalışması bile Gruber'ı ikna etmiyor. Burada ölçülen beğenme/beğenmeme oranlarının metin kalitesine ilişkin geçerli bir ölçü olmadığını savunuyor.

Hiç kimse bir chatbot'a "ananas" yerine "muz" yazdığı için olumsuz cevap vermiyor. Gruber, Gemini'nin Claude ve ChatGPT'den daha zayıf itibarının kısmen SynthID'nin zaten aktif olmasından kaynaklanabileceğini öne sürüyor. Yasal ticari yayın Yapay Avukat, Anthropic filigranlarının hukuk firmaları için ne anlama geldiğini inceledi. Yayının kararı çoğunlukla rahat. Yapay Avukat, işaretlerin zararsız olduğunu ve çoğu durumda ne müşterilerin ne de mahkemelerin yapay zeka kullanımına itiraz etmeyeceğini savunuyor. Analiz, bazı müşterilerin şu anda aktif olarak bunu talep ettiğini belirtiyor. Reklam Yapay Avukat'ın değerlendirmesine göre işler belirli durumlarda zorlaşıyor. Müşteriler davalarında yapay zeka kullanımını açıkça yasaklamışsa veya hakim buna şüpheyle yaklaşıyorsa, gönderilen belge gerçekte kusursuz olsa bile yapay zekanın katkısı kanıtlanabilir. Bunun davaların veya duruşmanın gidişatına ilişkin sonuçları olabilir. Yapay Avukat, filigranların da metinle birlikte seyahat ettiğini belirtiyor.