Claude AI tarafından oluşturulan metni filigranlamaya başlamak için - ancak kaliteyi kötüleştirir mi?

Anthropic, AB düzenlemelerine uymak için chatbot'un küçük, rastgele seçimler yapma şeklini değiştireceğini söylüyor Dünya artık makine tarafından oluşturulan metinlerin olağan kinayelerine aşinadır: "delve" kelimesinin aşırı kullanımı, çok fazla uzun çizgi ve "X değil Y"nin cıvıl cıvıl, acımasız yapısı. Hafta sonu, Anthropic, Claude AI modelinin düzyazı oluşturma şeklini değiştireceğini söyleyen bir güncelleme yayınladı. Bu, Aralık ayından itibaren AI tarafından oluşturulan tüm metinlerin filigranlanmasını gerektiren bir AB düzenlemesine uymak içindir. Anthropic değişikliklerin, modellerinin metin oluşturduğu ayrıntılı, rastgele düzeyde yapılacağını ve ortalama okuyucu tarafından tespit edilemeyeceğini söyledi. Ancak en azından bir yorumcu aksini düşünüyor. Deneyimli bir teknoloji blog yazarı olan John Gruber, "Bütün bu çaba, yazmanın anlamının sapkın bir şekilde çarpıtılmasıdır" diye yazdı. Filigranın Claude'yi kısıtlayacağını ve genel olarak daha kötü, daha az kesin kelime seçimleri yapmaya zorlayacağını savundu.

Bu, modelin yazısını daha az doğru hale getirmese de, bu sınırların durumu daha da kötüleştireceğini öne sürdü. Bir yapay zeka modelinin bir cümleyi çerçevelerken yaptığı küçük seçimlerde stokastik bir unsur vardır: örneğin bir günü "gri" veya "bulutlu" olarak adlandırmayı mı seçer, yoksa akan bir suyu "akarsu" veya "dere" olarak mı ifade eder? Anthropic'in yeni filigranı bu rastgele seçimleri değiştirecek ve Anthropic'nin kendisi ve onu çözecek anahtarı olanların algılayabileceği bir desen bırakacak. University College London'dan bilgisayar bilimi profesörü Steven Murdoch, değişikliğin "muhtemelen gözle görülür bir etkisi olmayacağını" söyledi. Gruber'in şikayeti, filigranlamanın büyük bir dil modelini cümlede hangi kelimenin geleceğine karar verme konusunda daha az özgür kılacağı ve bu nedenle en iyi seçeneği seçemeyebileceği gerçeğine odaklanıyor gibi görünüyor. Ancak Yüksek Lisans'lar zaten en iyi seçimleri yapmıyor. Murdoch, "Bu büyük dil modellerinin herhangi birinde zaten rastgelelik var" dedi. "Bu, çalışma şekilleri açısından oldukça önemli. Eğer bu rastgelelik olmasaydı, döngülere takılıp kalırlar ve aynı şeyi defalarca tekrarlamaya başlarlardı." Başka bir deyişle, bir chatbot akan suyu "dere" yerine "akarsu" olarak adlandırmaya karar vermez çünkü ikincisi daha eski moda bir sicile sahip olabilir.