Anthropic, AB yasalarına uymak için Claude tarafından oluşturulan filigran metnidir

Anthropic, Avrupa Birliği'nin yeni AI şeffaflık kurallarına uymak için Claude AI tarafından oluşturulan filigran metninin nasıl olduğunu ortaya çıkardı. Şirket, metin filigranının kolay görülebilecek görsellere sahip olmayacağını, okuyan kişiler tarafından ayırt edilemeyeceğini ve metne gizli karakterler eklemeyeceğini söyledi. Bunun yerine, Anthropic'nin yöntemi metinde yalnızca anahtarı olan birinin çözebileceği bir kalıp bırakmayı içerir. Şirket, büyük dil modellerinin, metin oluştururken kullanılacak potansiyel uygun kelimeler listesinden seçim yaparak her seferinde bir kelime seçtiğini açıkladı. Ürettikleri şeyin bağlamı için anlamlı oldukları sürece kelimeleri rastgele seçerler. Filigranlama açıkken, Claude bir sonraki kelimeyi seçmek için rastgele bir rastgele sayı üreteci kullanmak yerine hangi kelimenin seçileceğine karar vermek için bir anahtar kullanacaktır. Örneğinde Anthropic pi'nin rakamlarını anahtar olarak kullandı. Diyelim ki anahtar 3.1415926535 pi dizisindeki 2 rakamıyla başlıyor. Üretilen bir sonraki kelime, seçenekler listesindeki altıncı kelimedir, ardından beşinci, üçüncü ve sonra yine beşinci kelimedir. Bu yöntem, ekibin Nature'da yayınlanan bir makalede tanımladığı, Google DeepMind'nin filigranlamaya yönelik SynthID-Text yaklaşımının bir uyarlamasıdır. Şirket, filigranlamanın Claude'nin çıktısının kalitesini etkilemediğini veya yavaşlatmadığını ve ekstra token gerektirmeyeceğini veya nesilleri daha pahalı hale getirmeyeceğini söyledi. Elbette yapay zeka tarafından üretilen düzyazının tipik olarak anlattığı şeyler var.

Modeller, örneğin "bu [X] değil, bu [Y]" gibi belirli cümle yapılarını kullanmayı severler. Ancak bu açıklamalar, kullanılan modelin değil, o metnin yazılmasında bir yapay zekanın yer aldığını bilmeniz için yeterlidir. Anthropic, Claude'nin filigranını çözecek "anahtarlara" sahip bir API yayınlayacak ve kendi yapay zekasının kontrol edilen metin bloğunu oluşturup oluşturmadığını söyleyebilecek. Anthropic metin filigranlama yönteminin sınırlamaları olduğunu kabul ediyor. Claude'nin metni gerçekten yazıp yazmadığını veya sadece düzenlediğini söyleyemez; bu, eğer yapay zekadan sizin için bir şeyi düzenlemesini isterseniz, bunun da filigranlanacağı anlamına gelir. Şirketin açıkladığı gibi, yalnızca Claude'nin muhtemelen bir noktada metinle ilgili olduğunu söyleyebiliriz. Çeviriler bile filigranlanacaktır. Claude metni yalnızca düzelttiyse ve hafifçe düzenlediyse veya metin çok kısaysa, filigran algılanabilecek kadar yeterli olmayabilir.