Meta, yeni modelleriyle oluşturulan görüntülerin ve videoların kimliğini tespit etmek için bir yapay zeka algılama aracı geliştirdi

Meta, yeni görüntü oluşturma modeli Muse Image ile oluşturulan görüntüleri ve videoları tanımlamaya yönelik bir araç üzerinde çalışıyor. Şirket, yeni model tarafından kullanılan görünmez filigranları kontrol edebilen web tabanlı aracın bir önizlemesini gösterdi. Meta, bir blog yazısında İçerik Mührü adı verilen bu filigranlama sisteminin "kırpıldığında, sıkıştırıldığında, yeniden boyutlandırıldığında veya ekran görüntüsü alındığında bile" yerinde kaldığını açıklıyor. "Bir görüntünün İçerik Mührü filigranı taşıyıp taşımadığını kontrol etmenize olanak tanıyan bir algılama aracının ön izlemesini yapıyoruz; bu, bir görüntünün Meta AI ile yapılıp yapılmadığını daha iyi anlamanıza yardımcı olacak bir ilk yol sağlıyor." Content Seal, Meta için biraz yeni bir yaklaşım gibi görünüyor. Meta, Engadget'e verdiği demeçte, Muse Image'ın bir parçası olan sürümün tescilli olduğunu, ancak şirketin daha önce teknolojinin açık kaynaklı sürümlerini yayınladığını söyledi. Meta'nın yeni modelleri, sağ alt köşeye küçük bir logo ekleyen Meta AI'nin önceki bazı sürümlerinde olduğu gibi görünür herhangi bir filigran içermiyor. Şimdilik, Meta AI'nin algılama yetenekleri Muse Image ile oluşturulan veya düzenlenen görüntülerle sınırlıdır, ancak şirket İçerik Mührü filigranlarını AI tarafından oluşturulan ve düzenlenen videolara da genişletmeyi planladığını söyledi. Meta aynı zamanda Muse Video adında "yakında kullanıma sunulacak" ayrı bir video oluşturma modeli üzerinde de çalışıyor. Bugün Meta AI ile oluşturduğum görüntülerde yeni algılama özelliğini denedim ve web tabanlı araç, düzenlenmiş görüntüler ve tamamen yapay zeka yapımı yaratımlar (yukarıdaki resimde olduğu gibi) için bir filigran algılamayı başardı.

Ayrıca filigranı resimlerimin ekran görüntülerinde de buldu. Şirket, bir SSS bölümünde şöyle açıklıyor: "Olumlu bir sonuç, görselin Meta AI uygulaması veya meta.ai kullanılarak oluşturulduğu veya düzenlendiği anlamına gelir." "Negatif sonuç, görselin Meta AI app veya meta.ai kullanılarak işlenmiş olma ihtimalinin düşük olduğu anlamına gelir." İlginç bir şekilde, Meta AI'nin yeni tespit yetenekleri henüz Meta AI uygulamasının bir parçası gibi görünmüyor. Meta'nın uygulama tabanlı asistanına, web aracının yapay zeka yapımı olarak tanımladığı bir görüntü hakkında soru sorduğumda, kontrol etme yeteneğinin olmadığını söyledi. "Sadece bakarak bu özel görüntünün Meta Al ile yapılıp yapılmadığını size kesin olarak söyleyemem" dedi. "Meta Al, görüntülere otomatik olarak filigran eklemiyor ve mevcut bir görüntüyü hangi Al modelinin oluşturduğunu tespit edebilecek bir aracım yok." Meta daha önce uygulamalarında yapay zeka tarafından oluşturulan materyalleri nasıl etiketlediği ve tanımladığı konusunda bazı eleştirilerle karşı karşıya kalmıştı.