Google'ın deepfake dedektör sistemi McConnell'ın sahte fotoğrafını çürütmek için kullanıldı

Google'ın SynthID sistemi, yapay zeka tarafından oluşturulan yüksek profilli bir aldatmaca görüntüsünü çürütmek için kullanıldı ve bu, sistem için nadir fakat önemli bir kazanç oldu. Bu haftanın başlarında, Kentucky Senatörü Mitch McConnell'in hastane yatağında tüplerle kaplı, aşırı sıkıntılı bir durumda olduğunu gösteren bir fotoğraf internette dolaştı. Görüntü Reddit ve X'te geniş çapta paylaşıldı, ancak Çarşamba günü saygıdeğer doğrulama sitesi Snopes, görselin doğruluğunu çürüttü ve kontrol edildiğinde görselin, yapay zeka tarafından oluşturulan resimleri tanımlamak için Google tarafından tasarlanan SynthID filigranını içerdiğini kaydetti. Kısacası filigran, anti-deepfake teknolojisinin kazanılmasında tam olarak olması gerektiği gibi çalıştı. Senatör McConnell'in sağlığı, 14 Haziran'da acil çağrı sonrasında hastaneye başvurduğundan beri yoğun spekülasyonlara konu oldu. O zamandan bu yana kamuoyunun gözünden büyük oranda uzak duruyor ve bu da sağlığının kötüye gidiyor olabileceği yönündeki spekülasyonları körüklüyor. Ancak bu durumda delillerin tamamen sahte olduğu ortaya çıktı. 2025 yılında Google'ın I/O geliştirici konferansında lansmanı yapılan SynthID, görünmez bir imza olarak çalışır, SynthID algoritmaları tarafından görülebilir ancak sıradan gözlemci tarafından fark edilemeyecek şekilde tasarlanmıştır. İmza görüntünün kendisinde yerleşik olduğundan, McConnell görüntüsünde olduğu gibi bir görüntünün birden fazla platformda ekran görüntüsü alındığında bile varlığını sürdürür. SynthID'nin ana sınırlaması, yalnızca bir görüntü oluşturma aracı programa aktif olarak katıldığında kullanılabilmesidir.

Gemini modeller, programın başlatıldığı 2025 yılından bu yana filigran içermektedir. OpenAI, kötü amaçlı görüntü oluşturmaya yönelik daha geniş bir çabanın parçası olarak Mayıs 2026'da katıldı. Anthropic programa katılmamaktadır. Kullanıcılar, bir Gemini modelini sorarak veya bunları OpenAI'nin genel resim doğrulama aracına yükleyerek resimlerin filigran içerip içermediğini kontrol edebilir. TechCrunch Kurucu Zirvesi'nde 190$'a varan tasarruf için son şans. Gerçek dünyadaki ölçeklendirme içgörüleri ve iğneyi hareket ettiren bağlantılar için tüm aşamalarda 1.000'den fazla kurucuya ve VC'ye katılın. Tasarruflar 26 Haziran 23:59'da sona eriyor. PT. Hafta içi her gün ve Pazar günü TechCrunch kapsamından en iyi şekilde yararlanabilirsiniz. TechCrunch Mobility, ulaşım haberleri ve içgörüleri için varış noktanızdır. Startup'lar TechCrunch'ın temelidir, bu nedenle haftalık olarak en iyi kapsamımızı alın. Taşıyıcılara ve çalkalayıcılara güne başlamak için ihtiyaç duydukları bilgileri sağlar. E-postanızı göndererek Şartlarımızı ve Gizlilik Bildirimimizi kabul etmiş olursunuz.