xAI, Grok kullanıcısını rızasız cinsel içerikli derin sahte görüntüler oluşturduğu için dava ediyor

xAI, sanığın yetişkinlerin ve çocukların cinselleştirilmiş görüntülerini oluşturmak için Grok kullandığını söylüyor. SpaceXAI (xAI olarak), şirketin Grok'yi rızaları olmadan gerçek kişilerin cinsel görüntülerini oluşturmak için kullanmakla suçladığı Güney Carolina'dan 67 yaşındaki Terry Wayne Harwood'a karşı dava açtı. xAI Teksas'ta sunduğu şikayette, sanığın 8 Aralık 2025'ten 18 Şubat 2026'ya kadar iki xAI hesabına çok sayıda yetişkin ve reşit olmayan kişinin cinsel olmayan resimlerini yüklediğini söyledi. Daha sonra Grok'den fotoğrafları değiştirmesini veya içlerindeki yetişkinleri ve çocukları "pornografik bir şekilde veya başka bir şekilde cinselleştirerek" tasvir eden yeni görseller ve videolar oluşturmasını istedi. Şirket, Grok'nin "birçok durumda" talimatlarını takip etmeyi reddettiğini, ancak yapay zekanın korumalarını atlatmak için defalarca düzenlenmiş istemler gönderdiğini söyledi. Başvuruda bahsedilen bir örnekte xAI, Harwood'un 10 ila 11 yaşlarında tamamen giyinik bir kızın fotoğrafını yüklediğini ve ardından Grok'den yatağında yatarken tüm kıyafetlerini çıkarmasını ve ona "Playboy modeli izlenimi" vermesini istediğini söyledi. Dava, Grok'un talebini reddettiğini ancak kendisinin değiştirilmiş talepler sunmaya devam ettiğini belirtti. Reuters'in belirttiği gibi bu, bir yapay zeka şirketinin kullanıcılarından birine karşı açtığı ilk davalardan biri ve xAI'nin, Grok'nin kötüye kullanılması nedeniyle dava açacağı mesajını veriyor. Ocak ayı başlarında Grok'nin kullanıcılarının gerçek kadın ve çocukların fotoğraflarını cinselleştirilmiş görüntülere dönüştürmesine olanak tanıdığına dair raporlar çıkmaya başladı.

Düzenleyiciler, skandal patlak verdikten sonra hızla Grok hakkında resmi soruşturma başlattı. Kaliforniya yetkilileri, Birleşik Krallık düzenleyicisi Ofcom'un yaptığı gibi, Ocak ayı ortasında yapay zekayı incelemeye başladı. Avrupa Komisyonu ve İrlanda Veri Koruma Komisyonu da ayrı soruşturmalar başlattı. xAI Soruşturmalar başladığında kullanıcıların şehvetli olmayan cinsel bilgiler üretmesini önlemek için önlemler uygulandı. Ancak bundan sonra bile kullanıcılar Grok'yi erkekleri soymak için kullanabiliyordu ve Harwood, hesabına resimler yüklemeye ve bunları cinselleştirilmiş düzenlemeler oluşturmak için kullanmaya devam etti. Güney Carolina Başsavcılığı, Harwood'un 9 Mart'ta Çocuklara Yönelik İnternet Suçları Çalışma Grubu'nun faaliyetleri kapsamında tutuklandığını duyurdu. Harwood, reşit olmayan bir çocuğa üç kez ikinci derece cinsel istismar ve üçüncü dereceden bir çocuğa beş kez cinsel istismarla suçlandı.