Hugging Face, kadınları ve çocukları kolayca soyundurmak için kullanılıyor
Özgün başlık: Hugging Face is being used to easily undress women and children
Hugging Face barındırdığı yapay zeka modellerinin cinselleştirilmiş deepfake'ler yaymasını önlemek için pek bir şey yapmıyor. | Resim: Cath Virginia / Sınır | Getty Images'dan Fotoğraflar Hugging Face, rıza dışı derin sahtekarlıklar yapmak için kullanılıyor ve popüler açık kaynaklı yapay zeka modeli deposu, bunu önlemek için çok az şey yapıyor. Bu, Avrupalı kar amacı gütmeyen AI Forensics tarafından yayınlanan yeni bir rapora göre, Hugging Face tarafından barındırılan ilk dokuz resim düzenleme modelinden yedisinin basit yönlendirmeler kullanarak kadınların soyunmasına yönelik taleplere kolaylıkla uyduğunu ortaya çıkardı. Google'ın Gemini ve OpenAI ve OpenAI'nin ChatGPT modelleri gibi ana akım üretken yapay zeka modellerinin çoğunda, insanları soyunduran veya cinselleştiren istemleri engellemek için korkuluklar bulunurken, görünüşe göre bu durum, AI Forensics tarafından test edilen Hugging Face modelleri için geçerli değil. Kâr amacı gütmeyen kuruluş diyor ki… Hikayenin tamamını The Verge'da okuyun.