OpenAI'nin Hugging Face hack'inden kim sorumlu olmalı?

Bir yapay zeka korsanı internette dolaştığında, bunun neden olduğu herhangi bir zarardan kim sorumlu olacak? Bu haftaya kadar bu büyük ölçüde teorik bir soruydu. Şimdi buna hızlı bir şekilde cevap vermemiz gerekiyor. Geçen hafta Hugging Face, sistemlerine yapılan bir izinsiz girişin "uçtan uca otonom bir AI ajan sistemi tarafından yönlendirildiğini" açıkladı. Adli analiz, arkalarındaki modeli tanımlamadan 17.000'den fazla kayıtlı olayı yeniden yapılandırdı. Beş gün sonra OpenAI yanıtı verdi: Saldırganlar, GPT‑5.6 Sol dahil olmak üzere kendi modelleriydi ve daha düşük güvenlik önlemleriyle siber yetenekler üzerinde test edilen, daha yetenekli, yayınlanmamış bir modeldi. Modeller, yalıtılmış test ortamından kaçmak için sıfır gün güvenlik açığından yararlandı, internet erişimi olan bir makineye ulaştı ve puanlandıkları testin çözümlerini elde etmek için Hugging Face'nin sunucularına girdi. Bir insan OpenAI çalışanı, şirket içi bir uygulamada hile yapmak için Hugging Face'in sistemlerine girmişse, OpenAI, çalışanın ihmalkar bir şekilde işe alınmış, eğitilmiş veya talimat almış olmasına bakılmaksızın, yanıt üstün - Latince "ustanın cevap vermesine izin ver" anlamına gelen dolaylı sorumluluk hukuk doktrini uyarınca çalışanın hatalı davranışından sorumlu olacaktır. Bir yapay zeka ajanı bunu yaptığında kanun en azından şimdilik buna çok farklı davranıyor. AI sistemleri haksız fiil görevleri olan tüzel kişiler değildir. Onlar çalışan değiller.

Bilgisayar Dolandırıcılığı ve Kötüye Kullanım Yasası, bir bilgisayara izinsiz olarak "kasıtlı olarak" erişenleri kapsar; dil, insanlar için yazılmıştır. Bu, dolaylı sorumluluk yolunu kapatır. OpenAI'nin sorumlu bulunması, şirketin veya insan çalışanlarının ihmalkar davrandığının ve bu ihmalin Hugging Face'nin yaralanmalarına neden olduğunun tespit edilmesini gerektirecektir ki bu oldukça zor olabilir. Hugging Face'nin en güçlü argümanı, OpenAI'nin modellerin dahili korumalarını gevşetmede mantıksız davrandığı olabilir, ancak OpenAI'nin o zamanlar bildikleri ve modelin daha az kısıtlı bir versiyonunu test etmenin beklenen faydaları göz önüne alındığında, bunun mantıksız olduğu açık değildir. Kanun, bir yapay zeka sistemini haksız fiil görevi üstlenecek şekilde değiştirecek şekilde değiştirilirse, kendisine verilen bir görevi tamamlama girişimi sırasındaki suiistimal, şirket için dolaylı sorumluluk doğurabilir.