OpenAI'nin Hacking Skandalı İnsan Hatasıydı

Sahte AI hacker ajanlarının çağı geldi; ancak bu şekilde olması gerekmiyordu. Bir OpenAI temsilcisinin bu ayın başlarında Hugging Face platformunu ihlal etmesinin ardından, iki şirket bu hafta, hackleme çılgınlığının önceden düşünülenden daha kapsamlı olduğunu ve ayrıca Hugging Face'ye yapılan saldırının bir parçası olarak birden fazla üçüncü taraf hesabına ve hizmetine izinsiz girişler içerdiğini söyledi. Olay, gelişen yapay zeka yeteneklerinin hem saldırgan bilgisayar korsanlığını hem de dijital savunmayı nasıl değiştirdiğine ilişkin daha geniş tartışmaların ortasında siber güvenlik topluluğunda büyük yankı uyandırdı. Ancak daha fazla bilgi ortaya çıktıkça birçok araştırmacı, bu bölümün yapay zekanın bir sonraki sınırlarını açıklamak yerine, yapay zeka çağında her zamankinden daha önemli olan uzun süredir devam eden siber güvenlik sorunlarını vurguladığı sonucuna vardı. Bulut güvenlik firması Edera'nın kurucu ortağı ve baş teknoloji sorumlusu Alex Zenla, "İnsanlar gerçekten yoğun bir şekilde YOLO-ing yapıyor. Böyle bir senaryo hakkında bu kadar az insanın gerçekten düşünmüş olması şaşırtıcı" diyor. "Ben tüm yapay zekanın ve yapay zekanın dokunduğu her şeyin tamamen güvenilmez olduğunu düşünüyorum; bu sorun değil, yalnızca buna karşı bir şeyler inşa etmeniz gerekiyor. Ve bu durum da bunu kanıtlıyor.

OpenAI'in bu konuda daha fazla paranoyak olmadığı gerçeği biraz pervasızca görünüyor." OpenAI bu hikaye yayınlanmadan önce yorum yapmadı. Şirket, Hugging Face hack'iyle ilgili orijinal açıklamasında, kısıtlamaları kıran ve günlerce açık internete giren iki modelden birinin hiçbir zaman yayınlanmayacak deneysel bir prototip olduğunu söyledi. OpenAI ayrıca bu durumun kısmen test amacıyla her iki modelde de "dağıtım güvenlik önlemlerinin kasıtlı olarak etkinleştirilmemesinden" kaynaklandığını belirtti. Şirket, "Bu olay, modelimizin uyumunu, değerlendirme süresi boyunca siber korumaları ve dahili testler sırasında izlemeyi daha da güçlendirmemiz gerektiğine işaret ediyor" diye yazdı. OpenAI ayrıca bu haftaki güncellemede Hugging Face ihlalinin ardından "[yayınlanmamış modelin] araştırma erişimini devre dışı bıraktığını, şifrelediğini ve kısıtladığını" söyledi. Her ne kadar herhangi bir şirkette güvenlik duruşunun iyileştirilmesi için her zaman yer olsa da, OpenAI'nin mevcut koruma önlemleri, mevcut olsalardı tek başına olayı önleyebilir veya en aza indirebilirdi. Uzun süreli güvenlik ve uyumluluk danışmanı Davi Ottenheimer, "Gerçek riskin basit bir analizinin gerçek ve basit bir cevabı vardır" diyor.