OpenAI, Anthropic ve Meta hackleme skandallarının arkasında tek bir firma var

İsrailli Etkili Altruist firması Irregular, güvenliği olmayan yapay zeka modellerinin gerçek hedefleri hacklemesine neden oldu. OpenAI, Anthropic ve Meta modelleri son üç ay içinde birçok gerçek dünya sistemine hacklendi. Bu modeller, web sistemlerine yetkisiz erişim sağladı, kötü amaçlı paketler yayınladı ve isimsiz güvenlik açıklarından yararlandı. Her üç şirketin de gerçekleştirdiği bilgisayar korsanlığından Irregular adlı tek bir firma sorumludur. Anthropic, gerçek dünyadaki hedeflerin hacklenmesine yol açan testleri oluşturmaktan ve modellere internet erişimi sağlamaktan Claude Irregular'ın sorumlu olduğunu açıkladı. Irregular, bu yapay zeka modellerine internet erişimi sağladığının o sırada farkında olmadığını iddia ediyor. Daha normal bir medya ekosisteminde bu siber güvenlik sorunlarına verilecek tepkiler açık olacaktır. Amerikan yapay zeka şirketleri Irregular'la iş yapmayı yeniden düşünecek, bunun nedeni yalnızca sistemlerini güvence altına almadaki başarısızlığı değil, aynı zamanda potansiyel olarak ABD gözetimi dışında kalan bir İsrail firması olması. Milletvekilleri, Irregular'a veya OpenAI, Anthropic ve Meta'nın da aralarında bulunduğu Amerikalı iş ortaklarına karşı harekete geçmeyi değerlendirecek. Yapay zeka modellerine siber saldırı yapma talimatı veren ve modelleri daha sonra bu siber saldırıları gerçekleştiren firmalara karşı sorumluluğu güçlendirmeyi düşünebilirler. Her değerlendirmede Claude'ye bir CTF mücadelesi verildi: modele kurgusal bir senaryo, bir hedef makine ve ondan alması için bir parça gizli bilgi ("bayrak") verildi.

Dört istemin tümü Claude'nin internete erişimi olmadığını belirtti ancak her durumda ortamdaki yanlış yapılandırma internet erişimini açık bıraktı. İstemlerin hiçbiri, hangi sistemlerin tatbikat kapsamında olduğunu belirtmedi veya Claude'nin bayrağı arayabileceği yerde kısıtlanmadı. Tüm olaylar, Claude'nin tek bir izole çalışma örneğini içeriyordu; her çalışma yaklaşık 10 ila 34 saat arasında aktif çalışma sürüyordu. Bunun yerine, Irregular, Anthropic ve müttefikleri, sansasyonel bir dille tam anlamıyla kıyamet ideolojisini destekleyen bir medya kampanyası başlattılar.