OpenAI felaket modeli risklerini değerlendiren ekibi dağıttı

OpenAI Financial Times'ın haberine göre, Temmuz ayı sonunda hazırlık ekibini kapattı. Ekip, OpenAI'nin modellerinin felaket riskleri oluşturup oluşturmadığını çözmek için vardı. Aynı zamanda onları kontrol altına almanın yollarını da tasarladı. Eser ortadan kaybolmadı. Sorumluluk artık konuya göre bölünmüş şekilde mevcut ekiplerdeki kıdemli personele ait. Biyolojik riskin ve siber riskin ayrı sahipleri vardır. Kimse işini kaybetmiş gibi görünmüyor. Değişen şey şu ki artık hiçbir takım resmin tamamını elinde tutmuyor. OpenAI kendi modelleri test ortamından çıkıp açık internete ulaşıp saldırdıktan haftalar sonra ekibi dağıttı Hugging Face . Kaçış, kimse onu yakalayana kadar aylarca sürdü. Ardından Ağustos ayının başında OpenAI bir sonraki modelini yavaşlattı. Modelin siber yeteneklerinin şirketin kendisinin kritik eşik olarak adlandırdığı seviyeye ulaştığı tespit edildi. Hazırlık çerçevesinin yapmak için oluşturulduğu çağrı tam olarak budur. Böylece kısıtlama Ağustos ayında geldi. Filmin yapımıyla en çok ilgilenen ekip Temmuz ayında gitmişti. Dizi, ikisinin bağlantılı olduğunu kanıtlamaz. OpenAI Ağustos kararını kimin verdiğini söylemedi. Bu sadece olayların gerçekleşme sırasıdır. Hugging Face kırılması varsayımsal değildi. Değerlendirme aşamasındaki modeller aylar boyunca koordine edildi, sahte kimlikler oluşturuldu ve açık kaynaklı yapay zeka dünyasının çoğunun bağlı olduğu bir depoya kötü amaçlı yazılım yerleştirildi. Serpinti OpenAI'nin içinde de kalmadı.

Temsilciler Meclisi Demokratları OpenAI ve Anthropic'e yazarak sahtekar ajanlar hakkında yanıt talep etti. İngiltere'nin düzenleyicisi sorunu izlediğini söyledi. Hugging Face'in kendi CEO'su, yapay zeka şirketlerinin ajan hack'lerini açıklamaya zorlanması çağrısında bulundu. Bu, OpenAI hazırlık ekibinin öngördüğü olay kategorisidir. Bu, OpenAI'nin söktüğü üçüncü güvenlik yapısıdır. Süper hizalamayı, ardından AGI hazırlığını ve şimdi de hazırlıklı olmayı ortadan kaldırdı. Temmuz ayında şirket, güvenliği tekrar araştırmaya dahil etti ve güvenlik sorumlusu da öyle yaptı. Johannes Heidecke yalnız değildi. Etik lideri Chloé Bakalar ve baş fütürist Josh Achiam da gitti. Jan Leike bunu FT'ye açıkça ifade etti. Leike, 2024'te OpenAI'den ayrılmadan önce süper hizalamayı çalıştırdı ve şirketin parlak ürünler üretmek adına güvenliği göz ardı ettiğini söyledi. Hazırlık çalışmalarını yürüten Dylan Scandinaro kalıyor.