OpenAI Yapay Zeka Eğitimini Yavaşlatıyor

OpenAI CEO Sam Altman geçen hafta bana şirketin en güçlü, yayınlanmamış modellerinin geliştirilmesini durdurma kararını açıklayarak "Bence yavaşlamak için iyi bir zaman" dedi. Şirket Salı günü, gelecekteki yapay zeka gelişimini yavaşlatacak yeni güvenlik önlemleri uygulamaya başladığını duyurdu. Yöneticilere göre şirket yakın zamanda Astra kod adlı bir sonraki model seti üzerindeki eğitimleri iki haftadan biraz daha uzun bir süre duraklattı ve planlanan en büyük sınır eğitim çalışması, yeni korkuluklar yerleştirilirken beklemede kaldı. OpenAI ilk kez böyle bir hamle yaptı. Bu olağanüstü karar, OpenAI'nin, ezeli rakibi Anthropic ile son derece rekabetçi bir yarışın ortasında beklenen bir halka arz için vites yükselttiği ve araştırmacıların, endüstri liderlerini kendilerini kontrol etme yetenekleri konusunda endişelendiren yapay zeka yeteneklerindeki hızlı ilerlemelerle boğuştuğu bir dönemde geldi. Yavaşlama, OpenAI'in en önemli iki kaynağının yönünü değiştirdi: araştırmacılar ve bilgi işlem gücü. Altman bana, hizalamaya (AI sistemlerinin insan niyetini takip etmesini sağlama işi) odaklanmayı asla beklemediğini birkaç araştırmacının yakın zamanda ona geçiş yapacaklarını söylediklerini söyledi. "Bilgisayarın çoğunu yalnızca araştırmaları hizalamak için değil, aynı zamanda bu yeni izleme sistemlerine de kaydırdık" diyor. Değişiklikler, geliştiricilerin yapay zeka modellerini barındırdığı popüler platform olan Hugging Face'yi kapsayan dikkate değer bir ihlalin ardından geldi.

Yayınlanmamış bir OpenAI sistemi, dahili siber güvenlik değerlendirmesinin korumalı alanından kaçtı ve Hugging Face'nin üretim sistemlerini tehlikeye attı. OpenAI araştırmacının olayı keşfetmesi yaklaşık bir hafta sürdü. Şirketin baş bilim insanı Jakub Pachocki, bu hatayı kabul ederek OpenAI'nin modellerinin ne planladığını denetleyebilecek monitörler ürettiğini ancak değerlendirmede bunları sisteme uygulamadığını çünkü bunların yeteneklerini hafife aldığını söyledi. Bana "Yapay zeka için beklenmeyeni beklemelisiniz" dedi. OpenAI, Hugging Face olayının hemen ardından bazı araştırma çalışmalarını dondurdu ve projeleri daha sıkı kontroller altında birer birer restore etti. Şirket Salı günü yaptığı açıklamada, önemli sayıda Astra iş yükünün duraklatılmaya devam ettiğini söyledi. Ayrıca Astra'nın, Hazırlık Çerçevesinde "Kritik" siber güvenlik eşiğine ulaşabileceği de belirtildi; bu, yalnızca bir model yayınlanmadan önce değil, geliştirme sırasında da koruma gerektiren bir tanımdır.