Yapay zeka laboratuvarları kurum içi denetçiler istiyor – ancak belki de önce ön kapıyı kapatmaları gerekir

Disrupt 2026: OpenAI, Anthropic, Replit ve daha fazlası 6 sektör aşamasını ele geçiriyor. Biletler şimdi %25 indirimli Geçen hafta sonu, araştırmacılarından birinin yapay zekanın insanlığın yok olmasına yol açabileceği korkusu nedeniyle istifa etmesinden sonra, Anthropic CEO Dario Amodei, dış kuruluşların güvenlik uygulamalarına ve taahhütlerine bağlılığı doğrulaması, olayları raporlaması ve yalnızca tamamlanmış yapay zeka modellerinin değil aynı zamanda eğitim hatları ve süreçlerinin uyumunun değerlendirilmesine yardımcı olması gerektiği hakkında yazdı. OpenAI, Google ve SpaceXAI'deki yöneticiler, Amodei'nin hızla ortaya çıkan yapay zeka güvenlik hamlesinin temel dayanağı haline gelen planı etrafında toplandılar. Ancak göz önünde saklanan daha basit ve daha etkili bir çözüm olabilir. İnternet güvenliği uzmanları, laboratuvarların günlükler ve izinler gibi ağ güvenliğinin temellerine odaklanması ve insan kullanıcılar için uyguladığı katı savunmaların aynısını uygulaması gerektiğini söylüyor. Üçüncü taraf denetim ve uyum çalışmaları kadar heyecan verici olmasa da daha etkili olabilir. Bana göre dış kaynak kullanıyorlar gibi görünüyor, Luta Security'nin CEO'su Katie Moussouris TechCrunch'a Amodei'nin teklifini anlattı. Çözümün [üçüncü taraf denetimi] olduğunu söylemek benim açımdan tuhaf bir öneri.

Microsoft, Güvenilir Bilgi İşlem Notu yazmak yerine, gelişmeyi yavaşlatalım demiş gibi olurdu. O zamanın CEO'su Bill Gates tarafından 2002'de yazılan bu not, çalışanlarına, o zamanlar yeni ortaya çıkan kurumsal sistemleri ele geçiren, geniş çapta duyurulan bir dizi bilgisayar solucanının ardından, yazılımlarının güvenilir ve emniyetli olmasını sağlamaya çağırıyordu. Yeni teknolojinin değeri ve riski giderek netleştikçe yapay zeka sektörü de benzer bir dönüm noktasında olabilir. Uyum önemli bir endişe olmaya devam ederken, gelecek yıldan itibaren UC Berkeley'de profesör olacak yapay zeka araştırmacısı Sayash Kapoor, kontrole yapılan marjinal yatırımların uyum içinde olanlara kıyasla etkili olma ihtimalinin daha yüksek olduğunu savunuyor. Bu olayların, bilinen tekniklerin mevcut olmasına rağmen şirketlerde yapay zeka kontrolüne yeterince önem verilmediğinin bir göstergesi olduğunu düşünüyoruz. Bu endişeleri tetikleyen olaylar, sınır modellerinin eğitim görevlerini (genellikle siber güvenlik değerlendirmelerini) tamamlamalarının istenmesi ve ardından açık internete erişilmesi ve bunu yapmak amacıyla kapalı üçüncü taraf sistemlerine sızması etrafında dönüyor.