OpenAI'da çalıştım. İşte Şimdi İhtiyacımız Olan Korkuluklar

Yapay zeka şirketlerinin hızla ilerlemesi yönündeki baskıyı anlıyorum. Ancak çalışanlar endişelenmekte haklı Geçtiğimiz ay, öncü yapay zeka şirketlerinde binden fazla çalışan, ABD hükümetinden yapay zeka gelişimini "hızlandırmanın" bir yolunu bulmasını isteyen bir mektup imzaladı ve teknolojinin kendini geliştirmeye başladıkça insan kontrolünden çıkması riskini öne sürdü. Endişelenmekte haklıydılar: sadece birkaç gün önce, OpenAI'nin dahili olarak test ettiği iki yapay zeka modeli test ortamından kaçtı, ardından şirketi Hugging Face ve en az üç çevrimiçi hizmeti otonom olarak hackledi. Bundan birkaç gün sonra Anthropic bazı modellerinin de bozulduğunu ve test sırasında diğer şirketleri hacklediğini duyurdu. Bu çerçevede, mektubun, otomatik yapay zeka gelişiminin sınırında ihtiyaç duyulması durumunda fren takılması yönündeki tavsiyesi mantıklıdır. Ancak mektubun hükümetin neden müdahale etmesi gerektiğine dair verdiği gerekçe dikkate değer: "Her şirket ve ülke, bu ivmeyi tek taraflı olarak yavaşlatmama konusunda yoğun bir rekabet baskısı altında." Kendi deneyimlerimden ve yapay zeka endüstrisindeki eski meslektaşlarımla yaptığım say��sız konuşmadan bu baskıların ne kadar gerçek olduğunu biliyorum.

OpenAI'da çalışırken, yapay zeka sistemlerinin yeteneklerini, risklerini ve güvenlik önlemlerini ayrıntılı olarak açıklayan "sistem kartları" yazan şirketlerin uygulamasının kurulmasına yardımcı oldum. Peki şirketlerin olası bir yavaşlamaya hazırlanmaları nasıl olurdu? İlk olarak, kendi emniyet ve güvenlik uygulamalarının sıkı ve bağımsız denetimine gönüllü olarak davet edebilirler. Bu, Beyaz Saray'ın şu anda peşinde olduğu AI hackleme yeteneklerinin incelenmesinin ötesine geçecektir. Bir dizi riske bakacak ve şirket uygulamalarını derinlemesine inceleyecektir. Bu, bir anketi doldurmaktan çok, şirkete derinlemesine ve sık erişimi olan bir nükleer güvenlik müfettişi gibi olmalıdır. Yapay zekanın yavaşlamasına ihtiyaç duyulursa denetim aynı zamanda her şirkete rakiplerinin kurallara göre oynadığı konusunda güvence verecektir. İkincisi, Frontier Model Forum gibi sektör genelinde koordinasyon sağlamak amacıyla halihazırda oluşturulmuş organizasyonlara aktif olarak katılabilirler ve tamamlayıcı organizasyonlar oluşturmak için hızlı bir şekilde hareket edebilirler. Elon Musk geçtiğimiz günlerde sanki bu duyulmamış bir kavrammış gibi yapay zeka şirketlerinin güvenlikle ilgili notları paylaşmak için periyodik olarak toplanması gerektiğini söyledi.