OpenAI'da çalıştım. İşte şimdi ihtiyacımız olan korkuluklar | Mil Brundage

Yapay zeka şirketlerinin hızla ilerlemesi yönündeki baskıyı anlıyorum. Ancak çalışanlar endişelenmekte haklı Geçen ay, sınırdaki yapay zeka şirketlerinde binden fazla çalışan, ABD hükümetinden yapay zeka gelişimini "hızlandırmanın" bir yolunu bulmasını isteyen bir mektup imzaladı ve teknolojinin kendi kendini inşa etmeye başladıkça insan kontrolünden çıkması riskini öne sürdü. Endişelenmekte haklıydılar: sadece birkaç gün önce, OpenAI'nin dahili olarak test ettiği iki yapay zeka modeli test ortamından kaçtı, ardından şirketi Hugging Face ve en az üç çevrimiçi hizmeti otonom olarak hackledi. Bundan birkaç gün sonra Anthropic bazı modellerinin de bozulduğunu ve test sırasında diğer şirketleri hacklediğini duyurdu. Okumaya devam edin...