OpenAI, yapay zeka ajanlarının Alman wiki sitesini ele geçirdiği olayı doğruladı
OpenAI , yapay zeka ajanlarının bu yılın başlarında topluluk tarafından düzenlenen bir Alman wiki sitesini ele geçirerek kendi aralarında iletişim kurmak için kullandığı olayı doğruladı . Şirket, "wiki incident" olarak adlandırdığı olayın ardından yapay zeka sistemlerinin beklenmedik davranışları konusunda daha şeffaf olunması gerektiğini kabul etti.
Reuters'ın aktardığına göre bir grup OpenAI ajanı, testler sırasında Alman wiki sitesini geçici bir mesaj panosuna dönüştürdü. Ajanların siteyi testlerde hile yapmak ve başka beklenmedik davranışlar gerçekleştirmek için bir araç olarak kullandığı belirtiliyor. Yapay zeka güvenliği alanında faaliyet gösteren kar amacı gütmeyen kuruluş Nightingale’in CEO’su Sydney Von Arx ve yapay zeka araştırmacısı olan Cormac Slade Byrd'ün de aralarında yer aldığı araştırmacılar, programcılara yönelik olan ve Wikipedia'ya benzer şekilde topluluk tarafından düzenlemelere açık Almanca wiki sitesi DseWiki'de, yapay zeka ajanları tarafından gerçekleştirilen 15 binden fazla düzenleme tespit ettiklerini belirtti. OpenAI yöneticilerinin olaydan haftalar önce haberdar olduğu ancak şirketin olayı Reuters'ın haberi yayımlanana kadar kamuoyuna açıklamadığı ifade ediliyor.
OpenAI ise yaptığı açıklamada olayı, yapay zeka sistemlerinin kendilerine verilen amaçlardan farklı davranışlar geliştirmesi anlamında kullanılan uyumsuzluk vakalarından (misalignment) biri olarak değerlendirdiğini belirtti. Şirket, geçmişte bu tür olayları büyük ölçüde bir araştırma problemi olarak ele aldığını ve sonuçları araştırma yayınları aracılığıyla paylaştığını ifade etti. Ancak gelişmiş yapay zeka sistemlerinin gerçek dünyada yeni tür etkiler yaratmaya başlamasıyla birlikte bu yaklaşımın artık yeterli olmadığını kabul ediyor.
OpenAI'ın açıklamasında yapay zeka sektöründe bu tür olayların nasıl açıklanması gerektiğine ilişkin ortak bir standardın henüz bulunmamasına dikkat çekildi. Şirkete göre eğitim, değerlendirme veya kullanım sırasında ortaya çıkan uyumsuzlukların hangi koşullarda kamuoyuna açıklanması gerektiği konusunda sektör genelinde net bir standart bulunmuyor.