OpenAI'nin asi hacker ajanı hikayesine şüpheyle yaklaşın

Eğer OpenAI yüksek sesle yapay zekanın ne kadar tehlikeli olduğunu ilan ederse, yatırımcılar onun ne kadar güçlü olduğunu duyacaklardır. Peki bundan kim yararlanıyor? 14 Şubat 2019'da OpenAI, modern AI sohbet robotlarına ve ChatGPT ve Claude gibi aracılara güç veren modellerin öncüsü olan GPT-2 adlı bir dil modelini duyurdu. Ancak OpenAI, güvenlik ve kötüye kullanımla ilgili endişeleri öne sürerek GPT-2'nin piyasaya sürülmesinin çok riskli olduğunu açıkladı. O zamanlar OpenAI'nin bu kadar işe yaramaz bir duyuru yapmasından rahatsız olduğumu hatırlıyorum: riskler abartılı görünüyordu ve modele erişim olmadan benim gibi bir araştırmacının GPT-2 hakkında ��ğrenebileceği pek bir şey yoktu. Ancak duyuru OpenAI için faydasız değildi. GPT-2, araştırma camiasının çok ötesinde bir heyecan yarattı: İnsanların bu garip yeni teknoloji ilgisini çekti; o kadar güçlü ki piyasaya sürülmesi tehlikeli olabilir. Gücü ve parası olan insanlar şunu not etti: O yılın Temmuz ayında Microsoft, OpenAI'e 1 milyar dolar yatırım yaptı. Bu, OpenAI'nin iletişimindeki bir modelin ilk örneğiydi: Yapay zekanın ne kadar tehlikeli olduğunu yüksek sesle ilan edin ve yatırımcılar onun ne kadar güçlü olduğunu duysun. Dünyayı yok edebilecek kadar önemli olan yeni teknoloji, sıradan teknolojilerin dünyayı nasıl değiştirebileceğine dair sunum yapan yatırımcılar için karşı konulamaz bir mesajdı. Yedi yıl sonra kendimizi benzer bir senaryonun içinde buluyoruz. Salı günü OpenAI, son modelinin siber güvenlik yeteneklerinin testi sırasında otonom bir ajan olarak çalışırken başka bir şirket olan HuggingFace'i hacklediğini duyurdu.

Model, testi beklendiği gibi gerçekleştirmek yerine HuggingFace'in sunucularını hackleyebileceğini ve OpenAI'nin orada sakladığı testin yanıtlarını alabileceğini fark etti. FT'nin bildirdiğine göre, OpenAI personeli, şirketin testlerinin böyle bir ayrılık senaryosuna yol açabileceği konusunda uyarıldı ve bu durum onları "şaşırtmadı ancak olay karşısında tamamen 'korkmuş' halde bıraktı." Temsilci teknik olarak hile yapmış olsa da bu, siber güvenlik uzmanlığının dikkate değer bir kanıtıdır! Kulağa aynı zamanda korkutucu da geliyor: Kurumsal sistemleri hackleyecek kadar akıllı, gelişmiş yapay zeka ajanlarıyla gelecek nasıl görünecek? Serseri ajan hikayesi, OpenAI'nin 2019'da GPT-2'yi duyurmasından bu yana yürüttüğü medya kampanyasından bir sayfadır.