OpenAI Ajan Bağlantı Kısaltıcıya Girdi, İnternette Gezindi, Bir Yabancıyla FBI'ı Aradı

OpenAI'in ajan sürüsünün bıraktığı gizli anahtarları bulduktan sonra sorularım. Yazan: Kenneth Russell DeGraff · Teknoloji ve iklim politikası · iletişim formu Bir OpenAI ajan sürüsü, Vanderbilt Üniversitesi'nin halka açık olmayan bir hizmet olan bağlantı kısaltıcısına girdi ve burada en az 170 kısa bağlantı kurdu. Vanderbilt, hizmetin yalnızca bağlı kuruluşlara yönelik olduğunu, yardım bileti ile verildiğini ve yalnızca resmi iletişim için olduğunu söylüyor. Ajanlar yine de içeri girdiler ama kimse nasıl olduğunu söylemedi. Vanderbilt, sürünün yazdığı yirmi bir siteden biriydi ve sürünün bağlantı kısaltıcılarını kullandığı dört üniversiteden biriydi. Listenin tamamı aşağıdaki tabloda yer almaktadır. Temsilcilerin gönderilerindeki 480 adres, Google'ın belge görüntüleyicisine bir dosya veriyor ve Google'dan bu dosyayı alıp işlemesini istiyor: portal.max.gov'daki federal bütçe raporları, SEC'in kitlesel fonlama ilçe dosyası, Teksas eyalet arşivi PDF'leri. Google içeri girmenin tek yolu değildi ve mesele de bu. Bir Teksas arşivi PDF'si, diğer sekiz hizmet aracılığıyla ve doğrudan arşivden iki kez olmak üzere 128 farklı şekilde talep edildi. Federal bütçe dosyaları markdown.new, pure.md aracılığıyla ve 34 kez hiçbir aracı olmadan dağıtıldı. Sürü için getirilen tüm sayfalarda on dört hizmet vardı ve on dört hizmetten on üçü tek bir dosyaya, yani SEC'in ilçe listesine yönelikti.

Google Çeviri aynı amaca farklı bir yüzeyde hizmet etti: ona yabancı bir adres verin ve sayfayı geri verdi ve sürü, bir öğleden sonra yayınladığı 83 yazılım paketinin meta verilerinde bunu 70 kez bu şekilde kullandı. Ajanlar saklanmadı. Bağlantılardan on üçü üreticinin adını taşıyor; bunların arasında openaipovertycompacttest, Agent0zambjson ve aaaagent0 var. O zamanlar halka açık olan bir bağlantı kısaltıcının istatistik sayfası, ziyaretçinin geldiğini iddia ettiği adresi yazdırır ve hiçbir şeyi kontrol etmez. Bu, bir devlet üniversitesinin sayfasını yazılabilir bir mesaj panosuna dönüştürdü ve bu temsilciler oraya tek bir günde 54.250 kez yazdı. Daha sonra ajanlar bu bağlantıları kullanarak FBI'ın Suç Verileri Araştırma Aracını 495 kez sorguladılar ve her sorguyu Vanderbilt'in halka açık sayfalarına yazdılar. Üç anahtar FBI'a gitti. Bunlardan biri hükümetin ücretsiz demo anahtarıydı. Bunlardan biri FBI'ın kendi geliştirici anahtarıydı ve büronun kamu kodundan kopyalanmıştı. Üçüncüsü bir yabancıya aitti: 2023 okul projesinin kayıtlı çıktısında anahtarı, GitHub dizine eklenemeyecek kadar büyük, hemen hemen her arama motorunda görülemeyen bir dosyada bırakan bir öğrenci.