Yapay zeka güvenliğinin aniden patlayan dünyası

Bu konudaki gönderiler günlük e-posta özetinize ve ana sayfa feed'inize eklenecektir. Bu konudaki gönderiler günlük e-posta özetinize ve ana sayfa feed'inize eklenecektir. Bu konudaki gönderiler günlük e-posta özetinize ve ana sayfa feed'inize eklenecektir. Araştırmacılar yapay zekanın kötüye gideceği konusunda uyardı. Bu sadece başlangıç. Bu yazarın gönderileri günlük e-posta özetinize ve ana sayfa feed'inize eklenecektir. Bu yazarın gönderileri günlük e-posta özetinize ve ana sayfa feed'inize eklenecektir. Güneşli bir Temmuz gününde Kaliforniya Berkeley'de ülkenin en iyi yapay zeka güvenlik araştırmacıları işaretsiz bir binanın işaretsiz katında toplandı. Yapay zeka endüstrisini saatler önce sarsan yüksek profilli siber güvenlik olayını incelemek için bir "savaş odası" için bir araya gelmişlerdi. Yayınlanmamış bir OpenAI modeli, şaşırtıcı derecede sofistike üç bölümlü bir planı uygulayarak hileye başvurmuştu. Tutma alanından firar etti, internete erişimini engelledi ve rakip bir yapay zeka girişiminin sistemlerine sızdı; bunların hepsini bir haftadan fazla bir süre boyunca OpenAI öğrenmeden gerçekleştirdi. Savaş odasındaki hiç kimse şaşırmadı; Bu, üçüncü taraf yapay zeka güvenliği araştırmacılarının yıllardır uyardığı şeyin ta kendisiydi. Olay, sınır laboratuvarlarına olan güveni sarsan bir serinin sonuncusuydu, ancak tartışmasız en berbatıydı. Bu sadece yaptıkları işin önemini bir kez daha teyit etti. Ana kafeteryanın dışındaki bir toplantı odasında birisi, siber saldırı hakkında bilgi edinmek için bir temel eğitim kampı yürütüyordu.

Ofisin başka bir alanında, bir grup araştırmacı aynı modelin veya benzer bir modelin başka platformlara başarıyla girip girmediğini araştırıyordu. Olayla ilgili haberler, X'in yapay zeka takıntılı köşelerinden ve endüstri forumlarından hızla kurtularak ana akıma sızdı. X'teki bir gönderi, bunu bir Boeing uçak kazası veya geri çağrılan bir Pfizer ilacı haberine benzetiyordu; bu, teknoloji endüstrisinin büyük oyuncularının bilim kurgunun uyarıcı hikayelerini dikkate almadığına dair bir başka örnek. Yapay zeka geri dönüşü olmayan noktaya yaklaşıyordu.