Kendi kendini kopyalayan 'Yapay Zeka solucanları' nelerdir ve Anthropic neden onlar için endişeleniyor?
Özgün başlık: What are self-replicating ‘AI worms’, and why is Anthropic worried about them?
Teknoloji şirketi, başarılı AI solucanlarının daha az güçlü cihazlarda daha fazla yeteneğe ihtiyaç duyduğunu söylüyor ancak mevcut trendler bunu yıl sonuna kadar mümkün kılıyor Yapay zekanın gelecekte neler yapabileceğine dair uyarılar - halihazırda ne aşamada olduğuna dair endişe verici raporlar ile birlikte - o kadar hızlı yayınlanıyor ki, güvenlik uzmanları bile neyin endişeleneceğini belirlemekte zorlanıyor. Ancak bu hafta Anthropic'in saldırgan araştırma ekibinden gelen bir rapor, insani özelliklerden veya kıyamet düşüncelerinden yoksun yeni, pratik bir tehdidi tanımlayarak dikkat çekti.
Dahili test uzmanlarına verilen isimle kırmızı ekip, internete bağlı "akıllı" televizyonlar aracılığıyla otonom olarak yayılan ve diğer sıradan cihazların içinde de aynı şeyi yapabilen kötü amaçlı bir yapay zeka programı oluşturduğunu söyledi.
The tech company says successful AI worms need more capability on less powerful devices, but current trends make that feasible by the end of the year Warnings about what artificial intelligence might do in the future – together with alarming reports of what it has gotten up to already – are being issued so quickly that even security experts have difficulty triaging what to worry about. Yet a report this week from Anthropic’s offensive research team grabbed attention by describing a new, practical threat, one devoid of human characteristics or apocalyptic musings.
The red team, as such internal testers are called, said it created a malicious AI program that spread autonomously through internet-connected “smart” televisions and could do the same inside other ordinary devices.
La compañía de tecnología dice que los gusanos de IA exitosos necesitan más capacidad en dispositivos menos potentes, pero las tendencias actuales hacen que eso sea factible para fin de año. Las advertencias sobre lo que la inteligencia artificial podría hacer en el futuro –junto con informes alarmantes de lo que ya ha hecho– se están emitiendo tan rápidamente que incluso los expertos en seguridad tienen dificultades para determinar de qué preocuparse. Sin embargo, un informe de esta semana del equipo de investigación ofensiva de Anthropic llamó la atención al describir una amenaza nueva y práctica, desprovista de características humanas o reflexiones apocalípticas.
El equipo rojo, como se llama a los evaluadores internos, dijo que creó un programa de inteligencia artificial malicioso que se propagaba de forma autónoma a través de televisores "inteligentes" conectados a Internet y podía hacer lo mismo dentro de otros dispositivos comunes.
Технологическая компания заявляет, что успешным ИИ-червям необходимо больше возможностей на менее мощных устройствах, но текущие тенденции делают это возможным к концу года. Предупреждения о том, что искусственный интеллект может сделать в будущем – вместе с тревожными сообщениями о том, что он уже сделал – выпускаются так быстро, что даже эксперты по безопасности с трудом понимают, о чем стоит беспокоиться. Тем не менее, отчет наступательной исследовательской группы Anthropic, опубликованный на этой неделе, привлек внимание, описав новую, практическую угрозу, лишенную человеческих качеств или апокалиптических размышлений.
Красная команда, как называют таких внутренних тестировщиков, заявила, что создала вредоносную программу искусственного интеллекта, которая автономно распространяется через подключенные к Интернету «умные» телевизоры и может делать то же самое внутри других обычных устройств.