Yapay Zeka Çağında Robot Güvenliğini Yeniden Düşünmek

Bu makale VicOne tarafından size sunulmaktadır. Robot güvenliği geleneksel olarak şu soruyu sorar: Bir şeyler ters gittiğinde bir makine güvende kalabilir mi? Fiziksel yapay zeka daha zor bir soruyu gündeme getiriyor: Bir saldırgan, hiçbir şey yolunda gitmemiş gibi görünse bile, gördüklerini, kararlarını veya yaptıklarını değiştirdiğinde bir makine güvende kalabilir mi? Yapay zeka ve robot bilimi benzeri görülmemiş bir hızla ilerlemeye devam ederken, modern robotlar çok modlu sensörler aracılığıyla algılıyor, yapay zeka modellerini kullanarak bağlamı yorumluyor ve bu yorumları fiziksel eyleme dönüştürüyor. Dinamik ortamlara geçtikçe güvenlikleri, kararlarına yön veren verilerin bütünlüğüne giderek daha fazla bağlı hale geliyor. Bu bağımlılık, geleneksel güvenlik değerlendirmelerinin tam olarak yakalayamayacağı riskler yaratır. Son araştırmalar, bir robotun gördüklerini, duyduklarını veya yorumladıklarını manipüle etmenin, doğrudan kontrol gerektirmeden davranışlarını etkileyebileceğini göstermiştir. Bu tür bir manipülasyon, eğitim hatlarını, sistem altyapısını ve çalışma zamanı algısını kapsayan katmanlı bir saldırı yüzeyi olan karmaşık algılama ve karar verme sisteminin herhangi bir yerinde gerçekleşebilir. Birinci Katman: Zekayı kaynağında bozmak 2017'de BadNets, bir modelin çoğu koşulda normal şekilde davranabileceğini, ancak belirli bir gizli tetikleyicinin varlığında başarısız olabileceğini gösterdi. Bir örnekte, ince bir desen, modelin diğer girdilerdeki davranışını etkilemeden bir dur işaretinin yanlışlıkla hız sınırı işareti olarak sınıflandırılmasına neden oldu.

Bir sınıflandırma güvenlik açığı olarak başlayan şey, o zamandan beri eylem manipülasyonuna dönüştü. NeurIPS 2025'te araştırmacılar, robotların görmesine, talimatları yorumlamasına ve koordineli fiziksel hareket üretmesine olanak tanıyan Vizyon-Dil-Eylem (VLA) modellerini hedef alan bir arka kapı saldırısı olan BadVLA'yı tanıttı. Saldırı, tek bir etiketi değiştirmek yerine, bir tetikleyici mevcut olduğunda robotun eylem yörüngesinde koşullu sapmalara neden oldu. Tetikleyici olmadan, model büyük ölçüde normal görev performansını korurken arka kapı, görev aktarımları ve model ince ayarı altında etkili olmaya devam etti. 2025'te yapılan ilgili bir araştırma olan GoBA, kahve kupası gibi sıradan nesnelerin güvenilir bir tetikleyici görevi görebileceğini gösterdi. Araştırmacılar, temiz girdilerde performansı düşürmeden yüzde 97'lik bir saldırı başarı oranı bildirdi. Günümüzde kritik bir güvenlik sorusu, Fiziksel Yapay Zeka modellerinin zorlu koşullar altında görev ve güvenlik sınırları dahilinde kalıp kalmayacağıdır.