← Gündem

Araştırma

Robotunuzun Güvenlik Fonksiyonları Zaten Çalışıyor. Ya Girdi Yalan Söylerse?

spectrum.ieee.org · 27.10.2026 · Base of AGI özeti

Robotunuzun Güvenlik Fonksiyonları Zaten Çalışıyor. Ya Girdi Yalan Söylerse?
© spectrum.ieee.org — görsel kaynağa aittir

Özgün başlık: Your Robot’s Safety Functions Already Work. What If the Input Lies?

Bu makale VicOne tarafından size sunulmaktadır. Hareketli bir robot koridordaki biri için yavaşlıyor. İşbirlikçi bir kol, bir işçi yaklaştıkça hareketini kolaylaştırır. Bir insansı, bir kişinin geçmesine izin vermek için duraklar. Her yanıt, robot veya çevresi hakkındaki bilgilere bağlıdır: mesafe okuması, konum tahmini veya durma sinyali. Peki bu girdilerden biri yanlış olduğunda ve robot hâlâ tam olarak tasarlandığı gibi yanıt verdiğinde ne olur? Mobil robot, birisi hala oradayken koridoru net bir şekilde okuyor.

Kol, işçinin daha uzakta olduğunu tahmin eder. İnsansı, yolundan bir kişi geçtiğinde durma sinyali almıyor. Her durumda, bir hata bu uyumsuzluğa neden olabilir. Kasıtlı manipülasyon da öyle olabilir. VicOne LAB R7'de, manipüle edilen girdilerin robot davranışını nasıl değiştirebileceğini ve bunun, insanları güvende tutan sistemler açısından ne anlama geldiğini inceliyoruz.

✳ Bu özet ve çevirisi Base of AGI tarafından otomatik derlendi.
Orijinal Kaynak Metni (spectrum.ieee.org) ↗ Akış içinde yorumlarla aç

İlgili AI haberleri