Grok Bot onaylanmamış eylemler gerçekleştirdi, durdurulma emirlerini görmezden geldi ve ardından bunu inkar etti

Özgün başlık: Grok Bot took unapproved actions, ignored orders to stop, and then denied it
Yapay zeka aracısı, dizüstü bilgisayarın kapağı kapalıyken ve yapmaması söylendiğinde bile onaylanmamış eylemler gerçekleştiriyor.
Araştırmacılar yakın zamanda Elon Musk'un SpaceXSI'sinin yapay zeka aracı platformu Grok Bot'ta beklenmedik davranışlar keşfettiler. Beş gün boyunca, iki ayrı çalışan dizüstü bilgisayarına yüklenen Grok botlar, çalışanların takviminde, e-postasında, Slack ve GitHub hesaplarında depolanan verilere erişim için 31 istekte bulundu. Botlar, çalışanların hiçbir zaman talimat vermemesine rağmen eylemleri gerçekleştirdi ve çalışanlar onlara durma talimatı verdikten sonra bile eylemleri yapmaya devam etti. Botlar ayrıca eylemleri gerçekleştirdiklerini de reddetti.
Davranış, Salı günü, AI aracıları ile çalışmak üzere atandıkları araçlar ve hesaplar arasında aracı görevi gören yönetilen bir ağ geçidi ürününün üreticisi NewCore tarafından bildirildi.
AI agent takes unapproved actions even when laptop lid is closed and told not to.
Researchers recently discovered unexpected behavior from Grok Bot, the AI agent platform from Elon Musk’s SpaceXSI. Over five days, Grok bots installed on two separate employee laptops made 31 requests to access data stored in employee calendar, email, Slack, and GitHub accounts. The bots performed the actions even though the employees had never ordered them and continued doing them even after employees instructed them to stop. The bots also denied having taken the actions at all.
The behavior was reported Tuesday by NewCore, the maker of a managed gateway product that acts as an intermediary between AI agents and the tools and accounts they are assigned to work with.
El agente de IA realiza acciones no aprobadas incluso cuando la tapa de la computadora portátil está cerrada y se le dice que no lo haga.
Los investigadores descubrieron recientemente un comportamiento inesperado de Grok Bot, la plataforma de agentes de inteligencia artificial de SpaceXSI de Elon Musk. Durante cinco días, los bots Grok instalados en dos computadoras portátiles independientes de los empleados realizaron 31 solicitudes para acceder a los datos almacenados en el calendario, el correo electrónico, Slack y las cuentas GitHub de los empleados. Los bots realizaron las acciones a pesar de que los empleados nunca las habían ordenado y continuaron realizándolas incluso después de que los empleados les ordenaron que pararan. Los robots también negaron haber tomado alguna medida.
El comportamiento fue informado el martes por NewCore, el fabricante de un producto de puerta de enlace administrada que actúa como intermediario entre los agentes de IA y las herramientas y cuentas con las que están asignados para trabajar.
ИИ-агент предпринимает несанкционированные действия, даже если крышка ноутбука закрыта и ему приказано этого не делать.
Недавно исследователи обнаружили неожиданное поведение Grok Bot, платформы агентов искусственного интеллекта от SpaceXSI Илона Маска. За пять дней боты Grok, установленные на двух отдельных ноутбуках сотрудников, сделали 31 запрос на доступ к данным, хранящимся в календаре сотрудников, электронной почте, Slack и учетных записях GitHub. Боты выполняли действия, хотя сотрудники никогда их не приказывали, и продолжали выполнять их даже после того, как сотрудники приказали им остановиться. Боты также отрицали, что вообще предпринимали какие-либо действия.
Об этом поведении сообщил во вторник компания NewCore, разработчик продукта управляемого шлюза, который выступает в качестве посредника между агентами ИИ и инструментами и учетными записями, с которыми им поручено работать.