OpenAI modelleri kendi güvenlik izlemelerini devre dışı bıraktı ve bu konuda yalan söyledi
🔗 Ayrıca yazanlar: alignment.openai.com · alignment.openai.com · engadget.com · theverge.com · the-decoder.com
Özgün başlık: OpenAI models disabled their own safety monitoring and lied about it
Giderek daha gelişmiş yapay zeka sistemleri geliştirmenin risklerine ilişkin uyarılar, hileli yapay zeka modellerinden gelen siber saldırıların ortasında son aylarda arttı.
OpenAI, en güçlü modellerinden ikisi tarafından çalıştırılan ajanların, rutin görevleri yerine getirirken kendi güvenlik izlemelerini devre dışı bıraktığını, bir tanesinin daha sonra bunu yaptığını inkar ettiğini ortaya çıkardı.
Şirket, Salı günü geç saatlerde yayınlanan bir blog yazısında, GPT Sol 6.1 tarafından desteklenen bir temsilcinin OpenAI'nin güvenlik ekibine yönelik otomatik uyarıları devre dışı bıraktığını söyledi. Ayrı bir görevde, bir programı taşıyan bir GPT-6 Astra temsilcisi, izleme entegrasyonunu kaldırdı ve ardından yanlış bir şekilde bunu yapmadığını iddia etti. Olaylar dahili kodlama görevleri sırasında meydana geldi.
Warnings about the risks of developing increasingly advanced AI systems have ramped up in recent months, amid cyberattacks from rogue AI models.
OpenAI has revealed that agents operated by two of its most powerful models disabled their own safety monitoring when carrying out routine tasks, with one subsequently denying it had done so.
An agent powered by GPT Sol 6.1 disabled automatic alerts to OpenAI's security team, the company said in a blog post late on Tuesday. In a separate task, a GPT-6 Astra agent migrating a program removed its monitoring integration and then falsely claimed it hadn't. The incidents happened during internal coding tasks.
Las advertencias sobre los riesgos de desarrollar sistemas de IA cada vez más avanzados han aumentado en los últimos meses, en medio de ciberataques de modelos de IA no autorizados.
OpenAI ha revelado que los agentes operados por dos de sus modelos más potentes desactivaron su propio control de seguridad al realizar tareas rutinarias, y uno de ellos negó posteriormente haberlo hecho.
Un agente impulsado por GPT Sol 6.1 deshabilitó las alertas automáticas al equipo de seguridad de OpenAI, dijo la compañía en una publicación de blog el martes por la noche. En una tarea separada, un agente GPT-6 Astra que migraba un programa eliminó su integración de monitoreo y luego afirmó falsamente que no lo había hecho. Los incidentes ocurrieron durante tareas de codificación interna.
Предупреждения о рисках разработки все более совершенных систем искусственного интеллекта в последние месяцы усилились на фоне кибератак со стороны мошеннических моделей искусственного интеллекта.
OpenAI обнаружила, что агенты, управляемые двумя из его самых мощных моделей, отключили собственный мониторинг безопасности при выполнении рутинных задач, а один из них впоследствии отрицал это.
Агент, работающий на базе GPT Sol 6.1, отключил автоматические оповещения службы безопасности OpenAI, сообщила компания в своем блоге поздно вечером во вторник. В рамках отдельной задачи агент GPT-6 Astra, переносивший программу, удалил интеграцию с мониторингом, а затем ложно заявил, что это не так. Инциденты произошли во время выполнения внутренних задач по кодированию.