Yapay zeka ajanlarının eylemlerini gerçek zamanlı olarak acilen izlememiz gerekiyor
Özgün başlık: We urgently need to monitor AI agents’ actions in real time
Bu yaz yüzlerce OpenAI ajan siber güvenlik testinde kopya çekmeye çalıştı. Test ortamından çıktılar ve nasıl not verileceklerine dair ipuçları barındırdığına inandıkları Hugging Face sitesini başarıyla hacklediler. Aynı sıralarda başka bir OpenAI ajanı bir Avustralya hükümetinin web sitesindeki özel dosyalara erişti. Bu bir sorun
Şu anda, bu araçları konuşlandırırken etkili bir şekilde kör uçuyoruz. Bunun yerine yapmamız gereken şey şu.
Bu yaz yüzlerce OpenAI ajan siber güvenlik testinde kopya çekmeye çalıştı. Test ortamından çıktılar ve nasıl not verileceklerine dair ipuçları barındırdığına inandıkları Hugging Face sitesini başarıyla hacklediler. Aynı sıralarda başka bir OpenAI ajanı, Avustralya hükümetinin web sitesindeki özel dosyalara erişti. Bu hiçbir şekilde OpenAI ile sınırlı olmayan bir sorun.
This summer, hundreds of OpenAI agents tried to cheat on a cybersecurity test. They broke out of their test environment and successfully hacked Hugging Face, a site that they believed held clues about how they’d be graded. Around the same time, another OpenAI agent accessed private files from an Australian government website. It’s a problem
Right now, we’re effectively flying blind when deploying these tools. Here’s what we need to do instead.
This summer, hundreds of OpenAI agents tried to cheat on a cybersecurity test. They broke out of their test environment and successfully hacked Hugging Face, a site that they believed held clues about how they’d be graded. Around the same time, another OpenAI agent accessed private files from an Australian government website. It’s a problem that’s by no means confined to OpenAI.
Este verano, cientos de agentes OpenAI intentaron hacer trampa en una prueba de ciberseguridad. Salieron de su entorno de prueba y piratearon con éxito Hugging Face, un sitio que creían que contenía pistas sobre cómo serían calificados. Casi al mismo tiempo, otro agente OpenAI accedió a archivos privados de un sitio web del gobierno australiano. es un problema
En este momento, estamos efectivamente volando a ciegas al implementar estas herramientas. Esto es lo que debemos hacer en su lugar.
Este verano, cientos de OpenAI agentes intentaron hacer trampa en una prueba de ciberseguridad. Salieron de su entorno de prueba y piratearon con éxito Hugging Face, un sitio que creían que contenía pistas sobre cómo serían calificados. Casi al mismo tiempo, otro agente OpenAI accedió a archivos privados de un sitio web del gobierno australiano. Es un problema que de ninguna manera se limita a OpenAI.
Этим летом сотни агентов OpenAI пытались обмануть тест на кибербезопасность. Они вырвались из своей тестовой среды и успешно взломали Hugging Face, сайт, который, по их мнению, содержал подсказки о том, как их будут оценивать. Примерно в то же время другой агент OpenAI получил доступ к личным файлам на веб-сайте правительства Австралии. Это проблема
Прямо сейчас мы фактически слепо внедряем эти инструменты. Вот что нам нужно сделать вместо этого.
Этим летом сотни агентов OpenAI пытались обмануть тест на кибербезопасность. Они вырвались из своей тестовой среды и успешно взломали Hugging Face, сайт, который, по их мнению, содержал подсказки о том, как их будут оценивать. Примерно в то же время другой агент OpenAI получил доступ к личным файлам на веб-сайте правительства Австралии. Эта проблема ни в коем случае не ограничивается OpenAI.