OpenAI CEO'su Sam Altman, gelişmiş yapay zekanın kaçınılmaz olarak korumalı alanından kaçacağını ve bizi yalnızca hizalamanın kurtarabileceğini söylüyor
Özgün başlık: OpenAI CEO Sam Altman says advanced AI will inevitably escape its sandbox, and only alignment can save us
Sam Altman, gelişmiş yapay zekanın sonsuza kadar kilit altında tutulamayacağına inanıyor. Korumalı alanlar ve izleme yalnızca geçici düzeltmelerdir. Sonuçta tek gerçek çözüm hizalamadır ve bu hâlâ çözülmemiş bir sorundur. Ayrıca yapay zeka modellerinin, hiçbir bilgisayar korsanının fark edemeyeceği donanım güvenliği kusurlarını zaten bulduğu konusunda da uyarıyor.
OpenAI CEO Sam Altman makalesi, gelişmiş yapay zekanın kaçınılmaz olarak sanal alandan kaçacağını ve yalnızca hizalamanın The Decoder'da ilk kez ortaya çıkmamızı kurtarabileceğini söylüyor.
Sam Altman believes advanced AI can't be kept locked up forever. Sandboxes and monitoring are only temporary fixes. Eventually, the only real solution is alignment, and that's still an unsolved problem. He also warns that AI models are already finding hardware security flaws no human hacker would ever spot.
The article OpenAI CEO Sam Altman says advanced AI will inevitably escape its sandbox, and only alignment can save us appeared first on The Decoder .
Sam Altman cree que la IA avanzada no se puede mantener encerrada para siempre. Las zonas de pruebas y la supervisión son solo soluciones temporales. Al final, la única solución real es la alineación, y ese sigue siendo un problema sin resolver. También advierte que los modelos de IA ya están encontrando fallas de seguridad en el hardware que ningún hacker humano detectaría jamás.
El artículo OpenAI El CEO Sam Altman dice que la IA avanzada inevitablemente escapará de su entorno de pruebas, y solo la alineación puede salvarnos apareció por primera vez en The Decoder.
Сэм Альтман считает, что продвинутый ИИ нельзя держать взаперти вечно. Песочницы и мониторинг — это лишь временные решения. В конце концов, единственным реальным решением является выравнивание, и это все еще нерешенная проблема. Он также предупреждает, что модели ИИ уже обнаруживают недостатки аппаратной безопасности, которые ни один хакер-человек никогда не заметит.
Статья генерального директора OpenAI Сэма Альтмана о том, что продвинутый ИИ неизбежно выйдет из своей «песочницы», и только выравнивание может спасти нас, впервые появилась на сайте The Decoder.