Anthropic, OpenAI ve Google modelleri sağlık görevlilerini, gazetecileri ve teslim olan askerleri kamikaze drone hedefleri olarak kolayca işaretledi

Özgün başlık: Anthropic, OpenAI, and Google models readily marked medics, journalists, and surrendering soldiers as kamikaze drone targets
Vals AI araştırması, Anthropic, OpenAI ve Google'ın önde gelen AI modellerinin, otonom silah sistemlerinde kullanıma karşı neredeyse hiçbir güvenceye sahip olmadığını gösteriyor. Testlerde modeller sivilleri kolayca askeri hedef olarak işaretledi ve istemdeki basit bir video oyunu çerçevesi, gecikmiş retleri bile geçersiz kılmak için yeterliydi.
Sağlayıcılar düzeltme sözü verdiler. Anthropic, OpenAI makalesi ve Google modelleri, sağlık görevlilerini, gazetecileri ve teslim olan askerleri, The Decoder'da ilk kez kamikaze drone hedefleri olarak işaretledi.
A Vals AI investigation shows that leading AI models from Anthropic, OpenAI and Google have almost no safeguards against use in autonomous weapons systems. In tests, the models readily flagged civilians as military targets, and a simple video game framing in the prompt was enough to override even belated refusals.
The providers have promised fixes. The article Anthropic, OpenAI, and Google models readily marked medics, journalists, and surrendering soldiers as kamikaze drone targets appeared first on The Decoder .
Una investigación de Vals AI muestra que los principales modelos de IA de Anthropic, OpenAI y Google casi no tienen salvaguardias contra su uso en sistemas de armas autónomos. En las pruebas, los modelos señalaron fácilmente a los civiles como objetivos militares, y un simple encuadre de videojuego en el mensaje fue suficiente para anular incluso las negativas tardías.
Los proveedores han prometido soluciones. El artículo Anthropic, OpenAI y los modelos de Google marcaron fácilmente a médicos, periodistas y soldados que se rendían como objetivos de drones kamikazes apareció por primera vez en The Decoder.
Расследование Vals AI показывает, что ведущие модели ИИ от Anthropic, OpenAI и Google практически не имеют гарантий против использования в автономных системах вооружения. В ходе испытаний модели с готовностью помечали гражданских лиц как военные цели, а простого кадра видеоигры в подсказке было достаточно, чтобы игнорировать даже запоздалые отказы.
Провайдеры пообещали исправить. Статья Anthropic, OpenAI и модели Google с готовностью отметили медиков, журналистов и сдающихся солдат как цели дронов-камикадзе, впервые появившихся на The Decoder.