Araştırmacı yapay zeka tedarik zincirine 2 milyon kanarya ekiyor. Bir gizlilik felaketi ortaya çıktı.

Özgün başlık: Researcher plants 2m canaries into the AI supply chain. A privacy disaster surfaced.
Benzersiz, izlenebilir sırlara sahip istemleri kullanarak yapılan testler, verilerin gizli kalmadığını kanıtlar.
Araştırmacılar, kendilerine emanet edilen hassas bilgilere ne olduğunu öğrenmek için genişleyen bir yapay zeka hizmetleri ağı aracılığıyla gönderilen taleplere 2 milyon dijital tetikleyici yerleştirdi. Keşfettikleri şey, elek gibi son derece hassas verileri sızdıran bir ekosistemdi.
Açığa çıkma, hassas bilgilerin yaygın olarak kullanılan geniş yapay zeka hizmetleri zincirinden sızıp sızmadığını ve bu sızıntı gerçekleştiğinde bu bilgilerin nasıl istismar edildiğini test etmek için tasarlanmış ustaca bir deney aracılığıyla bulundu. Günümüzün yapay zeka uygulamalarının çoğu, aracı görevi gören OpenRouter veya Vercel gibi hizmetleri kullanıyor.
Test using prompts with unique, trackable secrets proves that data doesn t stay private.
Researchers planted 2 million digital tripwires in requests sent through a sprawling network of AI services to find out what happened to sensitive information entrusted to them. What they discovered was an ecosystem that leaked highly sensitive data like a sieve.
The exposure was found through an ingenious experiment designed to test if sensitive information can leak through the vast chain of widely used AI services and how that information is exploited when it does. Many of today’s AI apps use services such as OpenRouter or Vercel that act as brokers.
La prueba que utiliza indicaciones con secretos únicos y rastreables demuestra que los datos no permanecen privados.
Los investigadores colocaron 2 millones de trampas digitales en solicitudes enviadas a través de una extensa red de servicios de inteligencia artificial para descubrir qué sucedió con la información confidencial que se les confió. Lo que descubrieron fue un ecosistema que filtraba datos altamente sensibles como un colador.
La exposición se descubrió mediante un ingenioso experimento diseñado para probar si la información confidencial puede filtrarse a través de la vasta cadena de servicios de inteligencia artificial ampliamente utilizados y cómo se explota esa información cuando lo hace. Muchas de las aplicaciones de IA actuales utilizan servicios como OpenRouter o Vercel que actúan como intermediarios.
Тестирование с использованием подсказок с уникальными, отслеживаемыми секретами доказывает, что данные не остаются конфиденциальными.
Исследователи внедрили 2 миллиона цифровых растяжек в запросы, отправленные через разветвленную сеть служб искусственного интеллекта, чтобы выяснить, что случилось с доверенной им конфиденциальной информацией. Они обнаружили экосистему, из которой, как через решето, просачивались очень конфиденциальные данные.
Воздействие было обнаружено в результате остроумного эксперимента, призванного проверить, может ли конфиденциальная информация просачиваться через обширную цепочку широко используемых сервисов искусственного интеллекта и как эта информация используется, когда это происходит. Многие из сегодняшних приложений искусственного интеллекта используют такие сервисы, как OpenRouter или Vercel, которые действуют как брокеры.