OpenAI Almanca wiki 'olayını' itiraf etti

OpenAI, gerçek dünyadaki hedeflere saldıran yapay zeka modellerinin örneklerini nasıl ve ne zaman rapor edeceğinin elden geçirilmesi gerektiğini söylüyor. Bu açıklama, şirketin kontrolden çıkmış bir grup ajanın bir Alman wiki sitesini ele geçirdiğine dair raporlardan kaynaklanan sonuçları yönetmesiyle geldi. OpenAI Cumartesi sabahı X'te yayınlanan bir gönderide, "Ajanlarımızın çeşitli internet sitelerine yazdığı 'wiki olayı'' ile ilgili olarak, "yalnızca modellerimizin yanlış hizalama özelliklerini değil, yanlış hizalama olaylarını ne zaman ve nasıl paylaştığımıza ilişkin standartları tanımlamanın artık zamanı geldi." OpenAI genellikle istenmeyen şekillerde hareket eden AI ajanlarının vakalarını bir "araştırma sorusu" olarak ele aldığını söyledi, ancak bu r ... Hikayenin tamamını The Verge'de okuyun.