OpenAI yeni bir görüntü sınıflandırıcı ve CSAM ile mücadele için ChatGPT uyarılar yayınladı

Özgün başlık: OpenAI releases a new image classifier and ChatGPT warnings to combat CSAM
ChatGPT uyarı olarak CSAM içeriğine erişmeye çalışan bir hesabı 24 saat süreyle yasaklayacaktır
OpenAI bugün, AI araçlarının kullanımıyla ilgili artan güvenlik endişeleri nedeniyle çocukların cinsel istismarı materyalleriyle (CSAM) mücadele etmek için yeni araçlar duyurdu. Bu özellikler arasında CSAM'yi tespit etmek için yeni bir görüntü sınıflandırıcı, kullanıcıların çocukları cinselleştiren içerik oluşturmasını veya bu içeriğe erişmesini engelleyen uyarılar ve geçici engellemeler, geliştiriciler için yeni bir kılavuz ve kolluk kuvvetleri için bir dizi araç yer alıyor.
Şirket, yapay zeka tarafından oluşturulanlar da dahil olmak üzere CSAM görüntülerini tespit edebilen yeni bir görüntü sınıflandırıcıyı tanıttı. OpenAI seçili şirketlerin kendi sınıflandırıcısına API'si aracılığıyla ücretsiz olarak erişmesini sağlıyor. Araç, resimlerde daha önce görülmemiş görsel kötüye kullanım belirtileri arar ve inceleme yapanlara CSAM ile nasıl başa çıkılacağı konusunda yol gösterici bir yön verebilecek bir puan atar.
ChatGPT will ban an account trying to access CSAM content for 24 hours as a warning
OpenAI today announced new tools to combat child sexual abuse material (CSAM) amid growing safety concerns around the use of AI tools. These features include a new image classifier to detect CSAM, warnings and temporary blocks to prevent users from creating or accessing content that sexualizes children, a new guideline for developers, and a set of tools for law enforcement.
The company unveiled a new image classifier that can detect CSAM images, including the ones generated by AI. OpenAI is giving select companies access to its classifier through its API at no cost. The tool looks for visual signs of abuse in images not seen before and assigns a score that can give an indicative direction to reviewers about dealing with CSAM.
ChatGPT prohibirá una cuenta que intente acceder a contenido CSAM durante 24 horas como advertencia
OpenAI anunció hoy nuevas herramientas para combatir el material de abuso sexual infantil (CSAM) en medio de crecientes preocupaciones de seguridad en torno al uso de herramientas de inteligencia artificial. Estas características incluyen un nuevo clasificador de imágenes para detectar CSAM, advertencias y bloqueos temporales para evitar que los usuarios creen o accedan a contenido que sexualice a los niños, una nueva guía para desarrolladores y un conjunto de herramientas para las fuerzas del orden.
La compañía presentó un nuevo clasificador de imágenes que puede detectar imágenes CSAM, incluidas las generadas por IA. OpenAI ofrece a empresas selectas acceso a su clasificador a través de su API sin costo alguno. La herramienta busca signos visuales de abuso en imágenes no vistas antes y asigna una puntuación que puede dar una dirección indicativa a los revisores sobre cómo lidiar con CSAM.
ChatGPT заблокирует учетную запись, пытающуюся получить доступ к контенту CSAM, на 24 часа в качестве предупреждения.
OpenAI сегодня анонсировала новые инструменты для борьбы с материалами о сексуальном насилии над детьми (CSAM) на фоне растущих опасений по поводу безопасности использования инструментов искусственного интеллекта. Эти функции включают в себя новый классификатор изображений для обнаружения CSAM, предупреждения и временные блокировки для предотвращения создания или доступа пользователей к контенту, сексуализирующему детей, новое руководство для разработчиков и набор инструментов для правоохранительных органов.
Компания представила новый классификатор изображений, который может обнаруживать изображения CSAM, в том числе созданные искусственным интеллектом. OpenAI бесплатно предоставляет избранным компаниям доступ к своему классификатору через API. Инструмент ищет визуальные признаки злоупотреблений на изображениях, которые раньше не встречались, и присваивает оценку, которая может дать рецензентам ориентировочные указания по поводу действий с CSAM.