OpenAI endurece los controles en ChatGPT y suspenderá por 24 horas a quienes busquen abuso infantil

En un movimiento clave para blindar el uso de la inteligencia artificial, OpenAI anunció una batería de medidas destinadas a frenar la búsqueda y generación de material de abuso sexual infantil dentro de ChatGPT. A partir de ahora, cualquier usuario que intente rastrear este tipo de contenido recibirá una advertencia directa en pantalla, verá eliminada su conversación y sufrirá la suspensión inmediata de su cuenta por 24 horas. 🛡️

Lejos de quedarse solo en el bloqueo, la intervención explicará que sexualizar a menores causa un daño real —incluso cuando el material solicitado es completamente artificial— y ofrecerá canales de apoyo especializado para ayudar a la persona a detener esa conducta. Si la infracción se repite, las sanciones escalan: desde suspensiones mucho más prolongadas hasta el cierre definitivo del perfil y el reporte directo a las autoridades.

“La línea de ayuda Stop It Now ya recibe con frecuencia llamadas de personas a quienes un chatbot de IA las derivó a ese servicio”, destacó Frances Frost, directora de Promoción y Comunicaciones de la Lucy Faithfull Foundation, una de las entidades que colaboró en el diseño del sistema junto a Protect Children y el académico Joel Scanlan, de la Universidad de Tasmania.

Alcance y excepciones del bloqueo

Dónde rige: En los modos de chat y de trabajo, tanto en la versión web como en dispositivos móviles, para cuentas personales y usuarios que navegan sin iniciar sesión. Al activarse el freno, el chat se detiene y desaparece del historial sin posibilidad de reabrirse.

Qué queda afuera por el momento: Los entornos de ChatGPT Business, Enterprise, Edu y Healthcare, además del modo de voz, Codex y las aplicaciones de escritorio. La empresa aclaró también que el formato del aviso puede variar según el país.

En paralelo, la compañía presentó un clasificador de imágenes de acceso gratuito a través de su API para organizaciones verificadas. Entrenado junto al Centro Nacional para Menores Desaparecidos y Explotados de Estados Unidos (NCMEC), este programa puntúa archivos según la probabilidad de que contengan abuso, destacando por ser el primero de amplia disponibilidad capaz de identificar material inédito creado con inteligencia artificial. 💻

Según las pruebas internas y de socios iniciales, el nuevo detector señala un 48% menos de imágenes que el sistema anterior manteniendo la misma tasa de hallazgos, lo que duplica la precisión. En la práctica, la firma fal confirmó que el 72% de las alertas de alta confianza correspondían a material nuevo, mientras que SafetyKit logró detectar el 90% de los dibujos o animaciones que sexualizan a menores.

El paquete de seguridad se completa con una guía para desarrolladores —armada junto a la Tech Coalition, Thorn, el NCMEC y la Internet Watch Foundation— y futuras capacitaciones y herramientas de análisis de chats extensos destinadas a unidades policiales especializadas. 🔍

Curiosidad

La línea de denuncias CyberTipline, operada por el NCMEC en Estados Unidos y mencionada en el desarrollo de esta herramienta, fue creada en 1998 y se ha convertido en el mayor centro de recepción de reportes de explotación infantil del mundo: en los últimos años llegó a procesar más de 36 millones de reportes anuales, gran parte de ellos enviados de manera obligatoria por empresas tecnológicas cuando detectan archivos sospechosos en sus servidores.