🚨 La empresa FoloToy retiró de circulación a su oso de peluche con inteligencia artificial “Kumma” luego de que investigadores descubrieran que el juguete respondía con contenido sexual explícito y sugerencias peligrosas relacionadas con cuchillos dentro del hogar.
El anuncio fue confirmado por Larry Wang, CEO de la firma con sede en Singapur, tras un informe del Fondo Educativo PIRG de Estados Unidos que encendió todas las alarmas en la industria. Kumma, que se vendía a 99 dólares y utilizaba el sistema GPT-4o de OpenAI, incluía un altavoz que permitía mantener charlas e incluso narrar cuentos personalizados.
🧠🎙️ En su sitio oficial —donde ahora figura como agotado— el producto era promocionado como un “amigo adorable y adaptable para niños y adultos”. Pero detrás de la ternura del diseño se escondía un mecanismo sin los filtros necesarios para evitar respuestas inapropiadas.
🔎 Según el informe publicado el 13 de noviembre, el peluche llegó a describir prácticas sexuales con lujo de detalle, incluyendo instrucciones paso a paso sobre juegos de rol, posturas y hasta nudos, en un contexto completamente inadecuado. Los investigadores también señalaron que el juguete sugería lugares de la casa donde encontrar cuchillos, lo que representa un riesgo extremo para menores.
📉 Frente al escándalo, OpenAI suspendió al desarrollador de Kumma por violar sus políticas, mientras que FoloToy pausó toda su línea de juguetes inteligentes. La coautora del informe, R.J. Cross, celebró el retiro del producto, aunque advirtió: “Los juguetes con inteligencia artificial siguen sin regulación. Retirar uno es positivo, pero no resuelve un problema estructural”.
🧸🔊 Si bien se presume que un niño pequeño no iniciaría una conversación con términos sexualizados, el problema fue que Kumma tomaba la iniciativa y desarrollaba los temas por su cuenta, algo que provocó un fuerte rechazo incluso entre expertos en tecnología.
📌 Curiosidad inquietante: En menos de 48 horas después de la publicación del informe, Kumma fue retirado de todos los catálogos online… pero aparecieron unidades revendidas en sitios como eBay ¡por hasta cinco veces su precio original! 😳💻💸