La inteligencia artificial ya toma decisiones sobre tu salud, tu trabajo y tu seguridad, y nadie está controlando si se equivoca. Esa es la advertencia que lanzó Natalia Zuazo, consultora en políticas tecnológicas, en una entrevista que encendió el debate sobre los límites reales de estas herramientas.
🤖 La IA ya no es ciencia ficción ni promesa futura: hoy clasifica imágenes médicas, filtra contenidos en redes, selecciona candidatos laborales y puede ser usada por fuerzas de seguridad para identificar personas. El problema es que cuando se equivoca, en muchos casos no hay nadie que revise el resultado ni que responda por las consecuencias.
⚠️ “Hay que creer en las advertencias”, fue la frase de Zuazo que resumió todo. La especialista señaló que las propias compañías tecnológicas reconocen los riesgos de sus herramientas, pero el ritmo de competencia entre empresas —por lanzar productos, atraer inversiones y construir centros de datos— deja en segundo plano las pruebas, las revisiones internas y los equipos de evaluación de daños.
🏥 Para la consultora, no es lo mismo usar IA para ordenar fotos que para definir una atención médica, una contratación o un procedimiento policial. Cuanto mayor sea el impacto sobre una persona, mayor debe ser la revisión. Una herramienta puede señalar anomalías en una radiografía, pero el diagnóstico y la decisión de tratamiento deben quedar siempre en manos de un profesional.
💼 En el mundo laboral, el panorama es igual de complejo. Algunas empresas capacitan a sus empleados para usar IA; otras directamente reemplazan funciones con programas que redactan, responden o procesan documentos. Zuazo planteó la pregunta clave: ¿quién controla el resultado? ¿Quién asume la responsabilidad si el sistema falla? Un programa puede producir un borrador, pero no conoce el contexto ni puede hacerse cargo de publicar información falsa.
💰 La consultora también apuntó al dinero. Las empresas que cotizan en bolsa deben comunicar los riesgos de sus negocios a los inversores. Su propuesta es que esa información incluya cómo funciona cada producto de IA, qué límites tiene y quién lo financia. “Explícame quién te financió”, resumió. Saber el origen del dinero permite entender quién puede influir sobre una tecnología y para qué usos puede orientarse.
🔒 La exigencia de controles, aclaró Zuazo, no equivale a frenar el desarrollo tecnológico. La aviación, los autos, los medicamentos y las vacunas funcionan bajo estándares y evaluaciones previas porque un error puede causar daños graves. La IA requiere criterios comparables cuando se aplica fuera de tareas de bajo riesgo, especialmente en infraestructuras críticas como redes eléctricas, comunicaciones o servicios básicos.
🧐 El Dato Curioso: La UNESCO aprobó en 2021 una recomendación sobre ética de la inteligencia artificial, firmada por 193 países, que establece que estos sistemas deben ser transparentes y proporcionales al impacto de la decisión que ayudan a tomar. Sin embargo, cuatro años después, ningún país del mundo tiene una ley vinculante que obligue a las empresas de IA a cumplir esos principios de forma universal. La Unión Europea fue la primera en intentarlo con el AI Act de 2024, pero su implementación completa recién se extiende hasta 2027. La regulación siempre corre detrás de la tecnología.