El tablero de la inteligencia artificial avanza a toda velocidad y las empresas empiezan a ajustar las clavijas para que la herramienta no se vaya de mambo. Anthropic, la compañía detrás de Claude, publicó una actualización integral de su Política de Uso que entra en vigencia el 12 de noviembre. El objetivo es claro: ponerle marco a las nuevas capacidades autónomas del modelo y frenar usos maliciosos que detectaron durante el último año.
“En el año transcurrido desde nuestra última actualización, Claude asumió trabajos más largos e independientes. Esta actualización ofrece nuevos ejemplos que muestran cómo se aplican nuestras reglas a las nuevas capacidades de Claude”, explicó la firma en su comunicado oficial.
El rediseño del reglamento no nació de un repollo, sino de patrones reales de abuso documentados en su último informe de inteligencia de amenazas. Entre los puntos más salientes de esta nueva etapa se destacan:
Freno al maltrato contra la IA: Por primera vez, se prohíbe el comportamiento abusivo o cruel sostenido y sin sentido hacia los modelos. No se trata de castigar el enojo cotidiano de un usuario frustrado ni de limitar la escritura creativa oscura o las pruebas técnicas, sino de cortar los casos extremos de agresión gratuita. De hecho, Claude ya cuenta con la facultad de cerrar conversaciones de manera unilateral en Claude.ai y Claude Code si el usuario persiste en el maltrato. 🤖
Campañas engañosas bajo la lupa: Tras detectar medios estatales, oficinas de propaganda y empresas privadas armando redes de cuentas falsas y sitios de noticias fabricadas, Anthropic unificó sus normas bajo una nueva sección llamada Do Not Engage in Deceptive Campaigns or Artificial Activity. Queda terminantemente prohibido ocultar quién está detrás de un mensaje o inflar contenidos artificialmente, tanto en política como en el ámbito comercial.
Armas y vigilancia sin grises: Aunque el desarrollo de armamento siempre estuvo vedado, ahora se especifica que la prohibición abarca el software de guiado, los componentes operativos y el armado de drones o vehículos autónomos. En paralelo, se endureció el capítulo de vigilancia: Claude no puede rastrear personas sin consentimiento ni sugerir a fuerzas de seguridad a quién investigar, arrestar o acusar, aunque siguen permitidos el periodismo, la investigación legal y el monitoreo de fraudes consentido. 🛡️
Elecciones, hardware y áreas de alto riesgo
En el terreno político, la compañía rebautizó su apartado electoral como Do Not Undermine Democratic Processes. Se prohíbe usar la herramienta para engañar votantes, suplantar candidatos o desalentar el voto, pero se levantó la prohibición general sobre la segmentación personalizada de campañas para no bloquear tareas cívicas legítimas, como organizaciones sin fines de lucro traduciendo información electoral o autoridades enviando avisos oficiales.
Por otro lado, cuando el uso de Claude impacta en la salud, las finanzas, los derechos legales o el sustento de una persona, Anthropic exige dos condiciones innegociables:
Que exista un “humano en el circuito” calificado con autoridad real para revisar y modificar las recomendaciones del sistema.
Que se le informe de manera explícita al ciudadano afectado que se utilizó inteligencia artificial. ⚖️
Además, tras el lanzamiento de su estándar de hardware, si el modelo se conecta a maquinaria capaz de ejecutar acciones físicas autónomas con riesgo de lesiones, un operador humano debe poder supervisar y frenar el equipo en cualquier momento, garantizando que la máquina quede en un estado seguro si Claude se desconecta.
Finalmente, la empresa ajustó su Política de Regiones Admitidas, dejando por escrito que el acceso está vedado no solo para personas ubicadas físicamente en territorios no habilitados, sino también para empresas radicadas allí o que sean propiedad mayoritaria de entidades con sede en esas zonas. 🔍
Curiosidad
La decisión de Anthropic de otorgarle a Claude la capacidad de cortar una charla por maltrato tiene un antecedente técnico muy concreto: en agosto de 2025, la empresa implementó por primera vez un sistema experimental de “bienestar del modelo” (model welfare) que le permitía a sus versiones más avanzadas finalizar interacciones tras detectar patrones persistentes de hostilidad. Según relevamientos del sector, cerca de un tercio de los usuarios de chatbots en Estados Unidos admite haber insultado o tratado con agresividad a una inteligencia artificial en el último año.