Hay algo que suelo repetir a menudo tanto en esta newsletter como en muchas de las charlas que doy sobre inteligencia artificial. Cuando hablamos de IA, la conversación suele centrarse casi exclusivamente en la parte técnica: en lo que estas herramientas son capaces de hacer, en cómo pueden ayudarnos a trabajar mejor o en cuánto pueden aumentar nuestra productividad. Esa dimensión es importante, por supuesto, y en gran medida explica la velocidad a la que esta tecnología se está incorporando a empresas, universidades y organizaciones de todo tipo.
Sin embargo, cada vez tengo más claro que centrarnos únicamente en esa dimensión es quedarse con una parte muy pequeña de la historia.
La inteligencia artificial no es simplemente un software más potente ni un nuevo tipo de buscador. Es una tecnología que empieza a influir en cómo producimos conocimiento, cómo tomamos decisiones, cómo organizamos el trabajo e incluso en cómo se desarrollan conflictos militares. Por eso, cuando enseño a utilizar IA o cuando hablo de ella en conferencias, siempre intento introducir una pregunta que muchas veces queda fuera del debate técnico: no basta con preguntarnos qué puede hacer la inteligencia artificial; también tenemos que preguntarnos qué debería hacer.
Precisamente esa pregunta, qué debería hacer la IA, acaba de aparecer en uno de los conflictos más interesantes y también más inquietantes que hemos visto hasta ahora en el sector. Un conflicto que enfrenta a un gobierno, a una empresa que decidió poner límites a su tecnología y a otra que decidió ocupar el espacio que esa negativa dejó libre.
El origen del conflicto
A finales de febrero de 2026 el Departamento de Guerra de Estados Unidos convocó a Anthropic, una de las empresas más importantes del mundo en inteligencia artificial, para renegociar las condiciones de un contrato relacionado con el uso de su modelo Claude. Anthropic no es una compañía menor dentro del ecosistema de la IA. Su tecnología compite directamente con la de OpenAI, Google o Meta, y su modelo se ha consolidado como uno de los sistemas más avanzados disponibles en la actualidad.
Parte de su tecnología ya estaba siendo utilizada en distintos sistemas vinculados al aparato militar estadounidense, especialmente en tareas relacionadas con análisis de información, ciberdefensa y apoyo a operaciones estratégicas. En ese sentido, la relación entre empresas tecnológicas y gobiernos no tiene nada de extraordinario. De hecho, la historia de la innovación tecnológica está llena de colaboraciones de este tipo.
El problema surgió cuando el Gobierno quiso ampliar las condiciones de ese acuerdo. Según explicó posteriormente la propia compañía, durante la reunión se planteó modificar el marco de uso del modelo para permitir que pudiera emplearse en cualquier contexto que fuese legal ahora o en el futuro. Dicho de otra manera, se pretendía abrir la puerta a usos que hasta ese momento no estaban contemplados dentro del contrato.
Fue entonces cuando Anthropic decidió plantarse.
Dos líneas rojas
La empresa dejó claro que estaba dispuesta a negociar muchos aspectos del acuerdo, pero también señaló que había dos límites que no estaba dispuesta a cruzar. El primero tenía que ver con el uso de su inteligencia artificial para vigilancia doméstica masiva sobre ciudadanos estadounidenses. El segundo estaba relacionado con el desarrollo o despliegue de sistemas de armas completamente autónomas, es decir, sistemas capaces de tomar decisiones letales sin intervención humana.
Estas líneas rojas no eran simplemente una declaración de principios. Tenían también una base técnica bastante clara. Los modelos de inteligencia artificial actuales, incluso los más avanzados, siguen siendo sistemas imperfectos. Pueden cometer errores, interpretar mal una situación o generar respuestas plausibles que en realidad no son correctas.
En muchos contextos eso no supone un problema especialmente grave. Si una IA comete un error mientras redacta un texto o analiza datos, lo normal es que ese error pueda detectarse y corregirse. Pero cuando hablamos de vigilancia estatal o de sistemas de armas, el margen de error deja de ser una cuestión técnica y se convierte en una cuestión moral y política de primer orden.
Por ese motivo, Anthropic decidió mantener esas restricciones.
Y fue precisamente esa negativa la que desencadenó el conflicto.
Cuando el desacuerdo se convierte en presión
En un escenario habitual, una situación como esta se resolvería de manera relativamente sencilla. Si un proveedor no está dispuesto a ofrecer determinadas capacidades, el cliente puede buscar otro proveedor que sí lo esté. Ese tipo de decisiones forman parte del funcionamiento normal del mercado.
Sin embargo, en este caso la reacción del Gobierno estadounidense fue mucho más dura. Según explicó posteriormente la empresa, desde la administración se amenazó con designar a Anthropic como “supply chain risk”, una etiqueta utilizada dentro del sistema de seguridad nacional para señalar empresas consideradas un riesgo dentro de la cadena tecnológica del país.
No se trata de una clasificación menor. En el pasado se ha aplicado a empresas extranjeras como Huawei o Kaspersky, a las que se acusaba de representar una amenaza potencial para la seguridad nacional. Pero aplicarla a una empresa tecnológica estadounidense es algo extremadamente inusual.
Además, las consecuencias de esa designación pueden ser devastadoras. Muchas empresas que trabajan con el Gobierno evitan colaborar con compañías que llevan esa etiqueta, numerosos contratos pueden cancelarse y las relaciones con universidades o centros de investigación pueden verse afectadas. En la práctica, se convierte en una forma muy potente de presión económica y política.
A pesar de ello, Anthropic decidió mantener su postura.
Quién es [[PER_Dario_Amodei|Dario Amodei]]
Para entender por qué la empresa decidió resistir esa presión conviene conocer un poco mejor a la persona que está detrás del proyecto. [[PER_Dario_Amodei|Dario Amodei]] no es un outsider dentro del mundo de la inteligencia artificial. Antes de fundar Anthropic fue uno de los investigadores más influyentes de OpenAI, donde llegó a ocupar el cargo de director de investigación.
La idea de una “constitución” para la inteligencia artificial
Desde sus inicios, Anthropic ha desarrollado uno de los enfoques más singulares dentro del sector de la IA: el concepto de Constitutional AI. La idea consiste en entrenar los modelos utilizando un conjunto de principios que actúan como una especie de marco normativo para su comportamiento.
En lugar de depender exclusivamente de correcciones humanas posteriores, el sistema aprende a evaluar sus propias respuestas a partir de esos principios. Dicho de otra manera, se intenta que ciertos criterios éticos formen parte del propio razonamiento del modelo.
Por eso, cuando el Gobierno solicitó eliminar determinadas restricciones, el problema para Anthropic no era únicamente contractual. También afectaba a uno de los pilares conceptuales sobre los que se había construido la empresa.
Aceptar esa petición significaba, en cierto modo, renunciar a la filosofía que había guiado el desarrollo de su tecnología desde el principio.
La entrada de OpenAI en escena
El conflicto adquirió todavía más relevancia cuando apareció un nuevo actor en la historia. Poco después de que Anthropic rechazara las condiciones planteadas por el Gobierno, OpenAI anunció que había alcanzado un acuerdo con el Departamento de Guerra para asumir ese mismo contrato.
La empresa explicó que el acuerdo incluía sus propias líneas rojas, entre ellas la prohibición de vigilancia doméstica masiva y el rechazo al uso de armas completamente autónomas. Sobre el papel, la postura parecía muy similar a la que había defendido Anthropic.
Sin embargo, existía una diferencia importante. Las restricciones planteadas por OpenAI estaban vinculadas al marco legal vigente, lo que significa que dependen de lo que las leyes permitan o prohíban en cada momento. Anthropic, en cambio, pretendía que esas limitaciones fueran independientes de posibles cambios legislativos y que el propio diseño del modelo impidiera ciertos usos.
Son dos maneras diferentes de entender la responsabilidad tecnológica.
La pregunta que queda abierta
Todo este episodio plantea una cuestión que probablemente veremos repetirse muchas veces en los próximos años. ¿Quién debería decidir los límites de la inteligencia artificial?
Por un lado, resulta inquietante que un número reducido de empresas privadas tenga un poder enorme para determinar qué puede o no puede hacer una tecnología tan influyente. Pero, al mismo tiempo, también debería preocuparnos profundamente que un gobierno utilice su poder institucional para castigar a una empresa que decide mantener ciertos límites éticos.
Ese precedente es peligroso porque envía un mensaje muy claro al resto del sector: si tus principios dificultan determinados objetivos políticos o estratégicos, es posible que acabes enfrentándote a consecuencias mucho más serias que una simple pérdida de contrato.
Una tecnología demasiado importante para ignorar estas preguntas
La inteligencia artificial avanza a una velocidad extraordinaria. Cada año es más potente, más autónoma y más influyente en ámbitos que hasta hace poco parecían muy alejados del mundo del software.
Si ese proceso continúa, y todo indica que así será, las decisiones que tomemos ahora sobre sus límites y su gobernanza tendrán consecuencias durante décadas. Por eso conflictos como el que hemos visto entre el Gobierno estadounidense, Anthropic y OpenAI son tan relevantes.
No porque una de las partes tenga necesariamente toda la razón ni porque alguna de las empresas implicadas sea perfecta. Lo verdaderamente importante es que estamos presenciando, en tiempo real, cómo se negocian los límites morales de una tecnología que probablemente definirá buena parte del siglo XXI.
Y esa conversación apenas acaba de empezar.
#InteligenciaArtificial #ÉticaTecnológica #IAySociedad #DeCeroaIA #TecnologíaResponsable
#InteligenciaArtificial #ÉticaTecnológica #IAySociedad #DeCeroaIA #TecnologíaResponsable
