Anthropic declara la guerra al Pentágono: demanda histórica por el veto a su IA
Lo que empezó como un desacuerdo por parte de Anthropic sobre el uso de la IA ha terminado en los tribunales con acusaciones de censura y riesgos de seguridad nacional.
La situación con Anthropic es bastante tensa y si bien Silicon Valley nunca se ha llevado demasiado bien con la justicia americana, esto ha escalado a un nuevo nivel de choque.
La empresa creadora de la IA Claude ha presentado dos demandas federales contra el gobierno de Estados Unidos tras, hace unos días, ser considerada como "riesgo para la cadena de suministro". Esto, por parte del Departamento de Defensa, supone un bloqueo total que prohíbe a cualquier contratista o proveedor del Pentágono utilizar la tecnología de Anthropic.
El origen de todo este problema parte de una negociación que acabó de la peor forma a finales de febrero. El Pentágono quería acceso total y sin restricciones a Claude para "cualquier uso legal", pero Anthropic decidió dar un paso atrás.
La empresa se negó a eliminar dos líneas rojas de su código ético: la prohibición de usar su IA para armas totalmente autónomas y el veto a la vigilancia masiva de ciudadanos estadounidenses.
Al no haber acuerdo, el secretario de Defensa, Pete Hegseth, dictó sentencia contra la compañía a nivel comercial. Además, el mismo día que se dió a conocer el veto, el presidente Trump publicó en redes sociales una orden para que todas las agencias federales dejaran de usar la tecnología de Anthropic en un plazo de seis meses.
Para Anthropic, la situación es crítica. Calculan que esta decisión pone en peligro cientos de millones de dólares en ingresos. Por eso, han llevado el caso a los tribunales, alegando que se han violado sus derechos de libertad de expresión y de debido proceso.
Para estos, los modelos actuales de IA no son lo suficientemente fiables como para dejar en sus manos decisiones de vida o muerte de forma autónoma, y, por otro lado, la vigilancia masiva violaría derechos fundamentales. Por el momento, la batalla por ver quién de las dos partes lleva razón sigue en juego.
Trabajadores de OpenAI y Google contra el uso indebido de la IA y Dario Amodei, CEO de Anthropic, contra Sam Altman
Esto es solo una parte de toda esta guerra. Y es que, en respuesta al no rotundo de Anthropic, OpenAI parece que ha aceptado el trato.
Lo que ha provocado todo este revuelo es que Sam Altman, CEO de OpenAI y creador de ChatGPT, ha intentado vender este movimiento como un éxito diplomático, asegurando que su contrato incluye las mismas protecciones que pedía Anthropic.
Dario Amodei no ha tardado en cargar contra Altman, acusándolo de montar un auténtico "teatro de la seguridad" para ocultar acuerdos con el Pentágono.
Según Amodei, lo que está vendiendo OpenAI es, básicamente, una mentira. Mientras Altman se pasea por los medios como el gran pacificador que sabe negociar con el Gobierno sin poner en riesgo a la humanidad, desde Anthropic aseguran que la realidad es más oscura.
Sin embargo, Amodei califica las palabras de Altman como "mentiras directas" y asegura que lo único que le importa a OpenAI es tener contentos a sus inversores y empleados, pasando por alto todos los problemas que se podrían generar.
Pero esta no es la única compañía con la que el Pentágono parece que está negociando. En el otro lado tenemos a Google. Por todo esto, los trabajadores de Google y OpenAI se han unido en una causa mayor: frenar la militarización de la inteligencia artificial. Casi 1.000 empleados han firmado una carta abierta en contra de sus directivos.
"El Pentágono está negociando con Google y OpenAI para intentar que acepten lo que Anthropic ha rechazado. Intentan dividir a cada empresa por temor a que la otra ceda. Esa estrategia solo funciona si ninguno de nosotros conoce la postura del otro. Esta carta sirve para fomentar el entendimiento y la solidaridad ante la presión del Departamento de Guerra", se puede leer en la carta.
Los empleados no quieren que sus modelos de lenguaje, diseñados para ayudar a la gente, acaben analizando objetivos para drones o decidiendo quién es sospechoso en una red de vigilancia masiva.
Y, por supuesto, esto es totalmente factible teniendo en cuenta el tipo de tecnología que ambas compañías han creado. Ya hay estudios que demuestran que, en simulaciones de juegos de guerra, la IA tiende a elegir la opción nuclear o soluciones agresivas ante conflictos. Si a eso le sumas que la situación actual del mundo y unas potencias luchando para que la IA entre de lleno en el campo de batalla, la situación es un tanto peliaguda.
Carolina González
Redactora
Carolina González, redactora de actualidad, reportajes a fondo, análisis de todo tipo de productos y vídeos para el canal de Youtube.