Anthropic rechaza presión del Pentágono y se niega a usar su IA en armas autónomas

Dario Amodei, director ejecutivo de Anthropic, rechazó el jueves la última oferta del Pentágono para ampliar el uso de su sistema de inteligencia artificial Claude en operaciones militares. En un comunicado formal, la empresa declaró que no podía aceptar en conciencia los términos propuestos, argumentando que el nuevo lenguaje legal permitiría eludir las salvaguardas que Anthropic había establecido contra dos usos específicos: armas completamente autónomas y vigilancia masiva.

El conflicto escaló después de que el secretario de Defensa, Pete Hegseth, advirtiera a Amodei el martes que si Anthropic no permitía que su modelo se utilizara "para todos los fines legales", el Pentágono cancelaría el contrato de 200 millones de dólares que mantiene con la compañía. Más allá de la pérdida económica inmediata, Anthropic enfrentaría una clasificación como "riesgo para la cadena de suministro", una designación normalmente reservada para empresas vinculadas a adversarios extranjeros. El Pentágono fijó un plazo hasta el viernes para que la empresa cediera, amenazando además con invocar la Ley de Producción de Defensa para obtener acceso completo a la tecnología sin restricciones.

Amodei se adelantó al plazo y publicó una respuesta extensa en la que mantuvo firme la posición de su empresa. Escribió que creía profundamente en la importancia de usar la IA para defender a Estados Unidos y a otras democracias contra adversarios autocráticos, pero subrayó un matiz crucial: en ciertos casos limitados, la IA podría socavar en lugar de defender los valores democráticos. Señaló específicamente que algunos usos estaban simplemente fuera de lo que la tecnología actual podía hacer de forma segura y confiable. Las armas autónomas y la vigilancia masiva nunca habían sido incluidas en los contratos con el Departamento de Defensa, argumentó, y no deberían serlo ahora.

Emil Michael, subsecretario de Defensa para investigación e ingeniería, respondió con dureza en la plataforma X, acusando a Amodei de ser un mentiroso con un "complejo de Dios" que intentaba controlar personalmente a las Fuerzas Armadas estadounidenses. Michael insistió en que el Departamento de Defensa siempre cumpliría la ley pero no se doblegaría ante los caprichos de ninguna empresa tecnológica con fines de lucro. El Pentágono había argumentado que nunca consideró las armas autónomas ni la vigilancia masiva dentro del alcance de su uso, pero se negó a prohibirlas explícitamente en el contrato, aseverando que solo perseguiría aplicaciones legales. Sin embargo, Hegseth matizó que su departamento debía poder utilizar la tecnología para toda la gama de operaciones de guerra, un mandato lo suficientemente amplio como para dejar a Anthropic incómoda con la vaguedad legal.

Lo que ocurra a continuación podría marcar un momento crucial no solo para Anthropic sino para el enfoque más amplio del gobierno estadounidense respecto a la regulación de la IA. La empresa se arriesga a una censura que podría erosionar su viabilidad a largo plazo al mantener una postura basada en principios éticos frente a una administración decidida a presionar a las empresas privadas para que se sometan. Amodei expresó su esperanza de que el Pentágono recapacitara y reconsiderara su postura, pero dejó claro que las amenazas no cambiarían la posición de su compañía.

El viernes, Anthropic recibió un respaldo público significativo de uno de sus competidores más importantes. Sam Altman, director ejecutivo de OpenAI, emitió un memorando al personal de su empresa prometiendo que trazaría las mismas líneas rojas con el Pentágono: ningún uso de IA para vigilancia masiva ni armas letales autónomas. Altman enfatizó que esto ya no era solo un asunto entre Anthropic y el Pentágono, sino una cuestión para toda la industria, y que era importante aclarar la postura de su compañía. El respaldo de Altman transformó lo que había sido un enfrentamiento bilateral en una declaración de principios más amplia sobre cómo la industria de la IA debería relacionarse con las demandas militares.