El Pentágono afirma que la inteligencia artificial está acelerando su "cadena de eliminación".

Desarrolladores destacados de inteligencia artificial, como OpenAI y Anthropic, están buscando un equilibrio delicado al vender software al ejército de Estados Unidos. Su objetivo es ayudar al Pentágono a ser más eficiente, sin que su tecnología sea utilizada para causar daño. Actualmente, sus herramientas no se emplean como armas, pero están proporcionando al Departamento de Defensa una "ventaja significativa" en la identificación, seguimiento y evaluación de amenazas, según Dr. Radha Plumb, Directora de Digital y AI del Pentágono.

Plumb declaró que están mejorando la rapidez con la que pueden ejecutar el "kill chain", un proceso militar que implica identificar, rastrear y eliminar amenazas mediante un sistema complejo de sensores y plataformas. La inteligencia artificial generativa está demostrando ser útil en las fases de planificación y estrategia de dicho proceso. La relación entre el Pentágono y los desarrolladores de IA es aún reciente. En 2024, OpenAI, Anthropic y Meta revisaron sus políticas de uso para permitir que las agencias de inteligencia y defensa de EE. UU. emplearan sus sistemas de IA, aunque sin permitir que estos causen daño a humanos.

Esta nueva apertura ha llevado a un "speed dating" entre empresas de IA y contratistas de defensa. Por ejemplo, Meta se asoció con Lockheed Martin y Booz Allen para introducir sus modelos Llama en agencias de defensa, mientras que Anthropic se unió a Palantir en noviembre. Posteriormente, OpenAI firmó un acuerdo con Anduril en diciembre. A medida que la IA generativa demuestra su eficacia en el ámbito militar, podría incitar a Silicon Valley a flexibilizar sus políticas de uso de IA y permitir más aplicaciones militares.

Plumb también comentó que la IA generativa puede ser beneficiosa al simular diferentes escenarios, lo que permite aprovechar una gama completa de herramientas para que los comandantes piensen de manera creativa sobre opciones de respuesta y posibles compromisos en situaciones de amenaza. Sin embargo, no está claro qué tecnología específica está utilizando el Pentágono, ya que el uso de IA generativa en el "kill chain" podría contradecir las políticas de varias empresas líderes en modelos de IA.

Anthropic, por su parte, prohíbe la utilización de sus modelos para desarrollar sistemas que causen daño a la vida humana. Su CEO, Dario Amodei, defendió la necesidad de un enfoque equilibrado respecto al uso de la IA en contextos de defensa, aludiendo a que ni la prohibición total ni el uso indefinido son opciones sensatas.

En los últimos meses, un debate ha surgido sobre si se deberían permitir armas de IA para tomar decisiones vitales. Aunque algunos argumentan que ya existen tipos similares de armas en uso, Plumb rechazó la idea de que el Pentágono opte por armas totalmente autónomas, reafirmando que siempre habrá humanos involucrados en decisiones de empleo de fuerza.

La noción de "autonomía" en este contexto es objeto de debate, ya que implica cuestionar en qué punto los sistemas automatizados, ya sean agentes de codificación de IA o vehículos autónomos, operan de forma independiente. Plumb indicó que pensar en estos sistemas como capaces de tomar decisiones de vida o muerte de forma autónoma es una visión demasiado simplista. En realidad, la utilización de estos sistemas por parte del Pentágono se percibe como una colaboración activa entre humanos y máquinas.

Las asociaciones militares no siempre han sido bien recibidas en Silicon Valley. En el pasado, empleados de Amazon y Google fueron despedidos tras protestar contra contratos militares. Sin embargo, la respuesta de la comunidad de IA ha sido relativamente suave. Algunos investigadores, como Evan Hubinger de Anthropic, afirman que es inevitable el uso de IA en contextos militares, subrayando la importancia de colaborar directamente con el ejército para garantizar que se utilice de manera adecuada.

La interacción y la regulación en este ámbito seguirán siendo temas cruciales a medida que avanza la tecnología y su aplicación en la defensa.