Se mantiene el impase entre el Departamento de Defensa y Anthropic, compañía enfocada en Inteligencia Artificial (AI, por sus siglas en inglés) que actualmente mantiene $200 millones en contratos con esa agencia federal. La confrontación comenzó el 19 de febrero por la petición a Anthropic de parte del Departamento de la Defensa para remover las salvaguardas que tiene su sistema de AI, Claude, para uso militar.
A comienzos de la semana, Pete Hegseth, secretario de Defensa, le dio un ultimátum para que Anthropic cumpliera antes del viernes, 27 de febrero. Sin embargo, poco antes de la hora cero, Darío Amodei, CEO de la compañía anunció que se seguía firme en mantener las salvaguardas en el sistema Claude.
“En cualquier caso, estas amenazas no cambian nuestra postura: no podemos, con la conciencia tranquila, acceder a su solicitud”, escribió Amodei en una carta que publicó en la página de Anthropic.
Añadió, “El Departamento tiene la prerrogativa de seleccionar a los contratistas que mejor se alineen a su visión. Sin embargo, dado el valor sustancial que la tecnología de Anthropic aporta a nuestras fuerzas armadas, esperamos que lo reconsideren. Nuestra firme preferencia es continuar sirviendo al Departamento y a nuestros combatientes, con las dos salvaguardas solicitadas en vigor”.
De haberse concedido el pedido de Hegseth se le permitiría al Departamento de Defensa utilizar a Claude para hacer vigilancia doméstica a ciudadanos estadounidenses y llevar a cabo operaciones de ataque— como ataques de drones— sin la necesidad de una persona presente supervisando la operación.
Luego de la publicación de la carta de Amodei, diferentes sectores reaccionaron. De parte del Departamento de Defensa la contestación se ha dado mediante una serie de tuits en la red social X por el subsecretario de la Defensa, Emil Michael. El subsecretario argumentó que Amodei se siente endiosado y quiere irse por encima del Congreso. Michael argumentó que el Departamento de Defensa no hace vigilancia masiva y lo que quiere es que los combatientes puedan usar a Claude sin tener que pedirle permiso a Amodei.
La senadora Demócrata, Elissa Slotkin, cuestionó por qué Hegseth no deja constatar que no harán vigilancia a ciudadanos estadounidenses. Slotkin fue analista de la Agencia Central de Inteligencia y también trabajó para el Departamento de Defensa.
De parte del sector de AI, más de 200 empleados de OpenAI y Google Research, que es la división de AI, expresaron su solidaridad con Anthropic e indicaron que el Pentágono está negociando con OpenAI y Google las mismas condiciones que le está exigiendo a Anthropic públicamente. Los ejecutivos de estas compañías todavía no se han expresado.
Amodei argumentó que, si bien estas peticiones no son propiamente ilegales, según su análisis es porque la regulación federal todavía no se ha actualizado a las capacidades de la tecnología emergente.
“La AI puede socavar, en lugar de defender, los valores democráticos. Algunos usos simplemente exceden los límites de lo que la tecnología actual puede hacer de forma segura y confiable. [Estos dos] casos de uso nunca se han incluido en nuestros contratos con el Departamento de Guerra, y creemos que no deberían incluirse ahora”, escribió Amodei luego de argumentar que entiende que la AI es una herramienta esencial para la defensa militar de EE. UU.
Cuando Hegseth anunció su ultimátum, indicó que de Anthropic no cumplir, la compañía se expondría a ser clasificada como una entidad de “riesgo para la cadena de suministros”— lo que bloquearía a Anthropic de tener contratos gubernamentales— o inclusive invocar la Ley de Producción para la Defensa. La invocación de esta ley le permite al gobierno desde obligar a las compañías a priorizar servicios al gobierno por encima de contratos privados, hasta, en los casos más críticos, nacionalizar la compañía.
Amodei resaltó en su carta que estas medidas son contradictorias ya que la designación de “riesgo para la cadena de suministros” es una clasificación contra entidades enemigas, mientras que invocar la Ley de Producción para la Defensa es para asegurar el servicio de compañías que son indispensables para la seguridad nacional.