Qué leer esta semana: el aterrador Proyecto Maven de Katrina Manson

Proyecto Maven
Katrina Manson, WW Norton

El ejército de Israel está utilizando inteligencia artificial para identificar objetivos en Gaza, Estados Unidos está haciendo lo mismo en Irán y Ucrania sigue adelante con drones inteligentes. La guerra de IA no es el futuro del conflicto, es el presente.

Analizar las políticas globales sobre el uso de la IA por parte de los militares (los beneficios potenciales, los peligros y la ética turbia) llenará libros en las próximas décadas. Pero eso no es lo que Katrina Manson se propone hacer en Project Maven. En lugar de ello, utiliza entrevistas con más de 200 personas para contar la historia del viaje del ejército estadounidense hacia la guerra con IA (o uno de ellos, ya que hay 800 proyectos de IA ocultos en el Pentágono).

En 2017, se lanzó el Proyecto Maven para construir una herramienta para rastrear imágenes de drones y extraer inteligencia útil: los drones habían recopilado más datos de los que cualquier humano podía interpretar. Maven tuvo un comienzo difícil, dice Manson. El ejército lo desplegó con soldados en Somalia ocho meses después del lanzamiento del proyecto, y los algoritmos dijeron a los analistas que había autobuses escolares en las nubes y que los árboles eran personas.

Seguimos a un líder de proyecto hasta sus días como oficial de inteligencia en Afganistán tratando de planificar misiones y dirigir tropas con nada más que una computadora portátil polvorienta cargada con Microsoft Office: ¿dónde está el enemigo, dónde está seguro, cómo se ve el éxito?

Los humanos en la guerra son ineficientes, se cansan, cometen errores. La niebla de la guerra podría ser despejada por la IA, creían los normalmente reservados constructores del Proyecto Maven que hablaron con Manson. Pero su intención era ir mucho más allá: elegir objetivos, cazarlos y luego matarlos. Sin una toma de decisiones humana lenta y deliberada, los robots asesinos podrían abrumar a los enemigos rápidamente.

“Matamos a las personas equivocadas todo el tiempo. Una máquina no puede ser peor que un ser humano”, dice una fuente. El equipo desarrolló Maven en una serie de herramientas y trató de convencer a las personas en primera línea para que las adoptaran. Los resultados mejoraron, pero aún se produjeron errores.

Desde entonces, Estados Unidos y otros miembros de la OTAN han implementado Maven en conflictos. Unas 32 empresas están trabajando en ello, escribe Manson, y 25.000 usuarios militares estadounidenses se conectan regularmente. Pero también cuenta que se utiliza en los cruces fronterizos y en la caza de traficantes de drogas en el Caribe. ¿Puede un Estado con tales herramientas resistirse a utilizarlas con sus ciudadanos?

Lo más preocupante es que se está trabajando para eliminar por completo a los humanos, dice Manson. Los llamados drones voladores Goalkeeper y drones navales Whiplash pueden encontrar sus propios objetivos y eliminarlos. Y los humanos nunca inventaron un arma y no la usaron.

Es difícil no pensar en Stanislav Petrov, el teniente coronel soviético que, en 1983, utilizó su propio criterio y decidió que los informes sobre el lanzamiento de un misil estadounidense eran una falsa alarma y evitaron una guerra nuclear total. ¿La IA tomaría esa decisión?

A pesar de toda la fascinante visión de Maven, el libro nos dice más sobre la burocracia del Pentágono y la voluntad de Silicon Valley de asumir cualquier proyecto (por desagradable que sea) si el dinero es adecuado, que sobre la IA. El acceso de Manson es fenomenal, pero la naturaleza del secreto militar significa que probablemente no sabremos exactamente qué tecnología ha producido el gobierno de Estados Unidos, y cómo y cuándo se utilizará, en los años venideros.

La guerra siempre ha sido profundamente desagradable, pero los conflictos modernos en los que los humanos observan a alguien a miles de kilómetros de distancia mediante un dron y deciden si justifica un ataque fatal la han vuelto impersonal. Entregar esto a AI corre el riesgo de hacer que la guerra sea demasiado fácil de librar y que las repercusiones sean demasiado fáciles de ignorar.

Necesitamos asegurarnos de que el poder otorgado por las armas de IA sea tratado con la gravedad que merece, pero Manson nos cuenta una historia escalofriante que sugiere que la realidad es otra. Según se informa, un entrevistado que esperaba unirse al Proyecto Maven le dijo al panel que su motivación era “reducir la población no estadounidense” y luego consiguió el trabajo.

Dos lecturas geniales más sobre IA y guerra

La fabricación de la bomba atómica por Richard Rhodes

Hay muchas lecciones aquí sobre hacia dónde podría llegar la IA militar. Al igual que el Proyecto Manhattan, amenaza con aumentar permanentemente las tensiones globales y aumentar los riesgos de la guerra, sólo para empezar.

¿Deberíamos prohibir los robots asesinos? por Dean Baker

Esta es una inmersión en el debate de un profesor de ética, que analiza los espinosos problemas de confiabilidad, control y rendición de cuentas cuando los gobiernos entregan el trabajo de los soldados a las computadoras.

Temas: