Los drones son algo común en los campos de batalla de Ucrania, pero normalmente están controlados por pilotos humanos.
Frank Herrmann/Getty Images
Drones totalmente autónomos sin supervisión humana han matado a soldados en el campo de batalla por primera vez. Esto, según una figura importante de la industria de defensa ucraniana, marca un momento decisivo en la guerra.
En la prueba única participaron 10 drones “Terminator” controlados por IA en la primera línea de la guerra de Ucrania. Murieron soldados rusos.
“Lo intentamos”, dice el fabricante de drones Alexander Kokhanovskyy, quien suministró la tecnología y habló con New Scientist en un evento de prensa organizado por la embajada de Ucrania. “Es una prueba, nunca la implementamos [more widely].”
La prueba tuvo lugar hace dos años y en ella participaron drones cuadricópteros que estaban programados para volar hacia la línea del frente, cubrir entre 3 y 5 kilómetros en unos 10 minutos y luego activar el “modo Terminator”, en el que un modelo de IA busca e intercepta objetivos.
“Simplemente lo lanzamos y sabemos que todo estará muerto; todo lo que se encuentre allí en esta área en particular estará muerto”, dice Kokhanovskyy. “No hay ninguna conexión con el dron, no se puede ver el vídeo, nada… Todo lo que vea será eliminado”.
Sin forma de saber qué habían visto o apuntado los drones automatizados, se enviaron drones pilotados por humanos al área después de la prueba para verificar manualmente los resultados. Entre las víctimas había “un par de soldados y un camión”, dice Kokhanovskyy. Si bien no hay registros de los drones automatizados atacando estos objetivos, se concluyó que los drones los habían matado.
Kokhanovskyy dice que no estuvo personalmente en la prueba, sino que fue llevada a cabo por una unidad militar anónima cerca de las ciudades de Bakhmut y Chasiv Yar como parte de una contraofensiva ucraniana. El Ministerio de Defensa de Ucrania no respondió a las preguntas sobre la prueba ni sobre la situación jurídica actual sobre el uso de armas totalmente autónomas.
El uso de la IA es común en los ejércitos de todo el mundo, ya que ayuda a elegir objetivos entre montones abrumadores de datos de inteligencia y automatiza ciertas funciones de las armas, pero los humanos siempre están al tanto en algún momento. La admisión de Kokhanovskyy es la prueba más categórica hasta el momento de que se ha producido una muerte en batalla únicamente a manos de AI.
El gobierno ucraniano actualmente prohíbe el uso de IA en la etapa final de interceptación de objetivos, según fuentes de la compañía de defensa que hablaron en la conferencia de prensa de la embajada, aunque muchos dispositivos utilizan IA para muchas partes del proceso hasta ese punto. Kokhanovskyy dice que el gobierno es consciente de las crecientes capacidades de la IA y que está en conversaciones con empresas de defensa sobre si las reglas deberían ser más indulgentes o no.
Los informes de 2023 sugerían que drones de ataque ucranianos equipados con inteligencia artificial buscaban y atacaban objetivos sin asistencia humana, pero se desplegaban contra vehículos como tanques, en lugar de infantería. En ese momento no se confirmaron víctimas humanas.
Si bien no existe una prohibición internacional oficial de las armas autónomas que pueden matar sin intervención humana, el Secretario General de las Naciones Unidas, António Guterres, pidió una prohibición, diciendo el año pasado que “no hay lugar para sistemas de armas autónomas letales en nuestro mundo”.
La ONU ha dicho que existe preocupación de que tales armas puedan violar las leyes internacionales humanitarias y de derechos humanos al eliminar el juicio humano de la guerra. También existe el riesgo de que los sistemas autónomos cometan errores, ya sea atacando a soldados o equipos del mismo lado o atacando a civiles.
La mayoría de los ejércitos están desarrollando dispositivos que automatizan al menos una parte del proceso de ataque a objetivos. Estados Unidos tiene un software que acumula y analiza grandes cantidades de datos dispares y selecciona objetivos en el campo de batalla que luego pueden ser atacados por drones, pero, en teoría, esto requiere confirmación humana. Se ha afirmado que Estados Unidos también está desarrollando los llamados drones voladores Goalkeeper y drones navales Whiplash, que son capaces de encontrar sus propios objetivos y eliminarlos.
Un informe de la ONU de 2021 incluso sugirió que un cuadricóptero Kargu-2 producido por una empresa turca podría haber sido utilizado para atacar de forma autónoma a humanos el año anterior. El informe no dio detalles específicos sobre la fuente de las afirmaciones o si algún ser humano había resultado herido o muerto, pero sugirió que el Gobierno de Acuerdo Nacional (GNA) de Libia había utilizado los drones contra las fuerzas de Haftar en retirada.
El mayor Danylo Polozhukhno, una figura importante del 21.º Regimiento Separado de Sistemas No Tripulados del 3.er Cuerpo de Ejército de Ucrania que no estaba al tanto de la prueba ni estaba involucrado en ella, dijo a New Scientist que sus soldados utilizan sistemas de control semiautónomos pero que siempre hay un ser humano en el circuito.
“Estos sistemas y plataformas de drones son capaces de detectar y rastrear objetivos automáticamente, así como de guiarse de forma autónoma durante los últimos metros de la aproximación, lo que ayuda a simplificar el trabajo de los operadores. Sin embargo, no utilizamos sistemas de drones totalmente autónomos que seleccionan y atacan objetivos de forma independiente sin la participación de ningún operador”, dice Polozhukhno. “Ucrania respeta el derecho internacional humanitario y se toma en serio su responsabilidad de defender los derechos de todos los combatientes. También ejerce gran cuidado en la toma de decisiones para evitar víctimas civiles”.
Mariarosaria Taddeo, de la Universidad de Oxford, dice que matar con IA roba la dignidad del soldado, exime de responsabilidad al atacante y debe prohibirse. “No es sólo problemático, es horrendo”, afirma. “¿Queremos ser la sociedad que mata a otras personas, que permite que su gobierno mate a otras personas, sin que haya seres humanos involucrados?”
Anthony King, de la Universidad de Exeter, Reino Unido, dice que aunque los ataques totalmente autónomos sin humanos en el circuito son tecnológicamente posibles, pueden ser una herramienta menos decisiva de lo que muchos piensan.
“Es ciertamente posible que los gobiernos lo permitan si les diera alguna ventaja militar”, afirma. “Sin embargo, el hecho es que muy pocos, si es que alguno, de los millones de drones que han sido utilizados en la guerra de Ucrania por las fuerzas rusas y ucranianas han sido [fully] autónomo.”
“Así que no es sólo que sea éticamente correcto mantener a los humanos informados, sino que, en este punto, es más efectivo desde el punto de vista militar”, dice King.
Kokhanovskyy dice que el proyecto Terminator no ha progresado desde la prueba debido a las reglas de Ucrania. Ahora es director ejecutivo del fabricante de drones Aero Center, que según él no participó en la prueba porque no se había creado en ese momento, una empresa ucraniana que trabaja en drones interceptores autónomos. Estos están diseñados para apuntar a los drones kamikazes rusos Shahed y eliminarlos antes de que puedan llegar a pueblos y ciudades llenos de civiles o infraestructura importante.
El sistema ALITA de la empresa constará de 16 plataformas de lanzamiento, equipadas con 64 drones. Estará listo en octubre y será capaz de detectar drones entrantes, lanzándose automáticamente y viajando hacia el objetivo a 450 kilómetros por hora antes de destruir todo, desde pequeños drones hasta helicópteros.
Pero las reglas actuales de Ucrania prohibirán la operación totalmente autónoma y exigirán que los humanos verifiquen los objetivos en las etapas finales de la interceptación. Incluso en ese modo, toda la batería de 64 drones requerirá sólo dos operadores humanos, lo que significa que se reducirá drásticamente el personal.
“Cada paso de este puede ser manual o automático. No podemos hacer la etapa final automáticamente”, dice Kokhanovskyy, quien cree que las reglas deberían cambiar. “Me encantaría”, dice.
Temas: