Esta semana hubo un cambio palpable en Silicon Valley.
Más de 200 empleados de Google y OpenAI pidieron a sus empleadores que definan mejor los límites de cómo se puede utilizar la IA con fines militares. Explícitamente. Fuerte. En una iniciativa privada que detalla Axios, los trabajadores dejaron en claro que están cada vez más incómodos acerca de cómo se están implementando las herramientas de inteligencia artificial que están desarrollando.
¿Y honestamente? Puedes ver por qué.
La IA ya no solo ayuda a redactar correos electrónicos y producir gráficos. Se habla de ello en relación con la logística de guerra, la vigilancia y el armamento autónomo en el campo de batalla. Eso es serio. Al menos una persona que participó en el esfuerzo se preguntó en voz alta si estos controles corporativos son suficientes o si simplemente representan una prosa aspiracional que puede modificarse cuando sea necesario frente a las exigencias políticas.
La razón por la que esto parece un déjà vu es porque ya hemos estado aquí antes. En 2018, los empleados de Google se rebelaron contra la empresa que trabajaba en el Proyecto Maven, un proyecto del Pentágono para analizar imágenes de drones. Google respondió con sus principios de IA, que prometían que la compañía no construiría IA para usarla en armas o en vigilancia de armas. El problema es que la tecnología avanza más rápido que los principios, y cosas que parecían obviamente fuera de límites en 2018 podrían parecer menos claras en 2023.
OpenAI también tiene políticas de casos de uso de acceso público que prohíben el uso de armas. Sobre el papel, es tranquilizador. Pero los empleados parecen estar buscando respuestas a una pregunta más ambigua: ¿Qué pasa si la tecnología de inteligencia artificial tiene un doble uso? ¿Qué pasaría si ayudara a los médicos a realizar investigaciones, pero también pudiera emplearse en trabajos con armas? ¿Cuál es el límite?
Si retrocede un poco más, verá el contexto geopolítico: la IA ha sido designada una de las principales áreas de modernización prioritaria del Departamento de Defensa, y hay un sitio web completo para la Oficina Principal de Inteligencia Digital y Artificial. Afirman que la IA permitirá una toma de decisiones más rápida, minimizará la pérdida de vidas y disuadirá las amenazas. Es todo muy “práctico”.
Pero a los críticos, incluidos algunos dentro de las empresas de tecnología, les preocupa que esto sea el borde más fino de la brecha. La IA en los sistemas de defensa puede generar una falta de responsabilidad. Los sistemas autónomos, incluso los no letales, son otro paso hacia la delegación de opciones que algunos creen que siempre deberían permanecer en manos de las personas.
Pero la discusión internacional está lejos de terminar. La ONU ha estado debatiendo sobre armas letales autónomas durante años y, como muestran informes recientes, las naciones todavía están muy lejos de ponerse de acuerdo sobre lo que debería suceder a continuación. Algunos quieren una prohibición. Otros prefieren proponer directrices laxas. Mientras tanto, los modelos de IA mejoran cada mes.
La parte que suena realmente humana es que las personas que hablan no se oponen a la tecnología. Muchos de ellos son entusiastas de la IA. Han visto que sus sistemas permiten la detección más temprana de enfermedades, la traducción de idiomas en tiempo real y un acceso más fácil al aprendizaje. Apoyan las cosas buenas. Por eso ésta es una situación tan complicada. No es una rebelión en sí misma: es un desacuerdo sobre valores.
También hay un elemento generacional. Los ingenieros más jóvenes no se encogen de hombros y dicen: “Si no lo hacemos nosotros, alguien más lo hará”. La estrategia de Silicon Valley ya no resuena. En cambio, preguntan: si vamos a hacerlo, ¿no deberíamos crear también las fronteras?
Pero, obviamente, los líderes de las empresas tienen una perspectiva diferente. Los gobiernos son grandes clientes. Los problemas de seguridad son un factor. Y con las carreras de IA en marcha (particularmente entre Estados Unidos y China), no quieren quedarse atrás. No es fácil simplemente irse. Es estratégico, es dinero, es política, es todo eso.
Pero la presión interior revela algo valioso. La IA no son sólo algoritmos. La IA son valores. La IA es un grupo de personas sentadas frente a un monitor y comenzando a comprender que lo que están desarrollando algún día podría pesar sobre cuestiones de vida o muerte.
Quizás ese sea el quid de la cuestión. Este es un argumento tanto moral como político. El personal es muy claro: “Queremos barandillas”. No porque se opongan al progreso, sino precisamente porque ven su gravedad.
¿Qué sigue? No está claro. Las corporaciones podrían reforzar las promesas. Los gobiernos podrían desarrollar políticas más definidas. O la fricción podría simplemente disimularse con anuncios de relaciones públicas.
Pero una cosa está clara: el debate sobre la IA militar ya no es sólo teórico. Es personal. Y esto tiene lugar en las salas donde se crea el futuro.