Las grandes empresas tecnológicas están fijando cada vez más las condiciones para los gobiernos de ambos lados del Atlántico, y Europa no ha demostrado ser inmune. Mientras el continente sopesa cómo responder, uno de los principales especialistas en ética de la IA del mundo sostiene que debe dejar de reaccionar ante Washington y Beijing y construir una visión propia. Darío Migliorini informa
“La tecnología no es políticamente neutral”. Con esas palabras, el filósofo belga Mark Coeckelbergh comenzó su intervención en una mesa redonda sobre IA celebrada en Madrid el 22 de septiembre.
El evento, organizado por la asociación VigíA y la Universidad Tecnológica UTAMED, reunió a académicos, representantes de instituciones locales y miembros del sector empresarial.
Coeckelbergh, un destacado experto internacional en la ética de la inteligencia artificial y la robótica, y miembro del Panel Científico Internacional Independiente sobre IA de las Naciones Unidas, presentó su última investigación sobre cómo la inteligencia artificial está afectando a las democracias en todo el mundo.
Advirtió que “hoy deberíamos volver a preocuparnos por formas autoritarias de gobierno como el fascismo”, y argumentó que los avances en inteligencia artificial y tecnologías de vigilancia están intensificando esta amenaza, señalando tendencias cada vez más autoritarias y totalitarias entre las empresas de tecnología y sus directores ejecutivos.
Coeckelbergh ha calificado esta trayectoria de “tecnofascismo”. Durante su presentación, describió la estrecha colaboración entre las Big Tech y el gobierno estadounidense como un ejemplo de capitalismo de vigilancia.
También advirtió sobre el creciente riesgo de la tecnocracia. A lo largo de la historia, la tecnología se ha utilizado para centralizar el poder y aumentar el control. Hoy, argumentó, son “las grandes tecnológicas las que quieren dirigir el barco del Estado”.
Declaraciones recientes de directores ejecutivos de IA, como Dario Amodei de Anthropic, han contribuido a una narrativa apocalíptica en torno a la tecnología que venden sus empresas. Coeckelbergh sugirió que tales advertencias también sirven para fortalecer las posiciones de poder de las empresas. “Quieren decir que tienen la tecnología y también la solución”.
Según Coeckelbergh, la IA puede socavar la democracia de varias maneras, incluida la injusticia algorítmica, la persuasión y la manipulación que amenazan la autonomía individual a medida que las personas se vuelven cada vez más dependientes de grandes modelos lingüísticos (LLM).
El desequilibrio de poder entre quienes controlan la inteligencia artificial y los ciudadanos comunes empeora cuando la gente no comprende cómo funcionan estas tecnologías.
Las sociedades democráticas también se han visto debilitadas por la polarización y el aislamiento alimentados por las redes sociales. “La democracia está amenazada cuando no hay un conocimiento claro sobre lo que es verdad o no, y cuando no hay un mundo compartido que discutir”, afirmó el filósofo belga.
Europa no ha sido inmune a esta trayectoria autocrática y tecnocrática. Las grandes empresas tecnológicas estadounidenses han demostrado repetidamente su influencia en todo el continente, participando en negociaciones y reuniéndose en privado con jefes de estado.
Una de las mayores controversias ha tenido que ver con el contrato entre Palantir y el Servicio Nacional de Salud del Reino Unido, que permite a la empresa privada acceder a los datos de millones de pacientes.
A pesar de las reacciones negativas generalizadas, incluidas las decisiones de varios gobiernos europeos de bloquear los contratos de adquisición de defensa con la empresa, algunos políticos han seguido apoyando a Palantir. Entre ellos se encuentran el presidente polaco, Karol Nawrocki, y el comisario europeo de Defensa y Espacio, Andrius Kubilius, que se ha pronunciado a favor de la empresa.
Cuando The European le preguntó cómo pueden actuar los ciudadanos dentro de las democracias europeas, Coeckelbergh respondió que “las elecciones todavía tienen un impacto cuando los políticos pierden consenso y terreno para su apoyo y acuerdos con las corporaciones tecnológicas.
Todavía hay margen para la acción democrática, para evitar recurrir a la violencia para oponerse a los políticos en Europa que también están presionando para caer en una distopía tecnológica”.
A nivel institucional, enfatizó la importancia de que Europa desarrolle un marco de IA que sirva al bien común. “La UE debería desarrollar su propia visión en lugar de reaccionar ante Estados Unidos y China”.
La pregunta es si la propia IA también podría usarse para fortalecer la democracia. Coeckelbergh cree que sí puede, aunque hacerlo requeriría una transformación más profunda en los principios que rigen su desarrollo, con mayor énfasis en el bien común.
Para regular eficazmente la IA, argumentó, las instituciones políticas deben volverse más participativas y deliberativas. Propuso crear nuevas instituciones capaces de vincular más estrechamente el desarrollo tecnológico con órganos elegidos democráticamente.
La coordinación y la gobernanza globales también seguirían siendo importantes a medida que el orden internacional se fragmente cada vez más y resurjan formas más fuertes de nacionalismo.
En última instancia, Coeckelbergh pidió un replanteamiento del marco económico actual para contrarrestar el modelo de capitalismo de vigilancia que está tomando forma en Silicon Valley.
También destacó la importancia fundamental de la educación y la alfabetización digital. “Lo que se requiere es conocimiento, experiencia y educación sobre la tecnología, su potencial e impacto”.
La educación y la alfabetización digital son centrales en el trabajo de VigíA, la asociación impulsora de la mesa redonda de Madrid. Al presentar el evento, la vicepresidenta de VigíA, Almira Zainutdinova, afirmó que “uno de los objetivos de la organización es crear alfabetización digital y algorítmica. Los ciudadanos tienen derecho a comprender qué hay detrás de las herramientas tecnológicas que se utilizan, como en su elaboración de perfiles algorítmicos y extracción de datos”.
Cerrar la brecha entre quienes diseñan tecnologías y las personas que las utilizan ayudaría a los ciudadanos a hacer preguntas más informadas: “¿Cómo sé si la información que genera este modelo es correcta? ¿Cómo la extrae?”
La asociación está trabajando con instituciones académicas de todo el mundo para desarrollar programas educativos que abarquen la ética de la IA y los derechos digitales.
“Dejar el pensamiento crítico en manos de la IA corre el riesgo de delegar una habilidad humana fundamental. La tecnología debería ampliar las capacidades humanas y no sustituirlas”, afirmó Zainutdinova.
Dario Migliorini es un periodista que informa sobre relaciones internacionales, derechos humanos y el debilitamiento de las instituciones democráticas. Con una maestría en Estudios de Medios, Paz y Conflictos de la Universidad para la Paz, examina cómo se concentra y se abusa del poder, desde las redes criminales hasta las empresas que ahora dan forma a la vida democrática.
LEER MÁS: Repensar la gobernanza de la IA o arriesgarse a una explosión de inteligencia incontrolada. A medida que la IA comienza a ayudar a desarrollar y evaluar a sus propios sucesores, las suposiciones y sesgos erróneos podrían multiplicarse con cada generación, alimentando una “explosión de inteligencia” en la que sistemas cada vez más capaces se vuelven más difíciles de gobernar. Para evitar esto, es esencial una evaluación y supervisión independientes más sólidas, sostiene Vendan Ananda Kumararajah.
¿Tiene noticias para compartir o experiencia para contribuir? El europeo acoge con agrado las opiniones de líderes empresariales y especialistas del sector. Póngase en contacto con nuestro equipo editorial para obtener más información.
Imagen principal: Una cámara de reconocimiento facial en vivo de la Policía Metropolitana en Charing Cross en Londres, destacando el uso creciente de tecnología de vigilancia y las preocupaciones sobre la privacidad, las libertades civiles y la supervisión democrática. Crédito: gruntzooki/Wikimedia Commons (CC BY-SA 4.0).