Los Juegos Olímpicos de París serán un campo de entrenamiento para la vigilancia masiva impulsada por inteligencia artificial
En vísperas de los Juegos Olímpicos de París 2024, el gobierno francés ha autorizado el uso generalizado de software de inteligencia artificial en las transmisiones de vigilancia de seguridad.
No serán sólo ojos humanos monitoreando las miles de cámaras de seguridad en los Juegos Olímpicos de París.
Martin Bureau/AFP vía Getty Images
El siguiente ensayo se reimprime con permiso de 
La conversaciónuna publicación en línea que cubre las últimas investigaciones.
Los Juegos Olímpicos de París 2024 están atrayendo la atención del mundo entero, ya que miles de atletas y personal de apoyo, así como cientos de miles de visitantes de todo el mundo, se reunirán en Francia. No solo los ojos del mundo estarán observando, sino también los sistemas de inteligencia artificial.
El gobierno y las empresas privadas utilizarán herramientas avanzadas de inteligencia artificial y otras tecnologías de vigilancia para llevar a cabo una vigilancia generalizada y persistente antes, durante y después de los Juegos. El escenario olímpico mundial y las multitudes internacionales plantean riesgos de seguridad tan significativos que en los últimos años las autoridades y los críticos han descrito los Juegos Olímpicos como “laLas operaciones de seguridad más grandes del mundo fuera de la guerra.”
Sobre el apoyo al periodismo científico
Si le gusta este artículo, considere apoyar nuestro periodismo galardonado suscribiéndoseAl comprar una suscripción, usted contribuye a garantizar el futuro de historias impactantes sobre los descubrimientos e ideas que dan forma a nuestro mundo actual.
El gobierno francés, de la mano del sector tecnológico privado, ha aprovechado esa necesidad legítima de mayor seguridad como base para implementar herramientas de vigilancia y recopilación de datos tecnológicamente avanzadas. Sus planes de vigilancia para hacer frente a esos riesgos, incluido el uso controvertido de videovigilancia experimental con inteligencia artificial, son tan amplios que el país Tuvo que cambiar sus leyes para legalizar la vigilancia planificada..
El plan va más allá de los nuevos sistemas de videovigilancia con inteligencia artificial. Según informes de prensa, la oficina del primer ministro ha negociado un acuerdo decreto provisional que se clasifica permitir al gobierno aumentar significativamente las herramientas tradicionales de vigilancia y recopilación de información clandestinas durante los Juegos, entre ellas las escuchas telefónicas, la recopilación de datos de geolocalización, comunicaciones e informáticas y la captura de mayores cantidades de datos visuales y auditivos.
soy un Profesor de derecho y abogadoy investigo, enseño y escribo sobre privacidad, inteligencia artificial y vigilancia. También brindo asesoramiento legal y Orientación política sobre estos temas a los legisladores y otros. El aumento de los riesgos de seguridad puede requerir y requiere una mayor vigilancia. Este año, Francia ha enfrentado preocupaciones sobre su Capacidades de seguridad olímpica y amenazas creíbles alrededor de eventos deportivos públicos.
Sin embargo, las medidas preventivas deben ser proporcionales a los riesgos. A nivel mundial, los críticos afirman que Francia aprovecha los Juegos Olímpicos como una forma de apoderarse del poder de vigilancia y que el gobierno utilizará esta justificación de vigilancia “excepcional” para Normalizar la vigilancia estatal en toda la sociedad.
Al mismo tiempo, existen preocupaciones legítimas sobre la vigilancia adecuada y eficaz para la seguridad. En Estados Unidos, por ejemplo, la nación se pregunta cómo el Servicio Secreto La vigilancia de seguridad no logró evitarlo un intento de asesinato contra el expresidente Donald Trump el 13 de julio de 2024.
Vigilancia masiva impulsada por IA
Gracias a las leyes de vigilancia recientemente ampliadas, las autoridades francesas han podido… Trabajando con empresas de IA Videtics, Orange Business, ChapsVision y Wintics implementarán una videovigilancia de IA de gran alcance. Han utilizado la vigilancia de IA durante grandes conciertos, eventos deportivos y en estaciones de metro y tren durante períodos de uso intensivo, incluso en torno a un concierto de Taylor Swift y el Festival de Cine de Cannes. Los funcionarios franceses dijeron que estos experimentos de vigilancia de IA salieron bien y Las luces están en verde para usos futuros.
El software de inteligencia artificial que se utiliza generalmente está diseñado para señalar ciertos eventos, como cambios en el tamaño y el movimiento de la multitud, objetos abandonados, la presencia o el uso de armas, un cuerpo en el suelo, humo o llamas y ciertas infracciones de tránsito. El objetivo es que los sistemas de vigilancia detecten de inmediato, en tiempo real, eventos como una multitud que se dirige hacia una puerta o una persona que deja una mochila en una esquina llena de gente y alerten al personal de seguridad. Señalar estos eventos parece un uso lógico y sensato de la tecnología.
Pero las verdaderas cuestiones legales y de privacidad surgen de cómo funcionan y se utilizan estos sistemas. ¿Cuántos y qué tipos de datos deben recopilarse y analizarse para detectar estos eventos? ¿Cuáles son los datos de entrenamiento de los sistemas, las tasas de error y las pruebas de sesgo o inexactitud? ¿Qué se hace con los datos una vez recopilados y quién tiene acceso a ellos? Hay poca transparencia para responder a estas preguntas. A pesar de las salvaguardas destinadas a evitar el uso de datos biométricos que puedan identificar a las personas, es posible que los datos de entrenamiento capturen esta información y los sistemas puedan ajustarse para utilizarla.
Al dar a estas empresas privadas acceso a miles de cámaras de vídeo ya ubicadas en toda Francia, Aprovechar y coordinar las capacidades de vigilancia de las empresas ferroviarias y operadores de transporte, y Permitir el uso de drones con cámarasFrancia permite y apoya legalmente a estas empresas para que prueben y entrenen software de inteligencia artificial en sus ciudadanos y visitantes.
Vigilancia masiva legalizada
Tanto la necesidad como la práctica de la vigilancia gubernamental en los Juegos Olímpicos no son nada nuevo. Las preocupaciones sobre seguridad y privacidad en los Juegos Olímpicos de Invierno de 2022 en Beijing eran tan altas que El FBI instó a “todos los deportistas” dejar los teléfonos móviles personales en casa y utilizar sólo un teléfono quemador mientras se encuentre en China debido al nivel extremo de vigilancia gubernamental.
Francia, sin embargo, es un estado miembro de la Unión Europea. Reglamento General de Protección de Datos es uno de Las leyes de privacidad de datos más estrictas en el mundo, y el Ley de inteligencia artificial de la UE Francia está liderando los esfuerzos para regular los usos nocivos de las tecnologías de inteligencia artificial. Como miembro de la UE, Francia debe cumplir la legislación de la UE.
Preparándose para los Juegos Olímpicos, Francia promulgó en 2023 la Ley n.° 2023-380, un paquete de leyes para proporcionar Un marco jurídico para los Juegos Olímpicos de 2024Incluye el controvertido artículo 7, una disposición que permite a las fuerzas de seguridad francesas y a sus contratistas tecnológicos experimentar con videovigilancia inteligente antes, durante y después de los Juegos Olímpicos de 2024, y el artículo 10, que permite específicamente el uso de software de inteligencia artificial para revisar videos y transmisiones de cámaras. Estas leyes Francia se convierte en el primer país de la UE en legalizar un sistema de vigilancia impulsado por inteligencia artificial de amplio alcance.
Eruditos, grupos de la sociedad civil y defensores de las libertades civiles Han señalado que estos artículos son contrarios al Reglamento General de Protección de Datos y a los esfuerzos de la UE por regular la IA. Argumentan que el artículo 7 viola específicamente las disposiciones del Reglamento General de Protección de Datos que protegen los datos biométricos.
Los funcionarios franceses y representantes de empresas tecnológicas han dicho que El software de IA puede lograr sus objetivos. de identificar y marcar esos tipos específicos de eventos sin identificar a las personas ni infringir las restricciones del Reglamento General de Protección de Datos en relación con el procesamiento de datos biométricos. Pero las organizaciones europeas de derechos civiles han señalado que si el propósito y la función de los algoritmos y las cámaras impulsadas por IA son detectar eventos sospechosos específicos en espacios públicos, estos sistemas necesariamente “Capturar y analizar características fisiológicas y comportamientos.” de las personas en estos espacios. Entre ellos se encuentran las posiciones corporales, la forma de andar, los movimientos, los gestos y la apariencia. Los críticos sostienen que se trata de datos biométricos que se capturan y procesan, por lo que la ley francesa viola el Reglamento General de Protección de Datos.
Seguridad impulsada por IA, a un costo
Hasta ahora, tanto el gobierno francés como las empresas de inteligencia artificial han logrado beneficios mutuos gracias a la vigilancia por inteligencia artificial. Los observadores algorítmicos son… siendo usado más y dar a los gobiernos y a sus colaboradores tecnológicos muchos más datos de los que los humanos solos podrían proporcionar.
Pero estos sistemas de vigilancia basados en inteligencia artificial están mal regulados y sujetos a pocas pruebas independientes. Una vez recopilados los datos, el potencial de nuevos análisis de datos y de invasiones de la privacidad es enorme.
Este artículo fue publicado originalmente en La conversación. Leer el artículo original.