La ley tiene como objetivo proteger a los ciudadanos de los usos nocivos de la tecnología y fortalecer las salvaguardias contra el abuso. Crédito de la foto: Piscina Moncloa/Borja Puig de la Bellacasa
El gobierno de España ha enviado una nueva ley al Congreso destinada a prohibir las imágenes sexuales falsas creadas con inteligencia artificial después de la creciente preocupación de que las personas puedan verse expuestas a abusos, acoso y difusión de contenidos manipulados en línea, incluidos los de mujeres y niños.
El gobierno dice que las medidas están diseñadas para proteger a las personas de que sus imágenes se conviertan en material explícito sin consentimiento, un problema que ha generado especial preocupación entre los padres, las escuelas y los grupos de protección infantil.
La legislación introduciría algunas de las sanciones más duras jamás vistas en España por la creación y distribución de “deepfakes” sexuales, incluidas multas de hasta 35 millones de euros o el 7% de la facturación anual global de una empresa en los casos más graves. La medida surge tras la creciente preocupación en toda Europa por el aumento de imágenes y vídeos manipulados digitalmente que pueden colocar el rostro de una persona en contenido explícito sin su consentimiento.
Lo más leído en Euro Weekly News
Centrarse en proteger a las víctimas del contenido sexual falso
La ley propuesta tiene como objetivo abordar los temores de que personas comunes y corrientes, incluidos adolescentes y niños, puedan ser atacados mediante fotografías disponibles públicamente tomadas de cuentas de redes sociales o plataformas de mensajería. En los últimos años, los casos que involucran imágenes falsas de colegialas y mujeres desnudas han atraído la atención nacional en España, generando preocupación sobre la rapidez con la que el material manipulado puede difundirse en línea y el impacto emocional que puede tener en las víctimas.
Según la legislación propuesta, crear o compartir imágenes falsas sexualmente explícitas sin consentimiento enfrentaría restricciones legales más estrictas. Las medidas tienen como objetivo proteger a las personas de la difusión en línea de material íntimo inventado utilizando su imagen. La legislación también incluye medidas dirigidas a material de abuso sexual infantil generado artificialmente y otras formas de suplantación digital dañina.
Preocupaciones por el impacto en los jóvenes
La cuestión se ha vuelto especialmente delicada tras varias investigaciones que involucran a menores. Las autoridades españolas y los grupos de campaña han advertido que los jóvenes son especialmente vulnerables porque las fotografías publicadas en línea pueden copiarse y modificarse sin permiso.
Las asociaciones de padres y los grupos de protección infantil han pedido repetidamente mayores salvaguardias después de que los incidentes que involucraron a víctimas en edad escolar causaran preocupación pública en diferentes partes del país. El gobierno argumenta que la legislación existente ha tenido dificultades para seguir el ritmo con el que ahora se pueden producir y compartir imágenes manipuladas.
Nuevas sanciones y restricciones propuestas
El proyecto de ley aprobado por el Consejo de Ministros crearía nuevas sanciones para las empresas y plataformas que incumplan las normas relativas a contenidos prohibidos. En los casos más graves, las sanciones podrían alcanzar los 35 millones de euros o el 7% de la facturación global anual.
El ministro de Transformación Digital de España, Óscar López, dijo que la ley tiene como objetivo proteger a los ciudadanos de los usos nocivos de la tecnología y fortalecer las salvaguardias contra el abuso. Además de las restricciones al contenido sexual falso, la legislación también prohibiría ciertas formas de categorización biométrica y sistemas considerados perjudiciales para la privacidad o los derechos individuales.
Etiquetado obligatorio de contenido alterado
La ley propuesta requeriría que el material generado por IA esté claramente identificado en algunas situaciones para que los usuarios sepan cuándo las imágenes, el audio o el video han sido alterados o creados artificialmente.
Los funcionarios españoles dicen que el objetivo es reducir el engaño en línea y evitar que el material manipulado se confunda con contenido real. Las medidas forman parte de la adaptación de España de normas más amplias de la Unión Europea sobre inteligencia artificial y seguridad digital.
Los casos de imágenes falsas han aumentado la preocupación
El debate público en torno a las imágenes sexuales manipuladas se intensificó después de que surgieran en España varios casos de alto perfil que involucraban a adolescentes en los últimos dos años. Algunos incidentes involucraron imágenes falsas de desnudos de menores creadas a partir de fotografías comunes compartidas en línea.
Aunque las imágenes fueron inventadas, las familias y los activistas advirtieron que el daño causado a las víctimas aún podría ser grave. Los expertos que trabajan en seguridad infantil y derechos digitales han advertido que la difusión de contenido íntimo manipulado puede provocar humillación, acoso y angustia psicológica, especialmente entre las víctimas más jóvenes.
La ley aún enfrenta la aprobación parlamentaria
La legislación ahora debe pasar por el proceso parlamentario español antes de convertirse en ley. El Congreso debatirá las propuestas y podrá introducir enmiendas antes de que se lleve a cabo una votación final. De aprobarse, España se convertiría en uno de los países europeos con mayores sanciones económicas vinculadas a la creación y difusión de material sexual falso generado mediante inteligencia artificial.
El gobierno dice que la legislación tiene como objetivo responder a la creciente ansiedad pública sobre la facilidad con la que ahora se pueden producir y compartir en línea contenidos íntimos manipulables. Para muchas familias, el debate se centra en una preocupación simple: si una fotografía común y corriente subida a Internet podría convertirse en material falso y explícito sin permiso, y qué protecciones legales existen si eso sucede.