Esta semana, el gabinete español acordó redactar una legislación destinada a abordar los deepfakes generados por IA y endurecer las reglas sobre el consentimiento para el uso de imágenes, a medida que los países europeos intensifican sus esfuerzos para frenar el contenido abusivo de inteligencia artificial.
El proyecto de ley aprobado por el gabinete fortalece la protección de los niños, establece 16 años como la edad mínima para dar consentimiento para usar la propia imagen y limita la reutilización de imágenes en línea y voces o retratos generados por inteligencia artificial sin permiso.
La medida se produce como unión Europea avanza en su impulso regulatorio sobre los deepfakes, con reglas próximas que obligarán a los estados miembros a criminalizar los deepfakes sexuales no consensuados para 2027.
“El hecho de que la gente comparta imágenes personales o familiares en las redes sociales no da libertad absoluta para utilizar esas imágenes en otros contextos”, afirmó el Ministro de Justicia. Félix Bolaños dijo, después de una reunión semanal del gabinete.
La reforma también apunta directamente a la inteligencia artificial, clasificando como ilegítimo el uso de la imagen o la voz de una persona generada a través de la IA con fines publicitarios o comerciales sin consentimiento.
Bolaños añadió que los usos creativos, satíricos o ficticios que involucren a figuras públicas seguirán estando permitidos, siempre que el contenido esté claramente etiquetado como generado por IA.
La legislación surge tras un creciente escrutinio internacional de las herramientas de IA, incluidas Elon Muskla empresa xAIcuyo chatbot Grok está bajo investigación por la creación de imágenes ultrafalsas sexualmente explícitas de mujeres y niños en distintos estados de desnudez.
xAI dijo el miércoles por la noche que ahora había impuesto restricciones a todos los usuarios de su chatbot Grok AI que limitan la edición de imágenes.
‘Hemos implementado medidas tecnológicas para evitar que la cuenta de Grok permita la edición de imágenes de personas reales con prendas reveladoras como bikinis. Esta restricción se aplica a todos los usuarios, incluidos los suscriptores pagos”, dijo la compañía en una publicación X.
A principios de este mes, el gobierno español pidió a los fiscales que determinaran si cierto material generado por IA podría constituir pornografía infantil, una solicitud que la Fiscalía General dijo que estaba revisando, según los medios españoles.
El proyecto de ley debe pasar ahora por una fase de consulta antes de regresar al gabinete para su aprobación final y presentación formal al parlamento.