Para Taylor Swift, los últimos meses de 2023 fueron triunfales. Su Eras Tour fue nombrada la mayor recaudación gira de conciertos de todos los tiempos. Ella estrenó una película de concierto que respiraba nueva vida en el género. Y para colmo, Tiempo revista llamado su Persona del Año.
Pero a finales de enero la megaestrella llegó a los titulares por una razón mucho menos poderosa: se había convertido en el último objetivo de alto perfil de ataques sexualmente explícitos y no consensuales. Imágenes de deepfake hecho usando inteligencia artificial. Los fans de Swift se apresuraron a denunciar el contenido infractor, ya que circulado en plataformas de redes sociales, incluido X (anteriormente Twitter), que temporalmente búsquedas bloqueadas del nombre de Swift. No fue el primer caso de este tipo: mujeres y niñas de todo el mundo ya se han enfrentado abuso similar. Sin embargo, el prestigio de Swift ayudó a impulsar el tema ante la opinión pública y el incidente amplificó los llamados a que los legisladores intervengan.
“A estas alturas somos demasiado pequeños y demasiado tarde, pero aún podemos intentar mitigar el desastre que está surgiendo”, dice Mary Anne Franks, profesora de la Facultad de Derecho de la Universidad George Washington y presidenta de la Cyber Civil Rights Initiative. Las mujeres son “canarios en la mina de carbón” cuando se trata del abuso de la inteligencia artificial, añade. “No será sólo la niña de 14 años o Taylor Swift. Serán los políticos. Serán líderes mundiales. Van a ser elecciones”.
Sobre el apoyo al periodismo científico
Si está disfrutando este artículo, considere apoyar nuestro periodismo galardonado al suscribiéndose. Al comprar una suscripción, ayudas a garantizar el futuro de historias impactantes sobre los descubrimientos y las ideas que dan forma a nuestro mundo actual.
Swift, quien recientemente se convirtió en multimillonario, podría lograr algunos avances mediante litigios individuales, afirma Franks. (El sello discográfico de Swift no respondió a una solicitud de comentarios sobre si el artista presentará demandas o apoyará los esfuerzos para acabar con los deepfakes). Sin embargo, lo que realmente se necesita, añade el profesor de derecho, son regulaciones que prohíban específicamente este tipo de contenido. “Si se hubiera aprobado una legislación hace años, cuando los defensores decían que esto es lo que sucederá con este tipo de tecnología, tal vez no estaríamos en esta posición”, dice Franks. Uno de esos proyectos de ley Lo que podría ayudar a las víctimas en la misma posición que Swift, señala, es la Ley de Prevención de Deepfakes de Imágenes Íntimas, que presentó el representante Joe Morelle del estado de Nueva York en mayo pasado. Si se convirtiera en ley, la legislación prohibiría compartir pornografía deepfake no consensuada. Otro reciente propuesta en el senado permitiría a las víctimas de deepfake demandar a los creadores y distribuidores de dicho contenido por daños y perjuicios.
Los defensores llevan años pidiendo soluciones políticas para los deepfakes no consensuales. Existe un mosaico de leyes estatales, pero los expertos dicen que falta supervisión federal. “Hay escasez de leyes federales aplicables” en torno a la pornografía ultrafalsa para adultos, dice Amir Ghavi, abogado principal en inteligencia artificial del bufete de abogados Fried Frank. “Existen algunas leyes marginales, pero en términos generales, no existe un estatuto federal directo sobre falsificaciones profundas”.
Sin embargo, una ofensiva federal podría no resolver el problema, explica el abogado, porque una ley que penaliza los deepfakes sexuales no aborda un gran problema: a quién acusar de un delito. “Es muy improbable, en la práctica, que esas personas se identifiquen”, dice Ghavi, señalando que los estudios forenses no siempre pueden probar qué software creó un determinado contenido. E incluso si las fuerzas del orden pudieran identificar la procedencia de las imágenes, podrían toparse con algo llamado Sección 230, una pequeña pero masivamente influyente pieza de legislación que dice que los sitios web no son responsables de lo que publican sus usuarios. (Sin embargo, aún no está claro si la Sección 230 se aplica a la IA generativa). Y grupos de derechos humanos como la Unión Estadounidense por las Libertades Civiles han advertido que regulaciones demasiado amplias también podrían generar preocupaciones sobre la Primera Enmienda para los periodistas que informan sobre deepfakes o satíricos políticos. quienes los empuñan.
La solución más inteligente sería adoptar políticas que promuevan la “responsabilidad social” por parte de las empresas que poseen productos de IA generativa, dice Michael Karanicolas, director ejecutivo del Instituto de Tecnología, Derecho y Política de la Universidad de California en Los Ángeles. Pero, añade, “es relativamente poco común que las empresas respondan a algo que no sea un comportamiento regulatorio coercitivo”. Algunas plataformas han tomado medidas para frenar la difusión de información errónea generada por la inteligencia artificial sobre las campañas electorales, por lo que no es algo sin precedentes que intervengan, dice Karanicolas, pero incluso las salvaguardias técnicas están sujetas a que los usuarios sofisticados las pongan fin.
Las marcas de agua digitales, que marcan el contenido generado por IA como sintético, son una posible solución apoyado por la administración Biden y algunos miembros del Congreso. Y en los próximos meses, Facebook, Instagram y Threads comenzará a etiquetar imágenes creadas por IA publicado en esas plataformas, anunció Meta recientemente. Incluso si un régimen estandarizado de marcas de agua no pudiera impedir que las personas crearan deepfakes, aún ayudaría a las plataformas de redes sociales a eliminarlos o frenar su propagación. Moderar el contenido web a este tipo de escala es posible, dice un ex formulador de políticas que asesora regularmente a la Casa Blanca y al Congreso sobre la regulación de la IA, señalando el éxito de las empresas de medios sociales a la hora de limitar la difusión de medios protegidos por derechos de autor. “Tanto el precedente legal como el precedente técnico existen para frenar la propagación de este material”, dice el asesor, que solicitó el anonimato, dadas las deliberaciones en curso sobre los deepfakes. Swift, una figura pública con una plataforma comparable a la de algunos presidentes, podría lograr que la gente común empiece a preocuparse por el tema, añade el ex formulador de políticas.
Por ahora, sin embargo, el terreno legal tiene pocos hitos claros, lo que hace que algunas víctimas se sientan excluidas. Caryn Marjorie, una influenciadora de las redes sociales y autodenominada “Swiftie”, que lanzó la suya propia chatbot de IA El año pasado, dice que enfrentó una experiencia similar a la de Swift. Hace aproximadamente un mes, los fanáticos de Marjorie le avisaron sobre deepfakes sexualmente explícitos generados por IA que circulaban en línea.
Los deepfakes hicieron que Marjorie se sintiera enferma; ella tuvo problemas para dormir. Pero aunque denunció repetidamente la cuenta que publicaba las imágenes, ésta permaneció en línea. “No recibí el mismo trato que Taylor Swift”, dice Marjorie. “Me hace preguntarme: ¿las mujeres tienen que ser tan famosas como Taylor Swift para que se eliminen estas imágenes explícitas de IA?”