Los medios generados por IA hoy en día son de una calidad sorprendentemente alta y producen imágenes y audio que son casi indistinguible de la realidady el vídeo no se queda atrás. Pero con este progreso viene una nueva ola de batallas legales y éticas.
Los legisladores están alarmados por los deepfakes (medios sintéticos que imitan la realidad) por temor a su potencial para destruir reputaciones, especialmente en campañas electorales de alto riesgo. Sin embargo, algunos de los nuevas leyes estatales sobre deepfake plantean serias preocupaciones sobre la Primera Enmienda.
Si bien la “desinformación política” se ha convertido en el foco del Partido Demócrata en los últimos años, los Republicanos También nos oponemos a los medios asistidos por IA. desplegados de manera oportunista para dañar la reputación de sus candidatos. Los temores a los deepfake han provocado una rara acción bipartidista, con casi un tercio de los estados aprobar leyes para regular su uso durante las elecciones.
La mayoría de las leyes contra los deepfakes se ciñen a sanciones civiles, pero al menos Texas y Minnesota llévelo más allá, criminalizando los medios sintéticos destinados a “influir en una elección”. La ley de Texas se parece a un estatuto penal de difamación y las violaciones pueden significar un año de cárcel.
La ley de Minnesota es aún más dura: simplemente “difundir” un deepfake y compartirlo en las redes sociales. podría ser suficiente—podría acarrear a los reincidentes penas de prisión de hasta cinco años. Además, un funcionario o candidato del gobierno culpable de difundir un deepfake puede ser removido de su cargo.
Desde términos vagos (“deepfake”, “diseminar”) hasta duras sanciones penales, estas leyes chocan con las protecciones de la Primera Enmienda, especialmente porque no eximen las parodias o la sátira.
Afortunadamente, en septiembreun tribunal de apelaciones estatal declaró que la ley de Texas aparentemente inconstitucional. En cuanto a la excesiva amplitud de la ley de Texas, el tribunal estatal dijo: “Dado que influir en las elecciones es la esencia del discurso político, es difícil imaginar qué discurso no estaría incluido en el estatuto”.
Pero incluso las leyes estatales sobre responsabilidad civil tienen muchos de los mismos problemas. Vale la pena examinar la nueva ley de deepfake de California, AB 2839que prohíbe la distribución de medios políticos alterados que puedan engañar a una “persona razonable”, siempre que se haga “con malicia”. La ley abarca ampliamente el contenido político popular. California El gobernador Newsom ha dejado claropor ejemplo, que los medios prohibidos incluyen memes comunes y medios editados.
La ley de California exige que los creadores de parodias o sátiras etiqueten sus medios como tales. Hay excepciones para emisoras y periódicos, pero no excepciones expresas para las empresas de redes sociales. Las empresas de redes sociales “distribuyen” memes políticos y deepfakes, por lo que parece que podrían ser responsables de los daños y perjuicios.
Un giro controvertido e impactante en AB 2839 es su disposición de “cazarrecompensas”, que permite a cualquier “destinatario de contenido materialmente engañoso” demandar a “la persona, comité u otra entidad” que distribuyó el contenido. La parte ganadora también gana los honorarios de los abogados, por lo que esta ley crea un posible frenesí de litigios sobre el contenido digital.
Básicamente, la ley de California invita a millones de usuarios de redes sociales a demandar a las personas que crean memes políticos y videos editados. Incluso alguien que simplemente comparte una publicación en las redes sociales podría ser responsable porque la “distribución” no está definida.
Al igual que las leyes de Minnesota y Texas, la ley de California tiene serios problemas con la Primera Enmienda. Aparentemente está diseñado para funcionar como una restricción previa para los medios políticos en línea. Como un funcionario sin fines de lucro que ayudó a redactar la ley dijo TechCrunch:
En realidad, el objetivo real no es ni la indemnización por daños ni la medida cautelar. En primer lugar, es simplemente para que la gente no lo haga. En realidad, ese sería el mejor resultado… que estos deepfakes no impacten de manera fraudulenta en nuestras elecciones.
El AB 2839 se firmó y entró en vigor en septiembre. Christopher Kohls, el creador de memes conservador cuyo video satírico editado fue señalado por el gobernador Newsom, presentó una demanda para bloquear la ley. A principios de octubre un juez federal cumplimiento prohibido de casi toda la ley de cazarrecompensas de memes, en el caso Kohls contra Bonta.
Algunas de estas leyes pueden sobrevivir, particularmente si sólo exigen divulgaciones claras y simples. Sin embargo, las leyes de Minnesota y Texas todavía plantean serias preocupaciones sobre la Primera Enmienda porque criminalizan el contenido relacionado con las elecciones.
En palabras de un juez federal, estas leyes ultrafalsas a menudo actúan “como un martillo en lugar de un bisturí”, congelando demasiado el discurso.