La ley de Minnesota prohíbe, en determinadas circunstancias, la difusión de “deepfakes” con la intención de dañar a un candidato político o influir en el resultado de una elección. Los demandantes impugnan el estatuto basándose en la Primera Enmienda y solicitan medidas cautelares preliminares que prohíban su aplicación.
Con su memorando de respuesta en oposición a la moción de orden judicial preliminar de los demandantes, el Fiscal General Ellison presentó dos declaraciones de expertos… [including one] de Jeff Hancock, profesor de comunicación en la Universidad de Stanford y director del Stanford Social Media Lab. Las declaraciones generalmente ofrecen antecedentes sobre la inteligencia artificial (“IA”), los deepfakes y los peligros de los deepfakes para la libertad de expresión y la democracia…
El Fiscal General Ellison admite que el profesor Hancock incluyó citas de dos artículos académicos inexistentes y citó incorrectamente a los autores de un tercer artículo. El profesor Hancock admite que utilizó GPT-4o para ayudarle a redactar su declaración pero, al revisarla, no pudo discernir que GPT-4o generaba citas falsas de artículos académicos.
La ironía. El profesor Hancock, un experto acreditado en los peligros de la IA y la desinformación, ha sido víctima del canto de sirena de depender demasiado de la IA, en un caso que gira en torno a los peligros de la IA, nada menos. El profesor Hancock ofrece una explicación detallada de su proceso de redacción para explicar con precisión cómo y por qué surgieron estas citas alucinadas por IA en su declaración. Y asegura a la Corte que defiende las proposiciones sustantivas de su declaración, incluso aquellas que están respaldadas por citas falsas. Pero, al final del día, incluso si los errores fueron un error inocente, e incluso si las proposiciones son sustancialmente precisas, el hecho es que el profesor Hancock presentó una declaración hecha bajo pena de perjurio con citas falsas.
Es particularmente preocupante para el Tribunal que el profesor Hancock normalmente valide las citas con un software de referencia cuando escribe artículos académicos, pero no lo hizo cuando presentó la Declaración de Hancock como parte de la presentación legal de Minnesota. Cabría esperar que se prestara mayor atención a un documento presentado bajo pena de perjurio que a un artículo académico. De hecho, el Tribunal esperaría una mayor diligencia por parte de los abogados, y mucho menos de un experto en desinformación sobre IA en una de las instituciones académicas más reconocidas del país.
Para ser claros, el Tribunal no culpa al profesor Hancock por utilizar la IA con fines de investigación. La IA, en muchos sentidos, tiene el potencial de revolucionar la práctica jurídica para mejor. Ver Damián Riehl, AI + MSBA: Construyendo el futuro legal de Minnesota81-octubre. Bench & Bar of Minn. 26, 30–31 (2024) (que describe los esfuerzos del Colegio de Abogados del Estado de Minnesota para explorar cómo la IA puede mejorar el acceso a la justicia y la calidad de la representación legal). Pero cuando los abogados y expertos abdican de su juicio independiente y sus habilidades de pensamiento crítico en favor de respuestas ya preparadas generadas por IA, la calidad de nuestra profesión jurídica y el proceso de toma de decisiones de la Corte se ven afectados.
De este modo, el Tribunal suma su voz al creciente coro de tribunales de todo el país que declaran el mismo mensaje: ¡verifique el contenido generado por IA en las presentaciones legales! Véase Mata contra Avianca, Inc.678 F. Suplente. 3d 443, 466 (SDNY 2023) (abogado sancionador por incluir citaciones legales falsas generadas por IA en una presentación); Park contra Kim91 F.4th 610, 614–16 (2d Cir. 2023) (abogado remitente para posible disciplina por incluir citaciones legales falsas generadas por IA en una presentación); Kruse contra Karlan692 SW3d 43, 53 (Mo. Ct. App. 2024) (desestimando la apelación porque el litigante presentó un escrito con múltiples citaciones legales falsas generadas por IA).
Sin duda, el Fiscal General Ellison sostiene que su oficina no tenía idea de que la declaración del profesor Hancock incluía citas falsas, y el abogado del Fiscal General se disculpó sinceramente en el argumento oral por las citas falsas no intencionadas en la Declaración de Hancock. El Tribunal toma la palabra del Fiscal General Ellison y aprecia su franqueza al rectificar el problema. Pero se recuerda a los abogados del Fiscal General Ellison que la Regla Federal de Procedimiento Civil 11 impone una “responsabilidad personal e indelegable” de “validar la verdad y la razonabilidad legal de los documentos presentados” en una acción. El Tribunal sugiere que una “investigación razonable dadas las circunstancias”, dijo la Fed. R. Civilización. P. 11(b), ahora puede exigir que los abogados pregunten a sus testigos si han utilizado IA en la redacción de sus declaraciones y qué han hecho para verificar cualquier contenido generado por IA.
La pregunta, entonces, es qué hacer con la Declaración de Hancock. El Fiscal General Ellison solicita permiso para presentar una versión enmendada de la Declaración de Hancock y argumenta que el Tribunal aún puede basarse en la Declaración de Hancock enmendada al pronunciarse sobre la moción de orden judicial preliminar de los demandantes. Los demandantes parecen aceptar que el profesor Hancock está calificado para brindar una opinión experta sobre IA y deepfakes, y el Tribunal no cuestiona esa conclusión. Sin embargo, los demandantes argumentan que la Declaración de Hancock debería excluirse en su totalidad y que el Tribunal no debería considerar una declaración enmendada. El Tribunal está de acuerdo.
La cita del profesor Hancock en su declaración de fuentes falsas generadas por IA, incluso con su explicación útil, exhaustiva y plausible, destruye su credibilidad ante este Tribunal. Como mínimo, se supone que el testimonio de los expertos es fiable. Más fundamentalmente, firmar una declaración bajo pena de perjurio no es una mera formalidad; más bien, “alerta[s] declarantes a la gravedad de su compromiso y, por lo tanto, tener un efecto significativo sobre la verdad y la confiabilidad”. La Corte debería poder confiar en los “indicios de veracidad” que conllevan las declaraciones hechas bajo pena de perjurio, pero esa confianza se rompió aquí.
Además, citar fuentes falsas impone muchos daños, incluido “desperdiciar el tiempo y dinero de la parte contraria, el tiempo y los recursos de la Corte, y daños a la reputación del sistema legal (por nombrar algunos)”. Morgan contra CMTY. Contra la violencia2023 WL 6976510, en *8 (DNM 23 de octubre de 2023). Por lo tanto, los tribunales no hacen ni deben “hacer concesiones para una [party] que cita autoridades falsas, inexistentes y engañosas”, particularmente en un documento presentado bajo pena de perjurio. Dukuray contra Experian Información. soles.2024 WL 3812259, en *11 (SDNY 26 de julio de 2024). Las consecuencias de citar fuentes falsas generadas por IA para abogados y litigantes son graves. Ver mata; Parque; Kruse. Esas consecuencias no deberían ser diferentes para un perito que ofrece testimonio para ayudar al Tribunal bajo pena de perjurio.
Sin duda, el Tribunal no cree que el Profesor Hancock haya citado intencionalmente fuentes falsas, y el Tribunal elogia al Profesor Hancock y al Fiscal General Ellison por admitir y abordar rápidamente los errores en la Declaración de Hancock. Pero el Tribunal no puede aceptar declaraciones falsas, inocentes o no, en la declaración de un perito presentada bajo pena de perjurio. En consecuencia, dado que los errores de la Declaración de Hancock socavan su competencia y credibilidad, el Tribunal excluirá la consideración del testimonio pericial del profesor Hancock al decidir la moción de medida cautelar preliminar de los demandantes.