De Jarrus contra Gobernador, decidido ayer por el juez F. Kay Behm (ED Michigan):
El tribunal es consciente de que imponer una sanción monetaria a los demandantes que califican para el estatus de IFP puede resultar ineficaz. Sin embargo, el tribunal también ordenó a los demandantes que explicaran cuánto gastan mensualmente en suscripciones de “IA”. El demandante Michael Jarrus explicó que paga aproximadamente 20 dólares al mes en una suscripción a “ChatGPT Plus”. En el transcurso de 12 meses, la evidencia sugiere que el demandante Michael Jarrus al menos puede permitirse una suscripción a Chat GPT de aproximadamente $240. A falta de pruebas de que una sanción monetaria resultará imposible de pagar, el tribunal dictará sanciones suficientes para disuadir conductas similares en el futuro….
De acuerdo con la advertencia del juez Patti de que cada citación de AI podría generar un costo de $200 por citación, el tribunal adopta esa cantidad e impone una multa de $300 por demandante (un total de $600) por tres citaciones tergiversadas generadas por AI. Cada demandante [Michael Jarrus and his mother] será, individualmente, responsable de pagar $300. Estas multas se deben al Secretario del Tribunal y se pagarán en su totalidad antes del 2 de febrero de 2026. El incumplimiento de estos montos puede resultar en la desestimación de esta acción en su totalidad o, si un demandante paga su multa pero no el otro, de los reclamos del demandante que no paga por incumplimiento….
Si los Demandantes presentan algún informe futuro en este caso incluso con un solo caso tergiversado, mal citado o ficticio causado por el uso de “IA” generativa, este tribunal considerará seriamente cualquier recomendación para desestimar este caso por incumplimiento de mala fe de las órdenes judiciales o revocación del estatus IFP de los Demandantes, o en la alternativa, no sería claramente erróneo que el Juez Magistrado anule o se niegue a considerar los méritos de un informe completo para la inclusión de un caso tergiversado, mal citado o ficticio.
Más sobre las circunstancias que llevaron a ejercer especialmente el tribunal aquí:
Aunque el juez Patti advirtió a los demandantes sobre los peligros del uso de IA generativa, los demandantes parecieron hacer uso de dicha herramienta sin verificar los resultados. Véase ECF No. 170, página ID.3194 (que incluye una frase claramente generada por IA, “Aquí está el párrafo 2 revisado,…”). Incluso en la primera revisión, su informe parecía no ser más que copiar y pegar de una herramienta de inteligencia artificial generativa estilo chatbot. Irónicamente, los demandantes se opusieron a la advertencia del juez sobre el uso de IA en el mismo documento en el que se basaban en texto generado por IA.
Tras una revisión más cuidadosa de las objeciones, el tribunal identificó una serie de citas en el escrito de los demandantes que eran citas falsas (con casos reales, pero con explicaciones que no reflejaban el caso citado). [Details omitted. -EV] …
[T]El hecho de que los demandantes… no “inventaran casos ni citaran decisiones inexistentes” no ayuda. Cuando la cita de un caso es “real”, un abogado, o incluso un juez, puede ver un caso que reconoce y asumir que la cita o la posición ha sido representada con precisión. Ese problema se ilustra aquí; aunque Chat GPT generó “participaciones” que parecían haber aparecido plausiblemente en los casos citados, de hecho exageró sus tenencias en un grado significativo. Y si bien un litigante podría salirse con la suya con exageraciones similares porque, tal vez, podría razonar para mostrar cómo la decisión declarada de un caso podría extenderse a situaciones novedosas, un LLM no razona de la manera que un litigante debe hacerlo.
Para decirlo de una manera ligeramente diferente, los LLM no realizan los procesos metacognitivos que son necesarios para cumplir con la Regla 11. Los LLM son herramientas que “emula la función comunicativa del lenguaje, no el proceso cognitivo separado y distinto del pensamiento y el razonamiento”. Cuando un LLM exagera la resolución de un caso, no es porque cometió un error al analizar lógicamente cómo ese caso podría representar un “argumento no frívolo para ampliar, modificar o revertir la ley existente o para establecer una nueva ley”; se trata simplemente de armar una oración que parece plausible, una cuyo contenido puede ser cierto o no…