Hay un tipo particular de ironía que la profesión jurídica rara vez llega a presenciar en una forma tan prístina. En mayo de 2025, Latham & Watkins, una empresa que habitualmente factura más de 2.000 dólares la hora a sus socios y cuenta con Anthropic entre sus clientes, presentó una declaración judicial en Concord Music Group v. Anthropic que contenía detalles de citaciones inventadas. Las citas no fueron inventadas por un asociado privado de sueño que pasó toda la noche. Fueron generados por Claude, el mismo modelo de IA que Latham & Watkins estaba defendiendo en el tribunal.
Siéntate con eso por un momento.
El abogado que argumentó que Claude no es una máquina de infracción de derechos de autor utilizó a Claude para formatear una cita legal en un caso activo y Claude se equivocó con los autores, con el título equivocado, y nadie se dio cuenta hasta que el abogado contrario comenzó a investigar. La ironía no es sólo deliciosa. Es instructivo. Porque lo que sucedió dentro de ese expediente es una radiografía casi perfecta del problema estructural que la IA plantea para la práctica jurídica: no es que la IA esté obviamente equivocada, sino que es convincente, plausible y profesionalmente incorrecta de maneras que evaden incluso la revisión humana experimentada.
La anatomía del incidente
Para entender la exposición legal, hay que entender exactamente cómo ocurrió el error, porque no fue descuidado. Fue sistemático.
La secuencia fue la siguiente: un colega de Latham encontró lo que parecía ser una fuente académica de apoyo a través de la Búsqueda de Google. Luego, Dukanovic le pidió a Claude que formateara una cita legal adecuada para esa fuente, proporcionando la URL correcta. Claude devolvió una cita con el año de publicación correcto y el enlace correcto, pero con el título y los autores incorrectos. Cuando el equipo ejecutó su verificación manual de citas, verificaron que el enlace se resolvió correctamente. No verificaron si los metadatos que Claude generó para ese enlace eran precisos. Se presentó la declaración que contenía dichos errores. El abogado contrario se dio cuenta. Un tribunal federal intervino.
Lo que hace que esto sea técnicamente significativo es que Claude no alucinó una fuente fantasma: encontró una real y luego la describió erróneamente. En realidad, esto es más difícil de detectar que una cita completamente inventada, porque la URL se resuelve, el artículo existe, el año es correcto. El error está incrustado en el nivel de metadatos, no en la existencia. Es el equivalente legal de citar un estatuto real de una jurisdicción equivocada.
Posteriormente, el tribunal ordenó la divulgación explícita del uso de la IA y los requisitos de verificación humana para futuras presentaciones. La respuesta del juez fue proporcionada pero directa. Esto no fue descartado como un problema técnico. Fue tratado como un fracaso profesional.
Regla 11 y la arquitectura de la responsabilidad del abogado
Aquí es donde el incidente deja de ser una historia sobre una empresa y se convierte en una cuestión estructural sobre toda la profesión.
La Regla 11 de las Reglas Federales de Procedimiento Civil requiere que los abogados certifiquen con su firma que cada argumento fáctico en una presentación tiene respaldo probatorio y que la presentación no se presenta con fines indebidos. Esa firma no es ceremonial. Es una representación profesional de que el abogado ha ejercido una diligencia razonable para verificar lo que está presentando ante el tribunal.
El problema es que la Regla 11 fue escrita para un mundo donde la invención requería intención o gran descuido. Un abogado que inventó una citación de caso mintió o fue catastróficamente negligente. Pero Claude no fabrica intencionalmente. Fabrica con confianza. La salida está formateada, es fluida, está correctamente puntuada y se devuelve en milisegundos. No hay ningún indicio estilístico, ningún marcador de vacilación, ninguna señal de que el modelo está operando al límite de su competencia. El envoltorio de aspecto profesional del resultado es precisamente lo que lo hace peligroso.
En Gauthier contra Goodyear Tire & Rubber Co., decidido en el Distrito Este de Texas a finales de 2024, el abogado de un demandante presentó un escrito que contenía citaciones de dos casos inexistentes y múltiples citas inventadas también generadas por Claude. Cuando el tribunal emitió una orden de justificación, el abogado admitió que había utilizado a Claude sin verificar el resultado. Las sanciones fueron relativamente leves: una multa de 2.000 dólares, CLE obligatoria sobre IA en la práctica jurídica y la obligación de compartir la orden con su empleador actual. Pero el razonamiento del tribunal fue inequívoco: la obligación profesional del abogado según la Regla 11 no disminuye porque una IA haya generado el contenido. La obligación de verificación no se transfiere a la máquina. Se queda con el abogado.
Éste es el núcleo constitucional del problema. La Regla 11 requiere certificación. La certificación requiere diligencia. La diligencia requiere verificación. Pero la verificación, en el contexto del contenido legal generado por IA, ya no es un ejercicio de revisión de rutina. Es una tarea de competencia técnica para la que muchos profesionales no están capacitados ni culturalmente inclinados a realizarla.
El deber de competencia en la era de la producción plausible
La Regla Modelo 1.1 de la Asociación de Abogados de Estados Unidos exige que los abogados proporcionen una representación competente, que incluya "el conocimiento, la habilidad, la minuciosidad y la preparación legales razonablemente necesarios para la representación". El comentario 8 de la ABA de 2012 a esta regla agregó que los abogados competentes deben "mantenerse al tanto de los cambios en la ley y su práctica, incluidos los beneficios y riesgos asociados con la tecnología relevante".
En ese momento se entendió que ese comentario, agregado hace más de una década, abarcaba cosas como el software de descubrimiento electrónico y las comunicaciones cifradas. Nadie pensaba en grandes modelos de lenguaje. Pero en 2025, se ha convertido en el texto operativo de un nuevo género de exposición a la negligencia.
La palabra clave en el Comentario 8 es riesgos. Un abogado competente que utiliza IA no es simplemente alguien que sabe cómo incitar a Claude de manera efectiva. Es alguien que comprende la categoría de errores que produce la IA, las condiciones bajo las cuales esos errores se vuelven más probables y los protocolos de verificación necesarios para detectarlos. El incidente de Latham ilustra precisamente la brecha entre el nivel superficial de alfabetización en IA (“Sé cómo pedirle a Claude que dé formato a una cita”) y la competencia funcional en IA (“Sé que Claude puede devolver con confianza errores de metadatos en fuentes reales, y tengo un protocolo para detectarlos”).
Es importante destacar que casi el 75% de los abogados citaron la precisión como su mayor preocupación acerca de las herramientas de inteligencia artificial, según el Informe de la Encuesta de Tecnología Legal 2024 de la ABA. Pero preocupación y competencia no son lo mismo. La misma encuesta sugirió una adopción generalizada de herramientas de inteligencia artificial para la investigación y redacción jurídica a pesar de esa ansiedad declarada, que significa que los abogados están, colectivamente, preocupados por algo que van a utilizar de todos modos, sin necesariamente desarrollar las habilidades de verificación específicas que abordarían su preocupación.
Lo que realmente tiene que significar ahora la “verificación”
El incidente de Latham expone una brecha en cómo los profesionales del derecho conceptualizan la verificación. Tradicionalmente, verificar una cita significaba confirmar que el caso existe, abrir la página relevante y leer la cita en contexto. Son tareas que se refuerzan: el acto de volver a la fuente es en sí mismo la verificación.
Pero cuando un abogado le pide a Claude que formatee una cita de una fuente que ya encontró, la dinámica psicológica cambia. El abogado ya ha hecho lo que considera el trabajo duro (localizar la fuente). El formato parece administrativo. Y debido a que la producción de Claude parece correcta, con un estilo de diario adecuado, una URL precisa y nombres de autores plausibles, no activa las alarmas cognitivas que activaría una respuesta obviamente incorrecta.
Éste es el modo de fallo de la alucinación que resulta más difícil de sortear: no el fantasma fabricado, sino la descripción errónea plausible. Requiere una categoría de verificación que la formación jurídica no enfatiza actualmente: lo que se podría llamar verificación de metadatos: confirmar de forma independiente no sólo que existe una fuente, sino que las afirmaciones descriptivas específicas que la IA hace sobre esa fuente (autoría, título, fecha de publicación, nombre de la revista) coinciden con el documento real, línea por línea.
Específicamente para las citas legales generadas por IA, esto significa: recuperar la fuente de forma independiente, no a través del enlace de la IA; hacer una referencia cruzada de los nombres de los autores con la firma del documento original; verificar el título carácter por carácter; confirme el nombre de la revista junto con la cabecera. Es más lento que la corrección de pruebas. Requiere más disciplina que hacer clic en un enlace. Y en una profesión que factura por horas y valora la eficiencia, introduce fricciones que las empresas pueden ser reacias a institucionalizar.
La ironía más profunda: defender la IA con IA
Hay una dimensión en esta historia que los comentarios legales en gran medida han dejado pasar sin examinar: Anthropic era el acusado. Claude era el producto en cuestión. La demanda presentada por Concord Music Group y otros importantes editores de música en octubre de 2023 alegaba que Anthropic había copiado letras de canciones con derechos de autor para entrenar a Claude sin autorización. El caso era, en esencia, una disputa sobre si el proceso de formación de Claude respetaba la ley de propiedad intelectual.
Y Latham & Watkins, al defender ese caso, utilizó a Claude para ayudar a preparar los expedientes judiciales y esos expedientes contenían errores generados por IA que requirieron intervención judicial.
Esto no es simplemente irónico. Es epistémicamente significativo. Sugiere que incluso los equipos legales más profundamente involucrados en litigios sobre IA, más conocedores de las limitaciones de la IA, más incentivados a usar la IA con cuidado en un caso adyacente a la IA, todavía son susceptibles a las mismas fallas de verificación que están sancionando a los profesionales menos sofisticados en todo el país. Si Latham no puede construir un protocolo confiable de verificación de IA en un caso de alto riesgo en el que el propio fabricante de la IA es el cliente, el desafío en toda la profesión es considerablemente mayor de lo que los colegios de abogados y los planes de estudio de las facultades de derecho han reconocido hasta ahora.
Qué viene después y qué es necesario
Los tribunales están respondiendo de manera desigual. Varios distritos federales han emitido órdenes permanentes que exigen la divulgación de la redacción asistida por IA en las presentaciones. El tribunal de Concord Music ordenó tanto la divulgación como la verificación humana. El juez Michael Wilner de California multó a un bufete de abogados con 31.000 dólares después de descubrir que casi un tercio de las citaciones en un escrito fueron fabricadas por IA. Estos no son incidentes disciplinarios aislados: son la primera forma de una nueva jurisprudencia sobre la responsabilidad profesional de la IA.
Lo que la profesión necesita, y aún no tiene de forma sistemática, es una taxonomía técnica de los modos de falla de la IA traducida en protocolos de verificación. El cumplimiento de la Regla 11 en la era de la IA no puede satisfacerse con una instrucción general de "verificar dos veces los resultados de la IA". Requiere que los abogados comprendan, específicamente, que: los modelos de razonamiento alucinan en mayor medida en el resumen de documentos que los modelos estándar; que los errores de metadatos son menos destacados visualmente que los errores de citas fantasmas; que la confianza en los resultados de la IA no está correlacionada con la precisión; y que las tareas de formato conllevan tanto riesgo de alucinaciones como las tareas de redacción.
Las facultades de derecho no enseñan esto. Los colegios de abogados están publicando orientaciones a un ritmo que va por detrás de la tecnología en aproximadamente dieciocho meses. Y los bufetes de abogados están implementando herramientas de inteligencia artificial en el trabajo de cara al cliente mientras crean protocolos de verificación que son, en el mejor de los casos, adaptaciones de los hábitos de revisión anteriores a la inteligencia artificial.
El incidente de Latham & Watkins probablemente será recordado como el dato más esclarecedor de 2025 para la IA y la práctica jurídica, no porque involucrara a un actor deshonesto o un fracaso espectacular, sino porque fue algo común y corriente. Fue un abogado competente, en una firma de élite, que utilizó una herramienta de inteligencia artificial capaz, de manera plausible, y produjo un error que todo el equipo pasó por alto. Esa normalidad es el punto. La pregunta que la profesión debe responder ahora no es si la IA creará una exposición de responsabilidad para los abogados. Ya lo ha hecho. La pregunta es si la respuesta será lo suficientemente seria como para estar a la altura del riesgo.
Fuentes
The Register: el bufete de abogados de Anthropic culpa a las alucinaciones de Claude por los errores (mayo de 2025): https://www.theregister.com/2025/05/15/anthopics_law_firm_blames_claude_hallucinations/ Blog NexLaw: Alucinaciones con IA: la amenaza silenciosa a la precisión legal en EE. UU. (2026): https://www.nexlaw.ai/blog/ai-hallucination-legal-risk-2025/ Baker Botts – Confíe, pero verifique: evitar los peligros de las alucinaciones de IA en los tribunales (diciembre de 2024): https://www.bakerbotts.com/thinkt-leadership/publications/2024/december/trust-but-verify-avoiding-the-perils-of-ai-hallucinations-in-court Suprmind — Tasas y puntos de referencia de alucinaciones de IA en 2026: https://suprmind.ai/hub/ai-hallucination-rates-and-benchmarks/ Spellbook — Por qué Los abogados están cambiando a Claude AI (Guía 2026): https://www.spellbook.legal/learn/why-lawyers-are-switching-to-claude CPO Magazine — Pronóstico legal de IA 2026: de la innovación al cumplimiento (enero de 2026): https://www.cpomagazine.com/data-protection/2026-ai-legal-forecast-from-innovation-to-compliance/ Revisión de la legislación nacional: 85 predicciones para la IA y la ley en 2026: https://natlawreview.com/article/85-predictions-ai-and-law-2026
Aabis Islam es un estudiante que cursa una Licenciatura en Derecho (LLB) en la Universidad Nacional de Derecho de Delhi. Con un gran interés en la ley de IA, a Aabis le apasiona explorar la intersección de la inteligencia artificial y los marcos legales. Dedicada a comprender las implicaciones de la IA en diversos contextos legales, Aabis está interesada en investigar los avances en las tecnologías de IA y sus aplicaciones prácticas en el campo legal.