Esta publicación es coautora de Karsten Weber y Rosary Wang de Lexbe.
Los profesionales legales con frecuencia tienen la tarea de examinar a través de grandes volúmenes de documentos para identificar evidencia crítica de litigios. Este proceso puede llevar mucho tiempo, propenso al error humano y costoso, especialmente cuando se cierran los plazos ajustados. Lexbe, un líder en software de revisión de documentos legales, se enfrentó a estos desafíos de frente al usar Roca madre de Amazon. Integrando los servicios avanzados de IA y aprendizaje automático ofrecidos por Amazon, Lexbe Aprecio su proceso de revisión de documentos, aumentando tanto la eficiencia como la precisión. En esta publicación de blog, exploramos cómo Lexbe usó Amazon Bedrock y otros servicios de AWS para superar los desafíos comerciales y ofrecer una solución escalable y de alto rendimiento para el análisis legal de documentos.
Desafíos comerciales y por qué importan
Los profesionales legales enfrentan rutinariamente la tarea desalentadora de administrar y analizar conjuntos masivos de documentos de casos, que pueden variar entre 100.000 y más de un millón. Identificar rápidamente la información relevante dentro de estos grandes conjuntos de datos a menudo es fundamental para construir un caso fuerte, o prevenir una supervisión costosa. Lexbe aborda este desafío utilizando el rock de Amazon en su aplicación personalizada: Lexbe Pilot
LEXBE Pilot es un asistente de preguntas y respuestas de AI integrado en la plataforma Lexbe Ediscovery. Permite a los equipos legales consultar y extraer instantáneamente las ideas de todo el cuerpo de documentos en un caso completo utilizando una IA generativa, lo que elimina la necesidad de una investigación y análisis manuales que consumen mucho tiempo. Usando Bases de conocimiento de Amazon Bedrocklos usuarios pueden consultar un conjunto de datos completo y recuperar resultados contextualmente relevantes contextualmente relevantes. Este enfoque va mucho más allá de las búsquedas tradicionales de palabras clave al ayudar a los equipos legales a identificar críticos o pistola de fumar documentos que de otro modo podrían permanecer ocultos. A medida que crecen los casos legales, las búsquedas de palabras clave que anteriormente devolvieron un puñado de documentos ahora podrían producir cientos o incluso miles. LEXBE Pilot destila estos grandes resultados en respuestas concisas y significativas: dar a los equipos legales de las que necesitan para tomar decisiones informadas.
No abordar estos desafíos puede conducir a evidencia perdida, posiblemente resultando en resultados desfavorables. Con Amazon Bedrock y sus servicios asociados, Lexbe ofrece una solución escalable y de alto rendimiento que faculta a los profesionales legales para navegar por el creciente panorama de descubrimiento electrónico de manera eficiente y precisa.
Descripción general de la solución: Bedrock de Amazon como base
LEXBE transformó su proceso de revisión de documentos integrando Amazon Bedrock, un poderoso conjunto de servicios de IA y Aprendizaje Machine (ML). Con una profunda integración en el ecosistema de AWS, Amazon Bedrock ofrece el rendimiento y la escalabilidad necesarios para satisfacer las rigurosas demandas de los clientes de Lexbe en la industria legal.
Servicios clave de AWS utilizados:
- Bedrock de Amazon. Un servicio totalmente administrado que ofrece modelos de base de alto rendimiento (FMS) para tareas de idiomas a gran escala. Al usar estos modelos, Lexbe puede analizar rápidamente grandes cantidades de documentos legales con una precisión excepcional.
- Bases de conocimiento de Amazon Bedrock. Proporciona un apoyo totalmente administrado para un flujo de trabajo de generación de recuperación de extremo a extremo (RAG), lo que permite a LEXBE ingerir documentos, realizar búsquedas semánticas y recuperar información contextualmente relevante.
- Amazon OpenSearch. Indexa todo el texto del documento y los metadatos correspondientes. Se utilizan modos de vector y texto. Esto le permite a LEXBE localizar rápidamente documentos específicos o información clave en grandes conjuntos de datos por vector o por palabra clave.
- AWS Fargate. Orquesta el análisis y el procesamiento de cargas de trabajo a gran escala en un entorno de contenedores sin servidor, lo que permite a LEXBE escalar horizontalmente sin la necesidad de administrar la infraestructura del servidor subyacente.
Amazon Bedrock Bases Bases Arquitectura y flujo de trabajo
La integración de Amazon Bedrock dentro de la plataforma de Lexbe se muestra en el siguiente diagrama de arquitectura. La arquitectura está diseñada para manejar la ingestión a gran escala y la recuperación de documentos legales.
- Acceso de usuario: Un usuario accede a la aplicación frontend a través de un navegador web.
- Enrutamiento de solicitud: La solicitud se enruta a través de Amazon Cloudfrontque se conecta al backend a través de un Balancador de carga de la aplicación.
- Procesamiento de backend: Los servicios de backend que se ejecutan en Fargate manejan la solicitud e interactúan con los componentes del sistema.
- Manejo de documentos: Los documentos legales se almacenan en un Amazon Simple Storage Service (Amazon S3) cubo, y Apache Tika extrae texto de estos documentos. El texto extraído se almacena como archivos de texto individuales en un cubo S3 separado. Este cubo se utiliza como repositorio de origen para Amazon Bedrock.
- Creación de incrustación: El texto extraído se procesa utilizando Titan Text V2 para generar incrustaciones. Lexbe experimentó con múltiples modelos de incrustación, incluido Amazon Titán y coherentes y probadas configuraciones con diferentes tamaños de tokens (por ejemplo, 512 en comparación con 1024 tokens).
- Incrustación de sorage: Los incrustaciones generadas se almacenan en una base de datos de vectores para una recuperación rápida.
- Ejecución de consulta: Amazon Bedrock Knowledge Bases recupera datos relevantes de la base de datos Vector para una consulta dada.
- Integración de LLM: El modelo de lenguaje grande (LLM) del soneto de Amazon Bedrock 3.5 procesa los datos recuperados para generar una respuesta coherente y precisa.
- Entrega de respuesta: La respuesta final se devuelve al usuario utilizando la aplicación frontend a través de CloudFront.
Colaboración de Amazon y Lexbe
Durante un período de ocho meses, Lexbe trabajó de la mano con el equipo de bases de conocimiento de Amazon Bedrock para mejorar el rendimiento y la precisión de su función piloto. Esta colaboración incluyó reuniones de estrategia semanales entre equipos senior de ambas organizaciones, lo que permite iteraciones rápidas. Desde el principio, Lexbe estableció criterios de aceptación claros centrados en lograr tasas de recuerdo específicas. Estas métricas sirvieron como punto de referencia para cuándo la función estaba lista para la producción. Como se ilustra en la siguiente figura, el rendimiento del sistema experimentó cinco hitos significativos, cada uno marcando un salto hacia la producción. Nos centramos en la tasa de recuperación porque identificar los documentos correctos es fundamental para obtener la respuesta correcta. A diferencia de algunos casos de uso para la generación aumentada de recuperación (RAG) donde el usuario tiene una pregunta específica que a menudo puede ser respondida por algunos documentos, estamos buscando generar informes de hallazgos de hallazgos que requieren una gran cantidad de documentos fuente. Por esta razón, nos centramos en la tasa de recuperación para ayudar a garantizar que las bases de conocimiento de la roca madre de Amazon no dejen de lado la información importante.
Primera iteración: Enero de 2024. El sistema inicial solo tenía una tasa de retiro del 5% que mostraba que se necesitaba mucho trabajo para llegar a la producción.
Segunda iteración: Abril de 2024. Se agregaron nuevas características a las bases de conocimiento de Amazon Bedrock que conducen a un impulso notable en precisión. Ahora estábamos con una tasa de retiro del 36%.
Tercera iteración: Junio de 2024. El ajuste de los parámetros, particularmente alrededor del tamaño del token, condujo a otro salto en el rendimiento. Esto llevó la tasa de retiro al 60%.
Cuarta iteración: Agosto de 2024. Se logró una tasa de recuperación del 66% utilizando modelos Titan Incorped Text-V2.
Quinta iteración: Diciembre de 2024. La introducción de la tecnología Reranker demostró ser invaluable y habilitó hasta una tasa de recuperación del 90%.
El resultado final es impresionante
- Amplios informes de estilo humano. En un asunto de accidente industrial, se le pidió a Pilot que realizara un análisis completo de hallazgos de hecho. Produjo un informe pulido de cinco páginas completo con encabezados de sección claros e hipervínculos a cada documento fuente, independientemente de si esos documentos estaban en inglés, español o cualquier otro idioma.
- Inferencia profunda y automatizada. En un caso de decenas de miles de documentos, preguntamos: “¿Quién es el hijo de Bob?” No había referencia explícita a sus hijos en ningún lado. Sin embargo, el piloto se concentró en un correo electrónico que comenzó “Querida Fam”, cerró con “Love, Mom/Linda”, e incluyó el primer y apellido de los niños en los metadatos. Al conectar esos puntos, identificó con precisión al hijo de Bob y citó el correo electrónico exacto donde se hizo la inferencia.
Las técnicas tradicionales en el ediscovery no pueden hacer ninguna de las anteriores. Con piloto, los equipos legales pueden:
- Generar informes procesables que los abogados pueden iterar rápidamente para un análisis más profundo.
- Racionalizar el ediscover Al surgir conexiones críticas que van mucho más allá de las simples coincidencias de texto.
- Desbloquear ideas estratégicas en momentos, incluso de datos multilingües.
Ya sea que necesite un informe integral y legible por el ser humano o una inteligencia centrada en el láser sobre las relaciones que acechan en sus datos, Lexbe Pilot, impulsado por las bases de conocimiento de Amazon Bedrock, ofrece la información precisa que necesita: rápido.
Beneficios de integrar los servicios de roca madre y AWS de Amazon
Al integrar la base de Amazon con otros servicios de AWS, Lexbe obtuvo varias ventajas estratégicas en su proceso de revisión de documentos:
Escalabilidad. Usando Amazon Elastic Container Service (Amazon ECS) y AWS Fargate, Lexbe puede escalar dinámicamente su infraestructura de procesamiento.
Rentabilidad. El procesamiento en Amazon ECS Linux Spot Market proporciona una ventaja de costo significativa.
Seguridad. El sólido marco de seguridad de AWS, incluidos el cifrado y los controles de acceso basados en roles, salvaguardan los documentos legales confidenciales. Esto es crítico para los clientes de Lexbe, que deben adherirse a los estrictos requisitos de confidencialidad.
Conclusión: una solución escalable, precisa y rentable
A través de su integración de Amazon Bedrock, Lexbe ha transformado su plataforma de revisión de documentos en una solución altamente eficiente, escalable y precisa. Al combinar Amazon Bedrock, Amazon OpenSearch y AWS Fargate, lograron mejoras marcadas tanto en la precisión de la recuperación como en la velocidad de procesamiento, todo mientras mantienen los costos bajo control. El éxito de Lexbe ilustra el poder de los servicios AWS AI/ML para abordar los desafíos complejos del mundo real. Al aprovechar las ofertas flexibles, escalables y rentables de AWS, Lexbe está bien equipado para satisfacer las necesidades en evolución de la industria legal, tanto hoy como en el futuro. Si su organización enfrenta desafíos complejos que podrían beneficiarse de las soluciones con AI/ML, da el siguiente paso con AWS. Comience trabajando estrechamente con su arquitecto de soluciones de AWS para diseñar una estrategia personalizada que se alinee con sus necesidades únicas. Interactúe con el equipo de productos de AWS para explorar los servicios de vanguardia para asegurarse de que su solución sea escalable, segura y preparada para el futuro. Juntos, podemos ayudarlo a innovar más rápido, reducir costos y ofrecer resultados transformadores.
Sobre los autores
Wei Chen es un arquitecto senior de soluciones en Amazon Web Services, con sede en Austin, Texas. Con más de 20 años de experiencia, se especializa en ayudar a los clientes a diseñar e implementar soluciones para desafíos técnicos complejos. En su papel en AWS, WEI se asocia con organizaciones para modernizar sus aplicaciones y aprovechar completamente las capacidades en la nube para cumplir con los objetivos comerciales estratégicos. Su área de especialización es AI/ML y AWS Security Services.
Gopikrishnan Anilkumar es un gerente de producto técnico principal en Amazon. Tiene más de 10 años de experiencia en gestión de productos en una variedad de dominios y es un apasionado de la IA/ML.
Sandeep Singh es un científico senior de datos de IA generativos en Amazon Web Services, que ayuda a las empresas a innovar con IA generativa. Se especializa en IA generativa, aprendizaje automático y diseño de sistemas. Ha entregado con éxito soluciones de última generación a I/ML para resolver problemas comerciales complejos para diversas industrias, optimizando la eficiencia y la escalabilidad.
Karsten Weber es el CTO y cofundador de Lexbe, un proveedor de eDiscovery, desde enero de 2006. Con sede en Austin, Texas, Lexbe ofrece Lexbe Online ™, una aplicación de educación, litigios y procesamiento legal de documentos legales, producción, revisión y gestión de casos. Bajo el liderazgo de Karsten, Lexbe ha desarrollado una plataforma robusta y servicios integrales de eDiscovery que ayudan a las firmas y organizaciones de abogados con la gestión eficiente de los grandes conjuntos de datos ESI para la producción legal de revisión y descubrimiento. La experiencia de Karsten en tecnología e innovación ha sido fundamental para impulsar el éxito de Lexbe en los últimos 19 años.
Rosario Wang es ingeniero de software Sr. en LEXBE, un proveedor de software y servicios de Ediscovery con sede en Austin, Texas.