Si administra una mesa de negociación en un banco de inversión, conoce el desafío: los operadores necesitan información en tiempo real sobre el comportamiento del cliente, los patrones comerciales y las tendencias del mercado a partir de grandes cantidades de datos para tomar decisiones en una fracción de segundo. Sin embargo, rara vez tienen el tiempo durante el día, ni la capacidad de codificación, para construir y mantener sistemas capaces de entregar esos conocimientos. Con millones de filas de datos repartidos en múltiples herramientas de visualización, lograr una visibilidad de un extremo a otro es difícil. Los enfoques tradicionales obligan a los comerciantes a confiar en expertos en la materia para el análisis y colaborar con los equipos de TI para crear paneles personalizados. El proceso puede tardar días o semanas. El resultado es una brecha cada vez mayor entre los datos disponibles y las decisiones que deberían basarse.
Jefferies, una firma global de banca de inversión de servicio completo, reconoció este desafío como una oportunidad para aplicar IA agente para optimizar el funcionamiento de sus mesas de negociación de acciones. Al crear un asistente comercial de inteligencia artificial en AWS, Jefferies se propuso poner el poder del análisis de datos en tiempo real directamente en manos de los comerciantes sin necesidad de codificación, esperas en colas de TI y sin comprometer la precisión.
En esta publicación, exploramos cómo Jefferies superó estos desafíos con una solución basada en Strands Agents, un SDK de aprovechamiento de agentes para crear agentes de IA que pueden razonar, planificar y actuar orquestando llamadas a modelos básicos (FM) y herramientas externas. La solución utiliza modelos de lenguajes grandes (LLM), Amazon Bedrock y bases de conocimientos de Amazon Bedrock. También utiliza Model Context Protocol (MCP), un estándar abierto que ayuda a los agentes de IA a conectarse de forma segura a diversas fuentes de datos y herramientas a través de una interfaz unificada. Cubrimos la descripción general de la solución, la justificación para seleccionar la pila de tecnología subyacente, las lecciones aprendidas y el impacto comercial que la solución creada en Jefferies.
Descripción general de la solución
El asistente comercial de Front Office representa un cambio en la forma en que los operadores de acciones de Front Office de Capital Markets interactúan con los datos. En el centro de la solución se encuentra un agente de dominio específico que impulsa la conversación con los comerciantes a través de texto en lenguaje natural. Un conjunto de herramientas MCP permite al agente conectarse con fuentes de datos, incluidos repositorios de datos comerciales, archivos de mensajes de Intercambio de información financiera (FIX) y bases de datos en memoria. Cuando un comerciante envía una consulta al asistente comercial, Amazon Bedrock invoca un LLM (Anthropic Claude) para interpretar la intención del lenguaje natural, generar el SQL correspondiente y ejecutarlo en fuentes de datos subyacentes para mostrar la respuesta. La solución tiene una interfaz conversacional, que permite a los operadores profundizar en temas y explorar información de datos de manera conversacional. La solución mantiene el contexto de la conversación para proporcionar ideas y sugerencias relevantes para un análisis más profundo durante toda la duración de la sesión.
Cómo funciona la solución
La solución se integra con la infraestructura comercial existente de Jefferies a través de un proceso de ocho pasos que se muestra en el siguiente diagrama de arquitectura. Desde una perspectiva de seguridad, la solución utiliza Amazon Bedrock Guardrails para proporcionar moderación de contenido, filtrado de información de identificación personal (PII) para alinear la solución con las políticas de Jefferies y derechos de datos a nivel de fila para ayudar a prevenir el acceso accidental a datos confidenciales del cliente a través de controles de acceso inteligentes. También utiliza el registro de conversaciones para pistas de auditoría para cumplir con los requisitos de cumplimiento.
La interacción del usuario comienza con la interfaz comercial frontal de Jefferies, que ahora incluye un widget asistente de IA integrado. Cuando un comerciante plantea una pregunta, la solicitud fluye a través de un flujo de trabajo cuidadosamente orquestado.
Widget de interfaz de usuario: primero, el comerciante inicia sesión con sus credenciales en el sistema de inteligencia empresarial local de Jefferies: Global Flow Monitor (GFM). Una vez que un comerciante inicia sesión en GFM, tiene un widget de interfaz de usuario para interactuar con el agente asistente comercial. El servicio de autenticación utiliza Amazon Elastic Kubernetes Service (Amazon EKS). El servicio verifica que solo los comerciantes autorizados puedan acceder a datos comerciales confidenciales. Bot Service crea y administra la sesión del usuario, manteniendo el contexto en múltiples consultas. El Agente de Consulta (Strands) sirve como capa de orquestación inteligente de la solución. Cuando un comerciante plantea una pregunta en lenguaje natural, el agente primero consulta las bases de conocimiento de Amazon Bedrock, que utilizan Amazon Titan Embeddings para la recuperación semántica y mostrar esquemas de bases de datos, relaciones de tablas y patrones de consulta relevantes. En este contexto, Claude Sonnet analiza la intención del comerciante y genera una consulta SQL sintácticamente correcta. Luego, el agente evalúa sus herramientas de Protocolo de contexto de modelo (MCP) disponibles para determinar la fuente de datos correcta para la ejecución, ya sea la cuadrícula en memoria para posiciones en tiempo real o un almacén de datos históricos para análisis de series de tiempo. Amazon Bedrock proporciona al agente de consultas acceso a un LLM para planificar y ejecutar los pasos del agente. Las capacidades de razonamiento avanzadas del LLM permiten la comprensión del lenguaje natural, la generación de SQL y la orquestación de herramientas de varios pasos. El equipo también eligió Amazon Bedrock por su flexibilidad para elegir diferentes LLM a medida que evoluciona el asistente comercial. Amazon Bedrock Knowledge Bases proporciona una canalización de generación aumentada de recuperación (RAG) administrada que almacena representaciones integradas de los metadatos del modelo de datos subyacente (esquemas de tablas, definiciones de columnas y patrones de consulta). Cuando el Agente de Consulta recibe la pregunta de un comerciante, recupera el contexto del esquema relevante de la Base de Conocimiento para informar una construcción SQL precisa. Query Executor consulta los datos subyacentes una vez que el Agente de consulta identifica la fuente de datos correcta y crea la consulta SQL. El ejecutor de consultas intercepta las solicitudes de los usuarios e inyecta filtros SQL para proporcionar seguridad a nivel de fila para el acceso a los datos. El LLM elige la visualización que se mostrará y utilizamos una biblioteca de interfaz de usuario de rebajas para representar las visualizaciones. Almacenes de datos: las fuentes de datos reales consultadas por el Ejecutor de consultas, incluidas las bases de datos SQL en memoria y los mensajes FIX que contienen los datos comerciales y de ejecución subyacentes.
Exploremos el fundamento de nuestra selección de Strands Agents y arquitectura basada en herramientas MCP.
Agentes de hebras
Strands Agents es un SDK de arnés de agentes de código abierto que adopta un enfoque basado en modelos para crear y ejecutar agentes de IA en unas pocas líneas de código. Strands escala desde casos de uso de agentes sencillos hasta complejos, y desde el desarrollo local hasta la implementación en producción. Simplifica el desarrollo de agentes al adoptar las capacidades de los LLM para planificar, encadenar pensamientos, recurrir a herramientas y reflexionar. Con Strands, los desarrolladores pueden definir un mensaje y una lista de herramientas en el código para crear un agente, luego probarlo localmente e implementarlo en la nube. Strands planifica los próximos pasos del agente y ejecuta herramientas utilizando las capacidades de razonamiento avanzadas de los modelos. Para casos de uso de agentes más complejos, los desarrolladores pueden personalizar el comportamiento de sus agentes en Strands. Por ejemplo, puede especificar cómo se seleccionan las herramientas, personalizar cómo se administra el contexto, elegir dónde se almacenan el estado de la sesión y la memoria y crear aplicaciones multiagente.
Herramientas del protocolo de contexto modelo (MCP)
La solución implementa una arquitectura basada en herramientas Modelo-Contexto-Protocolo (MCP) donde cada fuente de datos se expone como una herramienta distinta que los agentes de Strands pueden invocar. Este enfoque ofrece tres ventajas que posicionan al sistema para el éxito a largo plazo. En primer lugar, el enfoque proporciona extensibilidad al permitir que se agreguen nuevas fuentes de datos como herramientas adicionales, sin requerir una reestructuración de la arquitectura central, una elección de diseño que el equipo tomó deliberadamente para dar cabida a una futura expansión funcional. En segundo lugar, proporciona separación de preocupaciones al encapsular la lógica para interactuar con cada sistema específico dentro de su propia herramienta, lo que hace que la arquitectura general sea más mantenible y comprobable. En tercer lugar, el diseño ofrece flexibilidad al permitir que Strands Agent seleccione dinámicamente qué herramientas usar en función de cada consulta, lo que permite flujos de trabajo que abarcan múltiples fuentes de datos.
Procesamiento de datos de múltiples fuentes
La solución proporciona una experiencia de usuario intuitiva. Un operador puede escribir una pregunta como la que aparece en la pantalla: "Dame el desglose del sector para operar en los EE. UU.". Detrás de escena, el asistente utiliza un LLM para generar la consulta SQL adecuada, la ejecuta con las fuentes de datos relevantes alojadas en nuestra cuadrícula de datos en memoria y recupera los resultados al instante.
El asistente comercial va más allá de la simple recuperación de datos. Puede generar visualizaciones dinámicas, convirtiendo consultas de texto en SQL que produce historias visuales con cuadros y gráficos. Cuando los operadores necesitan comparar las operaciones del sector actual con la actividad de ayer, el asistente genera automáticamente gráficos circulares con leyendas codificadas por colores, lo que facilita la detección rápida de tendencias y anomalías.
Lecciones aprendidas
A lo largo del proceso para desarrollar el agente asistente comercial de Front Office, el equipo de Jefferies descubrió varias lecciones clave que dieron forma a su estrategia empresarial de IA y su hoja de ruta de implementación. Estos conocimientos sirven como guía valiosa para las organizaciones de los mercados de capitales que crean aplicaciones de IA agentes a escala.
En primer lugar, el equipo mitigó el riesgo de alucinaciones al no depender deliberadamente de los LLM para generar visualizaciones. En cambio, implementaron un enfoque híbrido en el que el LLM maneja la comprensión del lenguaje natural y la generación de consultas, mientras que los motores de visualización dedicados representan los cuadros y gráficos reales. Esta separación de preocupaciones preserva la precisión de los datos y al mismo tiempo mantiene la interfaz conversacional que esperan los comerciantes.
En segundo lugar, el equipo utilizó bases de datos en memoria para maximizar los tiempos de respuesta. Los comerciantes necesitan información en una fracción de segundo sobre el comportamiento de los clientes, los patrones comerciales y las tendencias del mercado. Sin esta elección de arquitectura, las consultas al conjunto de datos subyacente habrían introducido una latencia inaceptable para las decisiones comerciales en tiempo real.
En tercer lugar, el equipo aprendió a esperar que el comportamiento de los usuarios evolucionara. El uso en el mundo real resultó dinámico. Los comerciantes interactuaron con el sistema de maneras inesperadas y sus patrones cambiaron con el tiempo. Invertir en observabilidad y circuitos de retroalimentación de los usuarios resultó esencial para adaptarse rápidamente a estos comportamientos cambiantes. Finalmente, el equipo adoptó una estrategia lingüística deliberada. Confiaron en Python para las interacciones LLM y la experimentación rápida, dado su rico panorama de inteligencia artificial y aprendizaje automático (AI/ML). Implementaron un procesamiento empresarial complejo en Java para aprovechar sus características de rendimiento para el procesamiento de datos de alto rendimiento y la integración con los sistemas comerciales existentes.
Impacto empresarial
Desde su lanzamiento, la solución de asistente comercial ha brindado ganancias de eficiencia mensurables en las operaciones comerciales y de ventas globales, lo que permite a los comerciantes redirigir el tiempo hacia las relaciones con los clientes y la toma de decisiones estratégicas en lugar de la disputa manual de datos. Estas ganancias de eficiencia se traducen directamente en una ventaja competitiva, ya que las mesas de operaciones ahora pueden dedicar más capacidad a incorporar clientes y profundizar las relaciones existentes. La solución ofrece una experiencia personalizada al adaptarse a la consulta de cada cliente utilizando herramientas MCP para acceder a fuentes de datos estructurados, no estructurados y en memoria y generar dinámicamente gráficos y tablas en respuesta. Más allá de la mesa de operaciones, la solución ha reducido materialmente el tiempo y el esfuerzo de TI consumidos anteriormente por la creación repetitiva de paneles, liberando a los equipos de tecnología para centrarse en iniciativas estratégicas de mayor valor. Quizás lo más notable es que la capacidad de consultar de forma segura millones de filas de datos de negociación de acciones utilizando lenguaje natural ha democratizado el acceso a los datos. Esto fomenta una cultura basada en datos en la que las decisiones se basan en análisis en tiempo real en lugar de intuición o informes retrasados.
Mirando hacia adelante
La hoja de ruta de Jefferies señala la escalabilidad y la ambición de este enfoque de IA agente. El equipo planea implementar Trade Assistant a nivel mundial para múltiples tipos de productos y escritorios, mejorar las capacidades de auditoría con herramientas de generación de código que utilizan procesamiento de lenguaje natural (NLP) y agregar funciones de Amazon Bedrock AgentCore a su sistema de inteligencia artificial empresarial. Estas inversiones muestran un compromiso para ampliar las capacidades impulsadas por la IA en toda la organización. La integración con las aplicaciones de inteligencia empresarial (BI) de Equities existentes y la capacidad de consultar múltiples fuentes de datos estructurados, no estructurados y en memoria posicionan a Jefferies a la vanguardia de la innovación comercial impulsada por la IA.
Conclusión
En esta publicación, analizamos cómo Jefferies y AWS colaboraron para crear un asistente comercial de inteligencia artificial que transforma la forma en que los operadores interactúan con los datos de acciones en las operaciones comerciales y de ventas globales. El asistente comercial de Jefferies Equities ejemplifica cómo la IA agente está remodelando los mercados de capital al convertir a cada operador en un científico de datos capaz de extraer información sofisticada a través de una simple conversación. Estos sistemas de IA agentes actúan como colaboradores inteligentes que comprenden el contexto, aprenden de las interacciones y guían de manera proactiva a los usuarios hacia mejores resultados. El cambio de la recuperación reactiva de datos a la inteligencia proactiva marca una nueva era en las operaciones comerciales. A medida que esta tecnología se expanda globalmente y entre clases de activos, promete redefinir la ventaja competitiva en las operaciones de front office en los próximos años.
Para comenzar a crear sus propias aplicaciones de IA agente, explore Strands Agents, obtenga más información sobre los patrones de integración de MCP utilizados en esta solución o comuníquese con el equipo de su cuenta de AWS para discutir la participación adaptada a su caso de uso.
Sobre los autores
Sanjay Nagraj
Sanjay es un líder tecnológico que lidera la entrega de soluciones en Equities Front Office. Las iniciativas clave incluyen aprovechar los servicios disponibles en la nube para ofrecer soluciones híbridas.
Vipul Parekh
Vipul es gerente senior de soluciones para clientes en AWS y orienta a los clientes de FinTech y de mercados de capitales para acelerar su viaje de transformación empresarial en la nube. Es embajador de la IA generativa y miembro de la comunidad de campo técnico de IA/ML de AWS. Antes de unirse a AWS, Vipul desempeñó varios roles en las principales organizaciones de servicios financieros, liderando transformaciones.
Saby Sahoo
Saby es arquitecto senior de soluciones en AWS. Saby tiene más de 20 años de experiencia en el diseño e implementación de soluciones de TI, análisis de datos y AI/ML/GenAI.