Con El blog del mes pasado, Comencé una serie de publicaciones que destacan los factores clave que impulsan a los clientes a elegir La roca madre del AmazonasExploré cómo Bedrock permite a los clientes construir una base segura y compatible para aplicaciones de IA generativa. Ahora me gustaría abordar un diferenciador un poco más técnico, pero igualmente importante, de Bedrock: las múltiples técnicas que se pueden utilizar para personalizar los modelos y satisfacer las necesidades comerciales específicas.
Como todos hemos escuchado, los modelos de lenguaje de gran tamaño (LLM, por sus siglas en inglés) están transformando la forma en que aprovechamos la inteligencia artificial (IA) y permiten a las empresas repensar los procesos centrales. Estos modelos, entrenados con conjuntos de datos masivos, pueden comprender rápidamente los datos y generar respuestas relevantes en diversos dominios, desde resumir contenido hasta responder preguntas. La amplia aplicabilidad de los LLM explica por qué los clientes de los sectores de la atención médica, los servicios financieros y los medios de comunicación y el entretenimiento están adoptándolos rápidamente. Sin embargo, nuestros clientes nos dicen que, si bien los LLM previamente entrenados se destacan en el análisis de grandes cantidades de datos, a menudo carecen del conocimiento especializado necesario para abordar desafíos comerciales específicos.
La personalización libera el potencial transformador de los modelos de lenguaje de gran tamaño. Amazon Bedrock le proporciona un conjunto de herramientas potente y completo para transformar su IA generativa de una talla única La personalización incluye diversas técnicas, como ingeniería de indicaciones, generación aumentada de recuperación (RAG), ajuste fino y capacitación previa continua. La ingeniería de indicaciones implica la elaboración cuidadosa de indicaciones para obtener una respuesta deseada de los LLM. RAG combina el conocimiento recuperado de fuentes externas con la generación de lenguaje para proporcionar respuestas más contextuales y precisas. Las técnicas de personalización de modelos, que incluyen el ajuste fino y la capacitación previa continua, implican una capacitación adicional de un modelo de lenguaje previamente entrenado en tareas o dominios específicos para un mejor rendimiento. Estas técnicas se pueden usar en combinación entre sí para entrenar modelos base en Amazon Bedrock con sus datos para ofrecer resultados contextuales y precisos. Lea los siguientes ejemplos para comprender cómo los clientes utilizan la personalización en Amazon Bedrock para cumplir con sus casos de uso.
Thomson Reutersuna empresa global de contenido y tecnología, ha obtenido resultados positivos con Claude 3 Haiku, pero prevé resultados aún mejores con la personalización. La empresa, que presta servicios a profesionales del ámbito legal, fiscal, contable, de cumplimiento, gubernamental y de los medios de comunicación, espera obtener resultados de IA aún más rápidos y relevantes al perfeccionar Claude con su experiencia en la industria.
“Estamos entusiasmados por perfeccionar el modelo Claude 3 Haiku de Anthropic en Amazon Bedrock para mejorar aún más nuestras soluciones basadas en Claude. Thomson Reuters tiene como objetivo brindar experiencias de usuario precisas, rápidas y consistentes. Al optimizar Claude en función de nuestra experiencia en la industria y los requisitos específicos, anticipamos mejoras mensurables que brindan resultados de alta calidad a velocidades aún más rápidas. Ya hemos visto resultados positivos con Claude 3 Haiku, y el ajuste nos permitirá adaptar nuestra asistencia de IA con mayor precisión”.
– Joel Hron, director de tecnología de Thomson Reuters.
En Amazon, vemos Comprar con Prime Utilizando las capacidades de personalización de vanguardia basadas en RAG de Amazon Bedrock para impulsar una mayor eficiencia. Sus pedidos en los sitios de los comerciantes están cubiertos por Compra con Prime AssistServicio de atención al cliente por chat en vivo las 24 horas, los 7 días de la semana. Recientemente lanzaron una solución de chatbot en versión beta capaz de manejar consultas de soporte de productos. La solución está impulsada por Amazon Bedrock y personalizada con datos para ir más allá de los sistemas tradicionales basados en correo electrónico. Mi colega Amit Nandy, gerente de productos en Buy with Prime, dice:
“Al indexar los sitios web de los comerciantes, incluidos los subdominios y los manuales en PDF, construimos bases de conocimiento personalizadas que brindaron soporte relevante y completo para las ofertas exclusivas de cada comerciante. Combinadas con los modelos básicos de vanguardia de Claude y Barandillas para Amazon Bedrock“Nuestra solución de chatbot ofrece una experiencia de cliente altamente eficaz, segura y confiable. Los compradores ahora pueden recibir asistencia precisa, oportuna y personalizada para sus consultas, lo que fomenta una mayor satisfacción y fortalece la reputación de Buy with Prime y sus comerciantes participantes”.
Historias como estas son la razón por la que continuamos redoblando nuestras capacidades de personalización para aplicaciones de IA generativa impulsadas por Amazon Bedrock.
En este blog, exploraremos las tres técnicas principales para personalizar los LLM en Amazon Bedrock y abordaremos los anuncios relacionados de la reciente cumbre de AWS en Nueva York.
Ingeniería rápida: cómo orientar su aplicación hacia las respuestas deseadas
Los mensajes son los elementos principales que impulsan a los estudiantes de maestría a generar respuestas. La ingeniería de mensajes es la práctica de elaborar cuidadosamente estos mensajes para guiar a los estudiantes de maestría de manera eficaz. Obtenga más información aquíLos mensajes bien diseñados pueden mejorar significativamente el rendimiento de un modelo al brindar instrucciones claras, contexto y ejemplos adaptados a la tarea en cuestión. Amazon Bedrock admite múltiples técnicas de ingeniería de mensajes. Por ejemplo, Incitación a unos pocos disparos proporciona ejemplos con resultados deseados para ayudar a los modelos a comprender mejor las tareas, como muestras de análisis de sentimientos etiquetadas como “positivas” o “negativas”. Incitación a disparar cero Proporciona descripciones de tareas sin ejemplos. Y cadena de pensamiento La estimulación mejora el razonamiento de varios pasos al pedir a los modelos que descompongan problemas complejos, lo que resulta útil para tareas aritméticas, lógicas y deductivas.
Nuestro Directrices de ingeniería rápidas Se describen varias estrategias de estímulo y las mejores prácticas para optimizar el rendimiento de LLM en todas las aplicaciones. Aprovechar estas técnicas puede ayudar a los profesionales a lograr los resultados deseados de manera más eficaz. Sin embargo, desarrollar estímulos óptimos que generen las mejores respuestas de los modelos básicos es un proceso desafiante e iterativo, que a menudo requiere semanas de refinamiento por parte de los desarrolladores.
| Incitación a disparar cero | Incitación a unos pocos disparos |
 |
|
| Incitación a la cadena de pensamiento con Prompt Flows Visual Builder | |
|
|
Generación aumentada con recuperación: aumento de resultados con datos recuperados
Los LLM generalmente carecen de conocimientos especializados, jerga, contexto o información actualizada necesaria para tareas específicas. Por ejemplo, los profesionales del derecho que buscan información confiable, actual y precisa dentro de su dominio pueden encontrar inadecuadas las interacciones con LLM generalistas. La generación aumentada por recuperación (RAG) es el proceso que permite que un modelo de lenguaje consulte una base de conocimiento autorizada fuera de sus fuentes de datos de entrenamiento, antes de generar una respuesta.
El proceso RAG implica tres pasos principales:
- Recuperación:Dada una solicitud de entrada, un sistema de recuperación identifica y obtiene pasajes o documentos relevantes de una base de conocimiento o corpus.
- Aumento:La información recuperada se combina con el mensaje original para crear una entrada aumentada.
- Generación:El LLM genera una respuesta basada en la entrada aumentada, aprovechando la información recuperada para producir resultados más precisos e informados.
Las bases de conocimiento de Amazon Bedrock son una función de RAG completamente administrada que le permite conectar las bases de datos de nivel LLM a fuentes de datos internas de la empresa, lo que brinda respuestas relevantes, precisas y personalizadas. Para ofrecer mayor flexibilidad y precisión en la creación de aplicaciones basadas en RAG, anunciamos varias capacidades nuevas en la Cumbre de AWS de Nueva York. Por ejemplo, ahora puede acceder de forma segura a los datos de nuevas fuentes como el web (en vista previa), lo que le permite indexar páginas web públicas o acceder a datos empresariales de Confluence, SharePoint y Salesforce (todos en vista previa). Opciones de fragmentación avanzadas son otra característica nueva y emocionante que le permite crear algoritmos de fragmentación personalizados adaptados a sus necesidades específicas, así como aprovechar las opciones de fragmentación semántica y jerárquica integradas. Ahora tiene la capacidad de extraer información con precisión de formatos de datos complejos (por ejemplo, tablas complejas dentro de archivos PDF), gracias a técnicas de análisis avanzadas. Además, la función de reformulación de consultas le permite deconstruir consultas complejas en subconsultas más simples, lo que mejora la precisión de la recuperación. Todas estas nuevas características lo ayudan a reducir el tiempo y el costo asociados con el acceso a los datos y a construir recursos de conocimiento altamente precisos y relevantes, todos adaptados a sus casos de uso empresarial específicos.
Personalización de modelos: mejora del rendimiento para tareas o dominios específicos
La personalización de modelos en Amazon Bedrock es un proceso para personalizar modelos de lenguaje previamente entrenados para tareas o dominios específicos. Implica tomar un modelo grande, previamente entrenado y entrenarlo aún más en un conjunto de datos más pequeño y especializado relacionado con su caso de uso. Este enfoque aprovecha el conocimiento adquirido durante la fase inicial de preentrenamiento mientras adapta el modelo a sus requisitos, sin perder las capacidades originales. El proceso de ajuste fino en Amazon Bedrock está diseñado para ser eficiente, escalable y rentable, lo que le permite adaptar los modelos de lenguaje a sus necesidades únicas, sin la necesidad de recursos computacionales o datos extensos. En Amazon Bedrock, el ajuste fino del modelo se puede combinar con ingeniería rápida o el enfoque de recuperación-generación aumentada (RAG) para mejorar aún más el rendimiento y las capacidades de los modelos de lenguaje. La personalización del modelo se puede implementar tanto para datos etiquetados como sin etiquetar.
Ajuste fino con datos etiquetados implica proporcionar datos de entrenamiento etiquetados para mejorar el rendimiento del modelo en tareas específicas. El modelo aprende a asociar los resultados adecuados con determinadas entradas, ajustando sus parámetros para lograr una mayor precisión en las tareas. Por ejemplo, si tiene un conjunto de datos de reseñas de clientes etiquetadas como positivas o negativas, puede ajustar un modelo entrenado previamente dentro de Bedrock con estos datos para crear un modelo de análisis de sentimientos adaptado a su dominio. En la Cumbre de Nueva York de AWS, anunciamos Afinando el Haiku Claude 3 de AnthropicAl proporcionar conjuntos de datos de entrenamiento específicos para cada tarea, los usuarios pueden ajustar y personalizar Claude 3 Haiku, mejorando su precisión, calidad y consistencia para sus aplicaciones comerciales.
Entrenamiento previo continuo con datos sin etiquetartambién conocida como adaptación de dominio, le permite entrenar aún más los LLM en los datos sin etiquetar y exclusivos de su empresa. Expone el modelo a sus patrones de lenguaje y conocimientos específicos del dominio, lo que mejora su comprensión y rendimiento para tareas específicas.
La personalización es la clave para liberar el verdadero poder de la IA generativa
Los grandes modelos de lenguaje están revolucionando las aplicaciones de IA en todas las industrias, pero adaptar estos modelos generales con conocimiento especializado es clave para desbloquear su impacto comercial completo. Amazon Bedrock permite a las organizaciones personalizar los LLM a través de técnicas de ingeniería de indicaciones, como la gestión de indicaciones y los flujos de indicaciones, que ayudan a crear indicaciones efectivas. La generación aumentada por recuperación, impulsada por las bases de conocimiento de Amazon Bedrock, le permite integrar los LLM con fuentes de datos patentadas para generar respuestas precisas y específicas del dominio. Y las técnicas de personalización de modelos, que incluyen el ajuste fino con datos etiquetados y el entrenamiento previo continuo con datos no etiquetados, ayudan a optimizar el comportamiento de los LLM para sus necesidades únicas. Después de analizar detenidamente estos tres métodos de personalización principales, queda claro que, si bien pueden adoptar enfoques diferentes, todos comparten un objetivo común: ayudarlo a abordar sus problemas comerciales específicos.
Recursos
Para obtener más información sobre la personalización con Amazon Bedrock, consulte los siguientes recursos:
- Aprender más acerca de La roca madre del Amazonas
- Aprender más acerca de Bases de conocimiento de Amazon Bedrock
- Leer el anuncio del blog en conectores de datos adicionales en Bases de conocimiento para Amazon Bedrock
- Leer el blog en Opciones avanzadas de fragmentación y análisis en Bases de conocimiento para Amazon Bedrock
- Aprender más acerca de Ingeniería rápida
- Aprender más acerca de Técnicas y mejores prácticas de ingeniería rápida
- Leer el anuncio del blog en Gestión de avisos y flujos de avisos
- Aprender más acerca de Puesta a punto y preentrenamiento continuo
- Lea el blog del anuncio en Afinando el Haiku Claude 3 de Anthropic
Sobre el Autor
Vasi Philomin es vicepresidente de IA generativa en AWS. Lidera iniciativas de IA generativa, incluidas Amazon Bedrock y Amazon Titan.