Acelerar el desarrollo de IA con las teclas de la API de roca madre de Amazon

Hoy, estamos emocionados de anunciar una mejora significativa en la experiencia del desarrollador de Roca madre de Amazon: API Keys. Las teclas API proporcionan un acceso rápido a las API de roca madre de Amazon, racionalizando el proceso de autenticación para que los desarrolladores puedan centrarse en la construcción en lugar de la configuración.

Camelai es un marco modular y de código abierto para construir sistemas inteligentes de múltiples agentes para generación de datos, simulación mundial y automatización de tareas.

“Como una startup con recursos limitados, la incorporación de clientes optimizada es fundamental para nuestro éxito. Las teclas de la API de rock de roca de Amazon nos permiten a los clientes empresariales incorporados en minutos en lugar de horas. Con Bedrock, nuestros clientes pueden aprovechar rápidamente el acceso a los principales modelos de IA e integrarlos sin problemas en Camelai”.

dijo Miguel Salinas, CTO, Camelai.

En esta publicación, explore cómo funcionan las claves API y cómo puede comenzar a usarlas hoy.

Autenticación clave de API

Amazon Bedrock ahora proporciona acceso clave de API para optimizar la integración con herramientas y marcos que esperan autenticación basada en la llave API. Los SDK de Amazon Bedrock y Amazon Bedrock de ejecución admiten la autenticación API de API para métodos que incluyen inferencia a pedido, inferencia de rendimiento aprovisionada, ajuste del modelo, destilación y evaluación.

El diagrama compara el proceso de autenticación predeterminado con el lecho de roca de Amazon (en naranja) con el enfoque de teclas API (en azul). En el proceso predeterminado, debe crear una identidad en Centro de identidad de AWS IAM O IAM, adjunte las políticas de IAM para proporcionar permisos para realizar operaciones API y generar credenciales, que luego puede usar para hacer llamadas API. Las cajas grises en el diagrama resaltan los pasos que Amazon Bedrock ahora agiliza al generar una tecla API. Los desarrolladores ahora pueden autenticar y acceder a las API de rock de Amazon con una sobrecarga mínima de configuración.

Puede generar claves API en la consola de roca madre de Amazon, eligiendo entre dos tipos.

Con claves API a largo plazopuede establecer tiempos de vencimiento que van desde 1 día hasta no vencer. Estas claves están asociadas con un usuario de IAM que Amazon Bedrock crea automáticamente para usted. El sistema adjunta el AmazonbedRocklimitedAccess Política administrada para este usuario de IAM, y luego puede modificar los permisos según sea necesario a través del servicio IAM. Recomendamos usar claves a largo plazo principalmente para la exploración de Amazon Bedrock.

Claves API a corto plazo Use los permisos de IAM de su principal principal IAM y expire cuando finalice la sesión de su cuenta o pueda durar hasta 12 horas. Uso de claves API a corto plazo AWS Signature versión 4 para la autenticación. Para el uso continuo de aplicaciones, puede implementar la tecla API refrescante con un script como se muestra en este ejemplo. Le recomendamos que use claves API a corto plazo para configuraciones que requieren un mayor nivel de seguridad.

Haciendo su primera llamada API

Una vez que tener acceso Para los modelos de base, comenzar con la llave de la API Bedrock de Amazon es sencillo. Aquí le mostramos cómo hacer su primera llamada de API usando el AWS SDK para Python (Boto3 SDK) y claves API:

Generar una clave API

Para generar una clave API, siga estos pasos:

1. Inicie sesión en la consola de gestión de AWS y abra el Consola de roca en Amazon
2. En el panel de navegación izquierda, seleccione Llaves de API
3. Elegir Generar la clave API a corto plazo o Generar la clave API a largo plazo
4. Para claves a largo plazo, establezca el tiempo de vencimiento deseado y opcionalmente configure permisos avanzados
5. Elegir Generar y copia tu clave API

Establezca su clave API como variable de entorno

Puede establecer su clave API como una variable de entorno para que se reconoce automáticamente cuando realiza solicitudes de API:

# To set the API key as an environment variable, you can open a terminal and run the following command:
export AWS_BEARER_TOKEN_BEDROCK=${api-key}

El SDK de Boto3 detecta automáticamente su variable de entorno cuando crea un cliente de Amazon Bedrock.

Haz tu primera llamada API

Ahora puede hacer llamadas de API a Amazon Bedrock de múltiples maneras:

1. Usando curl

   curl -X POST "https://bedrock-runtime.us-east-1.amazonaws.com/model/us.anthropic.claude-3-5-haiku-20241022-v1:0/converse" \
     -H "Content-Type: application/json" \
     -H "Authorization: Bearer $AWS_BEARER_TOKEN_BEDROCK" \
     -d '{
       "messages": [
           {
               "role": "user",
               "content": [{"text": "Hello"}]
           }
       ]
     }'

2. Usando el SDK de Amazon Bedrock:

   import boto3
   
   # Create an Amazon Bedrock client
   client = boto3.client(
       service_name="bedrock-runtime",
       region_name="us-east-1"     # If you've configured a default region, you can omit this line
   ) 
   
   # Define the model and message
   model_id = "us.anthropic.claude-3-5-haiku-20241022-v1:0"
   messages = [{"role": "user", "content": [{"text": "Hello"}]}]
      
   response = client.converse(
       modelId=model_id,
       messages=messages,
   )
   
   # Print the response
   print(response['output']['message']['content'][0]['text'])

3. También puede usar bibliotecas nativas como las solicitudes de Python:

   import requests
   import os
   
   url = "https://bedrock-runtime.us-east-1.amazonaws.com/model/us.anthropic.claude-3-5-haiku-20241022-v1:0/converse"
   
   payload = {
       "messages": [
           {
               "role": "user",
               "content": [{"text": "Hello"}]
           }
       ]
   }
   
   headers = {
       "Content-Type": "application/json",
       "Authorization": f"Bearer {os.environ['AWS_BEARER_TOKEN_BEDROCK']}"
   }
   
   response = requests.request("POST", url, json=payload, headers=headers)
   
   print(response.text)

Puir la experiencia del desarrollador y los requisitos de seguridad empresarial

Los administradores empresariales ahora pueden optimizar su incorporación de usuarios a Amazon Bedrock Foundation Models. Con configuraciones que requieren un mayor nivel de seguridad, los administradores pueden habilitar claves API a corto plazo para sus usuarios. Las claves API a corto plazo utilizan AWS Signature Versión 4 y los directores de IAM existentes, manteniendo controles de acceso establecidos implementados por los administradores.

Para fines de auditoría y cumplimiento, todas las llamadas de API están iniciadas AWS CloudTrail. Las claves API se pasan como encabezados de autorización a las solicitudes de API y no están registradas.

Conclusión

Las teclas API de Amazon Bedrock están disponibles en 20 Regiones de AWS Donde está disponible Amazon Bedrock: US East (N. Virginia, Ohio), US West (Oregon), Asia Pacific (Hyderabad, Mumbai, Osaka, Seúl, Singapur, Sydney, Tokio), Canadá (Central), Europa (Frankfurt, Irlanda, Londres, Milán, París, España, Stockholm, Zurich) y Sur America (Sígalo). Para obtener más información sobre las teclas API en Amazon Bedrock, visite la documentación de las teclas API en el Guía del usuario de Amazon Bedrock.

Prueba las teclas API en el Consola de roca en Amazon hoy y enviar comentarios a AWS Re: Publicación para Amazon Bedrock o a través de sus contactos habituales de soporte de AWS.

Sobre los autores

Sofian Hamiti es un líder de la tecnología con más de 10 años de experiencia en la construcción de soluciones de IA y liderando equipos de alto rendimiento para maximizar los resultados de los clientes. Le apasiona empoderar a diversos talentos para impulsar el impacto global y lograr sus aspiraciones profesionales.

Ajit Mahareddy es un líder experimentado de productos y actuación del mercado (GTM) con más de 20 años de experiencia en gestión de productos, ingeniería y mercado. Antes de su rol actual, Ajit lideró a los productos AI/ML de la gestión de productos en las principales empresas de tecnología, incluidas Uber, Turing y EHealth. Le apasiona avanzar en tecnologías generativas de IA e impulsar el impacto del mundo real con IA generativa.

Nakul Vankadari Ramesh es ingeniero de desarrollo de software con más de 7 años de experiencia construyendo sistemas distribuidos a gran escala. Actualmente trabaja en el equipo de Amazon Bedrock, ayudando a acelerar el desarrollo de capacidades generativas de IA. Anteriormente, contribuyó a Blockchain administrado por Amazon, centrándose en una infraestructura escalable y confiable.

Huong Nguyen es un gerente de producto principal en AWS. Es líder de productos en Amazon Bedrock, con 18 años de experiencia construyendo productos centrados en el cliente y basados ​​en datos. Le apasiona democratizar el aprendizaje automático responsable y la IA generativa para permitir la experiencia del cliente y la innovación comercial. Fuera del trabajo, le gusta pasar tiempo con familiares y amigos, escuchar audiolibros, viajar y jardinería.

Massimiliano Angelino es arquitecto principal del equipo de prototipos de EMEA. Durante los últimos 3 años y medio, ha sido un arquitecto de soluciones especialistas en IoT con un enfoque particular en la computación de borde, y contribuyó al lanzamiento del servicio AWS IoT Greengrass V2 y su integración con Amazon Sagemaker Edge Manager. Con sede en Estocolmo, le gusta patinar en lagos congelados.