Nos complace anunciar la disponibilidad de Claude Opus 5, Claude Sonnet 5 y Claude Haiku 4.5 de Anthropic en India. El punto final regional de India se sirve mediante inferencia geográfica entre regiones. Los clientes de la India ahora pueden acceder a estos modelos en Amazon Bedrock mientras procesan los datos en las regiones de la India, además de la inferencia global entre regiones ya admitida. Esto puede resultar útil cuando los clientes necesitan cumplir los requisitos para procesar datos localmente en una geografía deseada.
En esta publicación, analizamos cómo funciona la inferencia geográfica entre regiones de la India a partir de las regiones de Mumbai y Hyderabad en Amazon Bedrock para modelos antrópicos de Claude. También mostramos cómo comenzar desde la consola de Amazon Bedrock y con código, utilizando la API de mensajes de Anthropic, la API de Amazon Bedrock InvokeModel y la API de Converse.
inferencia india
Para ayudarlo a lograr la escala de sus aplicaciones de IA, Amazon Bedrock ofrece perfiles de inferencia entre regiones, una característica que puede utilizar para distribuir la inferencia en múltiples regiones de AWS sin tener que administrar la capacidad en cada región. La solicitud se origina en su región de origen donde realiza la llamada API y se enruta automáticamente a una de las regiones de destino definidas en el perfil de inferencia. El perfil geográfico de la India mantiene inferencias dentro de la India. Solicita ruta solo entre ap-sur-1 y ap-sur-2. Sus indicaciones de entrada y resultados de salida pueden moverse entre esas dos regiones. En lugar de estar limitadas a la capacidad de una región, sus solicitudes recurren a un conjunto de recursos informáticos más amplio. Esto le ayuda a mantener el rendimiento y el rendimiento constante bajo carga, lo que es más importante durante los picos de tráfico. La inferencia entre regiones opera a través de la red segura de AWS con cifrado de extremo a extremo para los datos en tránsito. Los datos del cliente no se almacenan en una región de destino cuando se utiliza la inferencia entre regiones. Permanece exclusivamente dentro de la Región de origen. Amazon Bedrock utiliza un modelo de seguridad de datos con retención cero de datos (ZDR). Esto significa que, de forma predeterminada, Amazon Bedrock no almacena entradas ni salidas del modelo. Sin embargo, ciertos modelos requieren una revisión humana por parte de AWS como condición si el contenido está marcado por clasificadores de seguridad automáticos. Para obtener más detalles, consulte Retención de datos en la Guía del usuario de Amazon Bedrock. El consumo de facturación y cuota se rastrea en su cuenta en la región de origen, independientemente de qué región de backend manejó la solicitud. Amazon CloudWatch y AWS CloudTrail registran las entradas de registro solo en la región de origen, por lo que su monitoreo permanece en un solo lugar. La inferencia geográfica entre regiones está disponible en el punto final de tiempo de ejecución de Bedrock. Es compatible con la API de mensajes de Anthropic y las API nativas de Amazon Bedrock InvokeModel y Converse, junto con funciones de Amazon Bedrock como Amazon Bedrock Guardrails y enrutamiento de avisos inteligente.
Acceda a los modelos de Claude desde la consola de Amazon Bedrock
Puede acceder a los modelos de Claude en el área de texto de la consola de Amazon Bedrock, que no requiere codificación ni configuración de SDK. Puede enviar indicaciones, ajustar parámetros de inferencia y cambiar entre variantes para tener una idea de cada modelo antes de integrar la API.
Abra la consola de Amazon Bedrock en la región que desea utilizar como fuente. En el panel de navegación, en Prueba, elija Zona de juegos. Elija Seleccionar modelo en el medio de la página. Busque Anthropic Claude Opus 5, seleccione IN Anthropic Claude Opus 5 como perfil de inferencia en Inferencia y elija Aplicar. Ingrese un mensaje y elija Ejecutar para generar una respuesta.
Figura 1: El modelo Claude Opus 5 seleccionado en el área de juegos de la consola Amazon Bedrock
Llame a los modelos de Claude con la API de Anthropic Messages y la API de Amazon Bedrock InvokeModel y Converse
Puede acceder a Claude Opus 5, Claude Sonnet 5 o Claude Haiku 4.5 de Anthropic mediante programación con el ID del perfil de inferencia geográfica de India usando la API de Anthropic Messages en bedrock-runtime a través del SDK de Anthropic, o seguir usando las API InvokeModel y Converse en bedrock-runtime a través de AWS Command Line Interface (AWS CLI) y AWS SDK.
Requisitos previos
Cuenta activa de AWS con acceso a Amazon Bedrock. AWS CLI instalada y configurada. Pitón 3.8+. Boto3 instalado: pip instala boto3. Anthropic SDK instalado: pip install anthropic. Bedrock Token Generator para la autenticación de inferencia de modelo de Amazon Bedrock instalado: pip install aws_bedrock_token_generator. El rol o usuario de AWS Identity and Access Management (IAM) tiene los permisos necesarios para invocar modelos de Amazon Bedrock mediante un perfil de inferencia geográfica entre regiones.
A continuación se muestra un ejemplo rápido que utiliza AWS SDK para Python (Boto3) con la API InvokeModel:
También puede utilizar la API de Amazon Bedrock Converse para obtener una experiencia multimodelo unificada:
También puede utilizar la API de Anthropic Messages utilizando el paquete anthropic SDK para una experiencia optimizada:
Puede monitorear el uso, el rendimiento y los costos a través de CloudWatch y AWS Cost Explorer para escalar sus aplicaciones a medida que crece la demanda.
Conclusión
Con el lanzamiento de Claude Opus 5, Claude Sonnet 5 y Claude Haiku 4.5 de Anthropic utilizando Amazon Bedrock con inferencia geográfica entre regiones de India, ahora puede crear aplicaciones de IA generativa altamente escalables y resilientes mientras mantiene la inferencia dentro del país. Para comenzar, acceda a los modelos Claude de Anthropic en la consola de Amazon Bedrock o llámelos con la API utilizando el ID del perfil de inferencia geográfica de India. Para obtener la información más actualizada sobre la disponibilidad de modelos en cada región, consulte Disponibilidad regional por modelos en la Guía del usuario de Amazon Bedrock.
Sobre los autores
Aamna Najmi
Aamna es arquitecta senior de soluciones especializada en IA generativa que se centra en modelos antrópicos y en la operacionalización y gobierno de sistemas de IA generativa a escala en Amazon Bedrock. Ayuda a los ISV a resolver sus desafíos, adoptar la innovación y crear nuevas oportunidades comerciales con Amazon Bedrock.
Eugenio Soltero
Eugenio es gerente sénior de marketing de productos de Amazon Bedrock en AWS. Con varios años de experiencia en IA generativa, ayuda a los clientes a navegar por el panorama cambiante de los modelos básicos y la IA generativa para adoptar soluciones que brinden un valor mensurable.
Sofian Hamiti
Sofian es un líder tecnológico con más de 12 años de experiencia en la creación de soluciones de inteligencia artificial y en la dirección de equipos de alto rendimiento para maximizar los resultados de los clientes. Le apasiona empoderar a diversos talentos para impulsar el impacto global y lograr sus aspiraciones profesionales.
Ayán Ray
Ayan es arquitecto de soluciones de socio principal y líder tecnológico de IA en AWS, y se desempeña como líder tecnológico mundial para Anthropic en AWS. Trabaja en la intersección de la arquitectura de la nube y la inteligencia artificial, ayudando a las organizaciones a adoptar y escalar las tecnologías de Anthropic en AWS.