Presentamos Kimi K3 en Amazon Bedrock

Los modelos abiertos están cambiando la economía de construir e implementar IA a escala. Los rápidos avances en inteligencia y eficiencia significan que las empresas pueden combinar cada carga de trabajo con el equilibrio adecuado de capacidad, velocidad y costo. AWS está construyendo un futuro en el que las organizaciones puedan adoptar innovación abierta con la confiabilidad y seguridad necesarias para la producción.

Hoy, Kimi K3 de Moonshot AI está disponible en Amazon Bedrock, lo que le brinda una nueva y poderosa opción para la codificación y el trabajo del conocimiento. Según Moonshot AI, Kimi K3 es su modelo más capaz y el primer modelo abierto en alcanzar 2,8 billones de parámetros. Combina capacidades de visión nativas con una ventana de contexto de 1 millón de tokens y ofrece una mejora aproximada de 2,5 veces en la eficiencia de escalado con respecto a Kimi K2. Estos avances hacen que Kimi K3 sea ideal para flujos de trabajo de conocimiento y codificación de larga duración que requieren un contexto sostenido en grandes repositorios, documentos e imágenes. Kimi K3 es el primer modelo abierto en Amazon Bedrock que admite el almacenamiento en caché de mensajes explícitos, lo que le ayuda a reducir la latencia y los costos de entrada al reutilizar el contexto en las llamadas del modelo.

El lanzamiento de Kimi K3 refleja la inversión sostenida de AWS en modelos de peso abierto en Amazon Bedrock. Desde 2025, Bedrock ha agregado docenas de modelos abiertos de proveedores como DeepSeek, Google, MiniMax, Mistral AI, Moonshot AI, NVIDIA, OpenAI y Qwen. Esta selección en expansión respalda el avance continuo de la tecnología de inferencia que sirve a estos modelos a escala. En 2026, Bedrock agregó soporte para llamadas de herramientas, resultados estructurados, razonamiento, transmisión de respuestas y las API de respuestas y finalización de chat. Debido a que se trata de capacidades de plataforma en lugar de integraciones por modelo, los nuevos modelos abiertos pueden beneficiarse de ellas a medida que estén disponibles en Amazon Bedrock.

Como ocurre con todos los modelos de peso abierto en Amazon Bedrock, puede adoptar Kimi K3 sin cambiar su postura de seguridad. Sus datos se procesan dentro de los límites de datos de AWS, no se comparten con el proveedor del modelo y no se utilizan para entrenar el modelo subyacente. La retención de datos cero siempre está habilitada para las solicitudes de inferencia, mientras que el acceso de operador cero evita que incluso los operadores de AWS accedan a sus indicaciones y finalizaciones durante la inferencia. Juntas, estas protecciones le permiten utilizar modelos abiertos con confianza mientras mantienen el control de sus datos.

Comience con Kimi K3 en Amazon Bedrock

Para probar Kimi K3, abra la consola Amazon Bedrock, vaya a Prueba > Patio de juegos y seleccione Kimi K3 como modelo. Desde allí, puede probar su primer mensaje.

Mediante programación, puede llamar al modelo utilizando el punto final bedrock-runtime, que admite las API de respuesta y finalización de chat compatibles con OpenAI, y las API de Amazon Bedrock Invoke y Converse.

Puede invocar a Kimi K3 a través de un perfil de inferencia entre regiones. Para cargas de trabajo sin restricciones regionales, recomendamos utilizar el perfil global, global.moonshotai.kimi-k3, que enruta cada solicitud a cualquier región comercial compatible de AWS en todo el mundo. La inferencia global entre regiones cuesta aproximadamente un 10% menos que un perfil geográfico. El perfil geográfico de EE. UU., us.moonshotai.kimi-k3, sigue procesándose dentro de la geografía de EE. UU. para cumplir con los requisitos de residencia de datos.

Requisitos previos

Una cuenta de AWS activa con acceso a Amazon Bedrock. Pitón 3.10+. Permisos de AWS Identity and Access Management (AWS IAM) para llamar al modelo: bedrock:InvokeModel, bedrock:InvokeModelWithResponseStream y bedrock:CreateInference.

A continuación se muestra un ejemplo rápido que utiliza el SDK de OpenAI y la biblioteca aws-bedrock-token-generator para Python para generar tokens de portador a corto plazo para la autenticación en Amazon Bedrock.

Optimice la inferencia con almacenamiento en caché de mensajes explícitos

Los flujos de trabajo de codificación y conocimiento de larga duración a menudo reenvían un contexto estable, como instrucciones de repositorio, definiciones de herramientas o documentos de referencia. Con el almacenamiento en caché de mensajes explícitos, usted identifica prefijos de mensajes reutilizables para que las solicitudes posteriores puedan utilizar contenido almacenado en caché. Cuando una solicitud coincide con un prefijo almacenado en caché, Amazon Bedrock puede reducir la latencia de respuesta y los costos de los tokens de entrada.

Almacenamiento en caché para Kimi K3 en Amazon Bedrock:

Puede marcar el final exacto de un prefijo de mensaje reutilizable (después de al menos 1024 tokens) agregando un punto de interrupción_cache_prompt a un contenido de entrada compatible. En modo explícito, los tokens escritos en la caché se facturan a una tarifa más alta, pero luego se mantienen en la caché durante al menos 30 minutos. Para hacer coincidir solicitudes posteriores que lleguen al caché, los tokens de entrada se facturarán a una tarifa con descuento y no contarán para las cuotas de tokens de entrada por minuto.

Con la API OpenAI Python, el almacenamiento en caché explícito se puede configurar como se muestra en el siguiente ejemplo:

Puede explorar el repositorio de muestras de Moonshot AI en AWS para obtener más ejemplos.

Kimi K3 en la práctica

Además de utilizar las API directamente, puede utilizar Kimi K3 a través de la amplia gama de asistentes de codificación, agentes personales y marcos de agentes que admiten Amazon Bedrock específicamente o proveedores de modelos compatibles con OpenAI en general.

Asistentes de codificación

Hay varios agentes de codificación populares disponibles para los constructores hoy en día, así que considere OpenCode como ejemplo. OpenCode es de código abierto, independiente del modelo y tiene un proveedor de modelo nativo de Amazon-bedrock, que utiliza la API de Converse.

Para comenzar, puede configurar el proveedor amazon-bedrock en sus archivos de configuración opencode.json a nivel de usuario o a nivel de proyecto, como se muestra en la documentación de OpenCode. Con el proveedor configurado, OpenCode detectará automáticamente los modelos de Amazon Bedrock disponibles entre los que puede seleccionar mediante el comando /models. Por ejemplo, un archivo mínimo ~/.config/opencode.json podría verse así:

Una vez que el proveedor de Amazon Bedrock esté configurado, puede usar el comando /models para cambiar los modelos a global.moonshotai.kimi-k3 y comenzar a construir.

Kimi K3 puede crear funciones sustanciales y trabajar en tareas de largo plazo. En el siguiente vídeo, lo probamos creando un juego basado en navegador de un solo archivo para comenzar:

Figura 1: Creación de un juego de navegador con Kimi K3 en OpenCode

Agentes de productividad

Más allá de la codificación, Hermes Agent es un ejemplo de asistente de código abierto para la productividad general. Se puede utilizar a través de una aplicación de escritorio o aplicaciones de mensajería populares, así como a través del terminal, y admite casos de uso como investigación profunda y automatización de tareas en los que Kimi K3 también puede funcionar bien.

Como se detalla en su documentación, Hermes admite modelos de forma nativa en Amazon Bedrock. Para empezar:

Ejecute el modelo Hermes desde su terminal. Desplácese hacia abajo en la lista de proveedores hasta “AWS Bedrock” (Hermes etiqueta erróneamente “Amazon Bedrock” como “AWS Bedrock”). Si se le solicita, seleccione la región de AWS de origen a la que desea que Hermes envíe solicitudes. Seleccione la cadena de credenciales predeterminada (recomendada) para utilizar las credenciales de la interfaz de línea de comandos de AWS ya configuradas en su entorno o genere una clave API de Amazon Bedrock. Seleccione Kimi K3 de la lista de modelos descubiertos automáticamente o, si no está disponible, ingrese global.moonshotai.kimi-k3 como nombre de modelo personalizado.

Si utiliza perfiles con nombre para administrar varias credenciales de AWS en su entorno, al momento de escribir este artículo debe configurar la variable de entorno AWS_PROFILE o usar su perfil predeterminado para Hermes. Alternativamente, puede cambiar a una clave API. Siga el problema abierto aquí para obtener actualizaciones sobre la compatibilidad con la configuración del perfil de AWS a través del archivo de configuración de Hermes.

Una vez que el proveedor de Amazon Bedrock esté configurado y el modelo configurado, puede comenzar a usar Kimi K3 para sus flujos de trabajo agentes en Hermes. Por ejemplo, vea el siguiente vídeo breve en el que le pedimos al agente que elabore un plan de estudios personalizado:

Figura 2: Creación de un plan de estudio personalizado con Kimi K3 en Hermes Agent

Disponibilidad

Kimi K3 está disponible hoy en Amazon Bedrock a través de los perfiles de inferencia entre regiones US Geo (EE. UU.) y Global (global). Consulte la documentación de Bedrock para obtener la lista completa de regiones admitidas. Para obtener información sobre precios, consulte Precios de Amazon Bedrock.

Pruebe Kimi K3 en la consola de Amazon Bedrock o explore el repositorio de muestras de Moonshot AI en AWS en GitHub.

¿Está interesado en saber cómo Amazon Bedrock puede ayudar a su equipo? Conéctese con nosotros para iniciar la conversación.

Sobre los autores