GPT-6 Sol y GPT-6 Luna ahora están disponibles de forma generalizada en Amazon Bedrock, lo que le brinda más opciones para combinar inteligencia y eficiencia con cada carga de trabajo.
El valor de la IA a escala depende de dos dimensiones: qué puede hacer un modelo y con qué frecuencia se puede utilizar. Una mayor inteligencia amplía la complejidad que un modelo puede manejar, desde problemas de codificación sutiles hasta procesos de varios pasos en todas las herramientas. La eficiencia determina en qué medida esa inteligencia puede respaldar la actividad diaria y las tareas repetibles, donde cada token, reintento y segundo de latencia adicional se multiplica en las solicitudes.
GPT-6 Astra estableció el extremo superior de la familia GPT-6 para los proyectos más ambiciosos, donde lograr el resultado de la más alta calidad importa más que el costo. Las organizaciones también necesitan inteligencia avanzada para las tareas recurrentes que mantienen los productos y las operaciones en movimiento. GPT-6 Sol aporta sólidas capacidades de razonamiento y codificación para tareas complejas realizadas durante la semana, con una economía adecuada para el uso regular. GPT-6 Luna hace que las tareas repetibles y enfocadas sean prácticas en un gran volumen, donde las pequeñas diferencias en latencia y costo se multiplican entre las solicitudes.
Hoy en día, GPT-6 Sol y GPT-6 Luna de OpenAI están generalmente disponibles en Amazon Bedrock y se ejecutan en un motor de inferencia creado para brindar alto rendimiento, seguridad y confiabilidad a escala. Ambos modelos tienen un precio de API significativamente más bajo que sus predecesores GPT-5.6, lo que le brinda más formas de llevar la inteligencia GPT-6 a producción con el rendimiento, el control y la flexibilidad que requieren sus cargas de trabajo.
Resuelve problemas más difíciles todos los días.
GPT-6 Sol está diseñado para tareas exigentes que se repiten durante el desarrollo y las operaciones. Puede implementar funciones, depurar problemas, refactorizar y revisar código, analizar datos y completar procesos de varios pasos en herramientas y aplicaciones. Las mejoras con respecto a GPT-5.6 Sol en codificación y uso de computadoras lo ayudan a realizar una tarea desde la investigación hasta la implementación y validación, preservando al mismo tiempo el contexto detrás de sus decisiones.
A medida que GPT-6 Sol maneja más de ese proceso, los desarrolladores necesitan ver qué cambió, qué verificó y qué no pudo confirmar. En una evaluación interna de los hechos, OpenAI descubrió que GPT-6 Sol cometió aproximadamente la mitad de errores fácticos que GPT-5.6 Sol. GPT-6 Sol también se beneficia de una comunicación más clara sobre su trabajo y resultados, lo que ayuda a los equipos a identificar brechas antes y comprender dónde todavía se necesita el juicio humano.
Juntos, una ejecución más sólida y unos informes más claros hacen que GPT-6 Sol sea práctico durante todo el ciclo de desarrollo. La medida relevante es el costo total de alcanzar un resultado utilizable, incluida la calidad de salida, el uso de tokens, los reintentos y la latencia.
Haga que la inteligencia enfocada sea económica en volumen
Cuando una tarea se ejecuta miles de veces al día, la economía de cada llamada determina si el flujo de trabajo escala. Una única clasificación o resumen es económico por sí solo, pero el costo de extracción, enrutamiento y seguimiento a través de un proceso completo de documentos aumenta con cada solicitud adicional.
GPT-6 Luna está diseñado para cargas de trabajo donde ese volumen importa. Puede usarlo para extraer información de grandes colecciones de documentos, resumir el material entrante, clasificar entradas y responder preguntas específicas de muchos usuarios o aplicaciones.
La eficiencia en volumen también requiere resultados consistentes. Las evaluaciones de OpenAI muestran mejoras en la confiabilidad fáctica de GPT-6 Luna y una comunicación más clara de los resultados. También puede ajustar el esfuerzo de razonamiento por solicitud para equilibrar la calidad, la capacidad de respuesta y el costo que requiere cada tarea.
Haga coincidir la inteligencia con cada paso sin reconstruir el contexto
Una sola aplicación puede necesitar diferentes niveles de inteligencia a medida que avanza la solicitud. Puede utilizar GPT-6 Luna para clasificar solicitudes entrantes, GPT-6 Sol para investigar casos complejos y GPT-6 Astra cuando un razonamiento adicional profundo pueda cambiar materialmente una decisión. Esto concentra la inteligencia donde crea el mayor valor mientras gestiona la latencia y los costos en todo el sistema.
Dentro de cada etapa, las llamadas repetidas al mismo modelo pueden reutilizar instrucciones, definiciones de herramientas, políticas y material de referencia. Reprocesar ese contexto puede erosionar la eficiencia obtenida al seleccionar el modelo apropiado.
GPT-6 Sol y GPT-6 Luna admiten el almacenamiento en caché de mensajes explícitos en Amazon Bedrock. Puede marcar el contenido de las solicitudes para su reutilización, lo que permite que las solicitudes posteriores centren el procesamiento en nuevas entradas. Esto es útil para asistentes de codificación que reutilizan instrucciones del repositorio, admiten aplicaciones basadas en las mismas políticas y documentan procesos que aplican un esquema de extracción consistente.
Ejecute GPT-6 a escala con rendimiento y control
A medida que crece el uso de la IA, la calidad del modelo es solo una parte de lo que determina si una aplicación tiene éxito en producción. Los equipos también necesitan una infraestructura que mantenga el rendimiento a medida que cambia la demanda, una economía que se mantenga ante solicitudes repetidas y controles que protejan los datos confidenciales. Amazon Bedrock proporciona esa base para GPT-6 Sol y GPT-6 Luna a través de un motor de inferencia de alto rendimiento creado para brindar seguridad y confiabilidad a escala.
Puede controlar el acceso al modelo a través de políticas de AWS Identity and Access Management (IAM) y auditar cada invocación a través de AWS CloudTrail. Los puntos de enlace de nube privada virtual (VPC) con tecnología de AWS PrivateLink ayudan a mantener el tráfico dentro de los límites de su red. La inferencia se ejecuta en una infraestructura aislada por hardware sin acceso de operador, por lo que ni siquiera los operadores de AWS pueden acceder a sus indicaciones o finalizaciones durante la inferencia.
Sus datos de inferencia no se utilizan para el entrenamiento de modelos y el uso de GPT-6 Sol y GPT-6 Luna no requiere que usted opte por compartir sus datos con OpenAI. Para la detección automatizada de abusos, AWS retiene el tráfico marcado por clasificador durante un máximo de 30 días y lo procesa mediante programación. Puede solicitar retención cero de datos a través de su equipo de cuenta de AWS. Consulte retención de datos para obtener más detalles.
empezar
Puede comenzar con GPT-6 Sol y GPT-6 Luna en la consola de Amazon Bedrock o mediante programación a través de las API de Amazon Bedrock compatibles. Para obtener información sobre las regiones de AWS, los puntos finales, las API, las características, los perfiles de inferencia y los precios admitidos, consulte la documentación de Amazon Bedrock.
¿Está interesado en saber cómo Amazon Bedrock puede ayudar a su equipo? Conéctese con nosotros para iniciar la conversación.
Sobre los autores
Chris Dickens
Chris es miembro del personal de producto de OpenAI y se centra en las API de OpenAI. Su trabajo incluye la colaboración con AWS en Amazon Bedrock para hacer que los modelos de frontera de OpenAI sean ampliamente accesibles para los desarrolladores.