La IA responsable es un compromiso de larga data en Amazon. Desde el principio, hemos priorizado Innovación responsable en inteligencia artificial Al incorporar seguridad, equidad, solidez, protección y privacidad en nuestros procesos de desarrollo y educar a nuestros empleados, nos esforzamos por mejorar la vida de nuestros clientes y, al mismo tiempo, establecer e implementar las salvaguardas necesarias para ayudar a protegerlos. Nuestro enfoque práctico para transformar la IA responsable de la teoría a la práctica, junto con herramientas y experiencia, permite a los clientes de AWS implementar prácticas de IA responsable de manera efectiva dentro de sus organizaciones. Hasta la fecha, hemos desarrollado más de 70 ofertas, herramientas y mecanismos internos y externos que respaldan la IA responsable, hemos publicado o financiado más de 500 artículos de investigación, estudios y blogs científicos sobre IA responsable y brindado decenas de miles de horas de capacitación en IA responsable a nuestros empleados de Amazon. Amazon también continúa expandiendo su cartera de cursos gratuitos de capacitación en IA responsable para personas de todas las edades, orígenes y niveles de experiencia.
Hoy compartimos una actualización sobre el progreso de nuestros esfuerzos en materia de IA responsable, incluida la introducción de nuevas herramientas, asociaciones y pruebas que mejoran la seguridad y la transparencia de nuestros servicios y modelos de IA.
Se lanzaron nuevas herramientas y capacidades para construir y escalar IA generativa de forma segura, respaldadas por pruebas de estilo adversario (es decir, trabajo en equipo rojo)
En abril de 2024, anunciamos la disponibilidad general de Barandillas para Amazon Bedrock y Evaluación de modelos en Amazon Bedrock para facilitar la introducción de salvaguardas, la prevención de contenido dañino y la evaluación de modelos en función de criterios clave de seguridad y precisión. Guardrails es la única solución ofrecida por un importante proveedor de la nube que permite a los clientes crear y personalizar protecciones de seguridad y privacidad para sus aplicaciones de IA generativa en una única solución. Ayuda a los clientes a bloquear hasta el 85 % del contenido dañino además de la protección nativa de los FM en Amazon Bedrock.
En mayo publicamos un Nueva tarjeta de servicio de inteligencia artificial para Amazon Titan Text Premier para respaldar aún más nuestras inversiones en IA generativa responsable y transparente. Las tarjetas de servicio de IA son una forma de documentación de IA responsable que proporciona a los clientes un único lugar para encontrar información sobre los casos de uso previstos y las limitaciones, las opciones de diseño de IA responsable y las mejores prácticas de implementación y optimización del rendimiento para nuestros servicios y modelos de IA. Hemos creado más de 10 tarjetas de servicio de IA hasta ahora, brindar transparencia a nuestros clientes como parte de nuestro proceso de desarrollo integral que aborda la equidad, la explicabilidad, la veracidad y la solidez, la gobernanza, la transparencia, la privacidad y la seguridad, la protección y la capacidad de control.
Los sistemas de IA también pueden tener fallas de rendimiento y vulnerabilidades que pueden aumentar el riesgo en relación con amenazas de seguridad o contenido dañino. En Amazon, probamos nuestros sistemas y modelos de IA, como Amazon Titan, utilizando una variedad de técnicas, incluido el trabajo en equipo manual. El trabajo en equipo implica que los evaluadores humanos investiguen un sistema de IA en busca de fallas de manera adversaria y complementa nuestras otras técnicas de prueba, que incluyen la evaluación comparativa automatizada con conjuntos de datos privados y disponibles públicamente, la evaluación humana de las finalizaciones con conjuntos de datos privados y más. Por ejemplo, hemos desarrollado conjuntos de datos de evaluación privados de indicaciones desafiantes que usamos para evaluar el progreso del desarrollo en Titan Text. Realizamos pruebas con múltiples casos de uso, indicaciones y conjuntos de datos porque es poco probable que un solo conjunto de datos de evaluación pueda proporcionar una imagen absoluta del rendimiento. En total, Titan Text ha pasado por múltiples iteraciones de trabajo en equipo en cuestiones que incluyen seguridad, protección, privacidad, veracidad y equidad.
Se introdujo una marca de agua para permitir a los usuarios determinar si el contenido visual es generado por IA.
Un caso de uso común para la IA generativa es la creación de contenido digital, como imágenes, videos y audio, pero para ayudar a prevenir la desinformación, los usuarios deben poder identificar el contenido generado por IA. Se pueden utilizar técnicas como la marca de agua para confirmar si proviene de un modelo o proveedor de IA en particular. Para ayudar a reducir la propagación de la desinformación, todas las imágenes generadas por IA Generador de imágenes de Amazon Titan Tiene una marca de agua invisible de forma predeterminada. Está diseñado para ser resistente a la manipulación, lo que ayuda a aumentar la transparencia en torno al contenido generado por IA y a combatir la desinformación. También presentamos una nueva API (vista previa) en Amazon Bedrock que verifica la existencia de esta marca de agua y le ayuda a confirmar si una imagen fue generada por Titan Image Generator.
Fomentó la colaboración entre empresas y gobiernos en materia de confianza y riesgos de seguridad.
La colaboración entre empresas, gobiernos, investigadores y la comunidad de IA es fundamental para fomentar el desarrollo de una IA segura, responsable y confiable. En febrero de 2024, Amazon se unió a la Consorcio del Instituto de Seguridad de la Inteligencia Artificial de EE.UU.establecido por el Instituto Nacional de Estándares y Tecnología (Instituto Nacional de Estándares y Tecnología (NIST))Amazon está colaborando con el NIST para establecer una nueva ciencia de medición que permita la identificación de mediciones y metodologías escalables e interoperables para promover el desarrollo de una IA confiable. También estamos contribuyendo con $5 millones en créditos computacionales de AWS al Instituto para el desarrollo de herramientas y metodologías para evaluar la seguridad de los modelos básicos. También en febrero, Amazon se unió al “Acuerdo tecnológico para combatir el uso engañoso de la IA en las elecciones de 2024” en la Conferencia de Seguridad de Múnich. Esta es una parte importante de nuestro trabajo colectivo para promover salvaguardas contra actividades engañosas y proteger la integridad de las elecciones.
Seguimos buscando nuevas formas de participar y fomentar el intercambio de información entre empresas y gobiernos a medida que la tecnología sigue evolucionando. Esto incluye nuestro trabajo con Thorn y toda la tecnología son humanos Diseñar de forma segura nuestros servicios de IA generativa para reducir el riesgo de que se utilicen indebidamente para la explotación infantil. También somos miembros de El Foro Modelo Frontier Promover la ciencia, los estándares y las mejores prácticas en el desarrollo de modelos de IA de vanguardia.
Se utilizó la IA como una fuerza para el bien para abordar los mayores desafíos de la sociedad y se apoyaron iniciativas que fomentan la educación.
En Amazon, nos comprometemos a promover el desarrollo seguro y responsable de la IA como una fuerza para el bien. Seguimos viendo ejemplos en distintas industrias en las que la IA generativa ayuda a abordar el cambio climático y mejorar la atención sanitaria. Inteligencia artificial Brainboxpionero en tecnología de edificios comerciales, lanzó el primer asistente de construcción virtual generativo impulsado por IA del mundo en AWS para brindar información a los administradores de instalaciones y operadores de edificios que ayudarán a optimizar el uso de energía y reducir las emisiones de carbono. Galaaduna compañía biofarmacéutica estadounidense, acelera el desarrollo de medicamentos que salvan vidas con IA generativa de AWS al comprender la viabilidad de un estudio clínico y optimizar la selección del sitio mediante un análisis de protocolo impulsado por IA que utiliza conjuntos de datos internos y del mundo real.
A medida que exploramos el potencial transformador de estas tecnologías, creemos que la educación es la base para aprovechar sus beneficios y mitigar los riesgos. Por eso ofrecemos educación sobre los posibles riesgos relacionados con los sistemas de IA generativa. Los empleados de Amazon han pasado Decenas de miles de horas de formación desde julio de 2023que abarca una variedad de temas críticos como evaluaciones de riesgos, así como análisis profundos de consideraciones complejas en torno a la equidad, la privacidad y la explicabilidad de los modelos. Como parte de la iniciativa “AI Ready” de Amazon para brindar capacitación gratuita en habilidades de IA a 2 millones de personas en todo el mundo para 2025, hemos lanzado nuevos cursos de capacitación gratuitos sobre el uso seguro y responsable de la IA en nuestros centros de aprendizaje digital. Los cursos incluyen “Introducción a la IA responsable” para nuevos estudiantes en la nube en AWS Educate y cursos como “Prácticas de IA responsables”, y “Seguridad, cumplimiento y gobernanza para soluciones de IA” en AWS Skill Builder.
Ofreciendo innovación revolucionaria con la confianza como prioridad
Como pionero de la IA, Amazon sigue fomentando el desarrollo seguro, responsable y confiable de la tecnología de IA. Nos dedicamos a impulsar la innovación en nombre de nuestros clientes y, al mismo tiempo, a establecer e implementar las medidas de seguridad necesarias. También nos comprometemos a trabajar con empresas, gobiernos, instituciones académicas e investigadores por igual para ofrecer una innovación revolucionaria en IA generativa con la confianza como prioridad.
Sobre el Autor
Vasi Philomin es vicepresidente de IA generativa en AWS. Lidera iniciativas de IA generativa, incluidas Amazon Bedrock y Amazon Titan.