A medida que las aplicaciones de IA se vuelven más complejas, muchos desarrolladores luchan por equilibrar de manera adecuada y responsable los beneficios y riesgos de la IA. Existen pocos recursos que ayuden a los no expertos a articular y resolver las decisiones de diseño clave que deben tomar. Sin embargo, no tiene por qué ser así. Hoy anunciamos la lente de IA responsable de buena arquitectura de AWS: un conjunto de preguntas reflexivas y las mejores prácticas correspondientes que ayudan a los desarrolladores a abordar las preocupaciones de IA responsable durante todo el desarrollo y la operación. Basado en nuestra experiencia ayudando a los clientes a ejecutar cientos de miles de cargas de trabajo de IA y en la experiencia de científicos responsables de IA, esta lente proporciona una guía clara y práctica durante todo el ciclo de vida de la IA. Al abordar sistemáticamente las consideraciones responsables de la IA en las primeras etapas del desarrollo, los equipos pueden reducir los costosos cambios en las últimas etapas y acelerar su camino hacia sistemas de producción confiables.
¿Qué es la lente de la IA responsable?
La lente de IA responsable guía a los constructores a través del ciclo de vida de principio a fin de la creación de una aplicación de IA específica (no un modelo de frontera). Está diseñado para ayudar a los constructores a tomar decisiones informadas que equilibren los requisitos técnicos y comerciales y aceleren la implementación de sistemas de inteligencia artificial confiables.
La lente de IA responsable se basa en tres principios de diseño:
Responsable por diseño: considere las dimensiones de la IA responsable a lo largo de todo el ciclo de vida de la IA, desde el diseño hasta las operaciones, al tiempo que enfatiza la identificación y resolución de problemas potenciales lo antes posible en el ciclo de vida. Alcance los casos de uso de manera estricta: desarrolle las especificaciones de un sistema de IA trabajando hacia atrás desde el caso de uso de la IA (en otras palabras, el problema a resolver). Cuanto más limitado sea el alcance del caso de uso, más sencillo será el tiempo que tendrá para identificar, mitigar y probar los riesgos que el caso de uso de IA y su solución podrían plantear a las partes interesadas. Siga la ciencia: utilice orientación práctica respaldada por la ciencia para evaluar y mitigar los riesgos y respaldar las decisiones de liberación basadas en evidencia.
El siguiente gráfico muestra las fases de alto nivel de Diseño, Desarrollo y Operación y sus subcategorías.
Cómo utilizar la lente de IA responsable
La Lente de IA Responsable está organizada en ocho áreas de enfoque que cubren diferentes pasos en el ciclo de vida de la IA. Cada área de enfoque ofrece preguntas clave para considerar y proporciona mejores prácticas que pueden ayudarlo a resolver las preguntas. Las mejores prácticas para una pregunta determinada cubren dimensiones relevantes de la IA responsable, como equidad, explicabilidad, privacidad, seguridad, controlabilidad, veracidad, solidez y transparencia. Cada mejor práctica incluye orientación, consideraciones de implementación y recursos.
Las ocho áreas de enfoque ayudan a:
Describir el caso de uso: definir el problema específico que se está resolviendo, validar la necesidad de IA e identificar las partes interesadas. Evaluar beneficios y riesgos: identificar los posibles beneficios y riesgos del caso de uso entre los grupos de partes interesadas. Definir criterios de publicación: establecer criterios claros y comprobables para la preparación del sistema de IA. Diseñe conjuntos de datos: cree conjuntos de datos de alta calidad para capacitación, evaluación y operaciones. Diseñe el sistema de IA: implemente un comportamiento responsable directamente en el diseño del sistema. Tome una decisión de liberación basada en evidencia: evalúe los beneficios reales y los riesgos residuales para tomar decisiones de liberación informadas basadas en evidencia. Proporcionar orientación y transparencia en sentido descendente: apoye a los usuarios y otras partes interesadas en sentido descendente con explicaciones claras sobre el uso previsto y las limitaciones. Gestione el seguimiento y el desmantelamiento posterior al lanzamiento: supervise el rendimiento del sistema y responda a los problemas.
Dado que el desarrollo de la IA suele ser iterativo y no lineal, no es necesario trabajar en las áreas de enfoque de forma secuencial. Sin embargo, le recomendamos que primero revise la guía en su totalidad y luego trabaje en las áreas en el orden que se ajuste a su situación.
¿Quién debería utilizar la lente de la IA responsable?
El objetivo de la IA responsable está dirigido a tres públicos que desempeñan funciones complementarias en el desarrollo y la implementación de sistemas de IA responsables:
Constructores de IA, incluidos ingenieros, gerentes de productos y científicos, que desarrollan e implementan sistemas de IA. Los constructores reciben orientación sobre cómo estructurar su trabajo para identificar y optimizar las compensaciones de beneficios y riesgos específicas de las aplicaciones de IA. Líderes técnicos de IA que supervisan los equipos que crean sistemas de IA e implementan prácticas de IA responsables en toda la empresa. Los líderes obtienen un marco que pueden utilizar para estandarizar sus enfoques para equilibrar el riesgo de la cartera y ganarse la confianza de sus propios clientes. Especialistas responsables en IA que establecen las políticas específicas que necesitan sus organizaciones para cumplir con las regulaciones aplicables y los estándares de la industria, y trabajan con equipos de constructores para cumplir con las políticas. Los especialistas se benefician de tener un marco de mejores prácticas basado en la ciencia para ayudarlos a establecer e implementar las políticas relacionadas con la IA de su propia organización.
Empezando
Para comenzar con Responsible AI Lens, implemente la guía de mejores prácticas proporcionada mediante el repositorio de GitHub. Cree o seleccione una carga de trabajo de IA, agregue la lente de IA responsable de las lentes personalizadas disponibles y comience a trabajar en las áreas de enfoque relevantes para su etapa de desarrollo.
Utilice esta lente para nuevos proyectos de IA o para ayudar a mejorar los sistemas existentes. Comuníquese con su arquitecto de soluciones de AWS o representante de su cuenta para obtener orientación sobre cómo aplicar estas prácticas a sus casos de uso específicos.
El lanzamiento de AWS Well-Architected Responsible AI Lens representa un paso importante en nuestro compromiso de larga data de ayudar a las organizaciones a innovar de manera responsable con IA. La orientación estructurada y las herramientas prácticas lo ayudarán a navegar las complejidades del desarrollo de la IA, mejorar los beneficios, reducir los riesgos y evitar costosos cambios en las últimas etapas.
La lente de IA responsable refleja la colaboración entre los equipos de AWS, desde científicos responsables de IA que aportaron una profunda experiencia en prácticas basadas en evidencia hasta arquitectos de soluciones que aportaron conocimientos al trabajar con clientes de todos los sectores. Sus perspectivas combinadas ayudaron a dar forma a una guía práctica que aborda los desafíos del desarrollo de la IA en el mundo real.
Para lecturas relacionadas, puede explorar el marco de buena arquitectura de AWS y otros documentos de lentes, incluidos los lentes de IA generativa de buena arquitectura de AWS y los lentes de aprendizaje automático, que ofrecen orientación complementaria para las implementaciones de IA.
Sobre los autores
Rachna Chadha es tecnóloga principal en AWS, donde ayuda a los clientes a aprovechar soluciones de IA generativa para impulsar el valor empresarial. Con décadas de experiencia ayudando a las organizaciones a adoptar e implementar tecnologías emergentes, particularmente en el ámbito de la atención médica, a Rachna le apasiona el uso ético y responsable de la inteligencia artificial. Ella cree que la IA tiene el poder de crear un cambio social positivo y fomentar el progreso tanto económico como social. Fuera del trabajo, Rachna disfruta pasar tiempo con su familia, hacer senderismo y escuchar música.
Peter Hallinan es el director de IA responsable en AWS, donde dirige una organización que promueve la ciencia y la práctica de la IA responsable en AWS. Tiene una profunda experiencia en IA (PhD, Harvard) y emprendimiento (Blindsight, vendido a Amazon). Sus actividades voluntarias incluyen ser profesor consultor en la Facultad de Medicina de la Universidad de Stanford y presidente de la Cámara de Comercio Estadounidense en Madagascar.