La orden ejecutiva del presidente Biden sobre IA ordena al HHS que establezca un programa de seguridad

La Administración Biden emitió el lunes lo que llama una orden ejecutiva “histórica” ​​diseñada para ayudar a canalizar la importante promesa y gestionar los numerosos riesgos de la inteligencia artificial y el aprendizaje automático.

POR QUÉ IMPORTA
El OE de amplio alcance tiene como objetivo establecer nuevos estándares para la seguridad de la IA, al tiempo que ofrece orientación para ayudar a garantizar que los algoritmos y modelos sean equitativos, transparentes y confiables.

Como parte de la estrategia integral de la Administración Biden-Harris para la innovación responsable, la Orden Ejecutiva se basa en acciones anteriores que el Presidente ha tomado, incluido el trabajo que condujo a compromisos voluntarios de 15 empresas líderes para impulsar el desarrollo seguro y confiable de la IA.

Entre sus muchas recetas para una innovación de IA más segura y estandarizada, la orden contiene algunas directivas específicas relacionadas con algoritmos utilizados en entornos de atención médica, diseñados para proteger a los pacientes de daños.

La EO reconoce el potencial del “uso responsable de la IA” para ayudar a avanzar en la prestación de atención e impulsar el desarrollo de medicamentos y terapias nuevos y más asequibles.

Pero, reconociendo que la IA “aumenta el riesgo de herir, engañar o dañar de otro modo a los estadounidenses, el presidente Biden también instruye al Departamento de Salud y Servicios Humanos de EE. UU. para que establezca un programa de seguridad que permita a la agencia “recibir informes y actuar en consecuencia”. remedio: daños o prácticas sanitarias inseguras que involucren IA”.

Entre sus otras disposiciones, la orden exige un nuevo piloto del Recurso Nacional de Investigación de IA para catalizar la innovación en todo el país, combinado con la promoción de políticas para brindar a los pequeños desarrolladores y empresarios acceso a más asistencia y recursos técnicos.

También busca modernizar y simplificar los criterios de visa para ayudar a ampliar la capacidad de inmigrantes altamente calificados con experiencia en áreas críticas para estudiar y trabajar en los Estados Unidos.

La EO también contiene numerosas disposiciones para promover estándares para la seguridad de la IA:

• Un requisito para que los desarrolladores de potentes sistemas de inteligencia artificial compartan los resultados de las pruebas de seguridad y otra información crítica con el gobierno federal. De acuerdo con la Ley de Producción de Defensa, exige que cualquier empresa que desarrolle modelos de aprendizaje automático que representen un riesgo potencial para la “seguridad nacional, la seguridad económica nacional o la salud y seguridad públicas nacionales” notifique al gobierno cuando entrene esos modelos y comparta los resultados de todo equipo rojo pruebas de seguridad.

• El Instituto Nacional de Estándares y Tecnología establecerá estándares rigurosos para las pruebas para garantizar la seguridad antes de su divulgación pública, y el Departamento de Seguridad Nacional aplicará esos estándares a sectores de infraestructura críticos y establecerá la Junta de Seguridad y Protección de IA.

• Además, las agencias que financian proyectos de ciencias biológicas establecerán estándares diseñados para proteger contra los riesgos del uso de IA para diseñar materiales biológicos peligrosos mediante el desarrollo de nuevos estándares sólidos para la detección de síntesis biológica. como condición para la financiación federal, creando poderosos incentivos para garantizar una detección adecuada y gestionar los riesgos potencialmente empeorados por la IA.

En el frente de la privacidad, el presidente Biden está pidiendo al Congreso que apruebe una legislación bipartidista que dé prioridad al apoyo federal para “acelerar el desarrollo y el uso de técnicas que preserven la privacidad, incluidas aquellas que utilizan IA de vanguardia y que permiten entrenar sistemas de IA preservando al mismo tiempo la privacidad”. privacidad de los datos de entrenamiento.”

La EO también se centra en los impactos de la IA en la fuerza laboral. Busca desarrollar “principios y mejores prácticas para mitigar los daños y maximizar los beneficios de la IA para los trabajadores abordando el desplazamiento laboral; las normas laborales; la equidad, la salud y la seguridad en el lugar de trabajo; y la recopilación de datos”, y pide a los funcionarios federales que produzcan un informar sobre los posibles impactos de la IA en el mercado laboral, y estudiar e identificar opciones para fortalecer el apoyo federal a los trabajadores que enfrentan interrupciones laborales, incluidas las provocadas por la IA.

La orden de la Casa Blanca también tiene como objetivo prevenir la discriminación algorítmica, en parte mediante capacitación, asistencia técnica y coordinación entre el Departamento de Justicia y las oficinas federales de derechos civiles sobre las mejores prácticas para investigar y procesar violaciones de derechos civiles relacionadas con la IA.

LA TENDENCIA MÁS GRANDE
Desde que asumió el cargo por primera vez, el presidente Biden ha sido claro acerca de la necesidad de apoyar la tecnología de la información sanitariamanteniendo al mismo tiempo las barreras de seguridad en torno a la innovación de TI.

La orden ejecutiva sobre IA, que se desarrolló después recopilar comentarios sobre I+D de IA de una amplia gama de partes interesadas de la industria – sigue el enfoque de privacidad de la Casa Blanca Declaración de derechos de AI propuesto hace un año.

También llega inmediatamente después de la igualmente ambiciosa iniciativa de la Casa Blanca. Estrategia Nacional de Ciberseguridad desde principios de este año (así como Otro plan para la fuerza laboral cibernética de EE. UU.).

EN EL REGISTRO
“Las acciones que el presidente Biden dirigió hoy son pasos vitales hacia adelante en el enfoque de Estados Unidos sobre una IA segura y confiable”, dijo la Casa Blanca en la orden ejecutiva. “Se necesitarán más acciones y la Administración seguirá trabajando con el Congreso para impulsar una legislación bipartidista que ayude a Estados Unidos a liderar el camino en innovación responsable”.