Estados Unidos tiene ahora su política oficial de mayor alcance en materia de inteligencia artificial hasta la fecha. El presidente Joe Biden firmó una orden ejecutiva esta semana que insta a nuevos estándares federales para la seguridad y confiabilidad de la IA y aborda muchas otras facetas del riesgo y el desarrollo de la IA. La orden amplia, de casi 20.000 palabras, utiliza el término “inteligencia artificial” para referirse al software predictivo, perceptivo o generativo automatizado que puede imitar ciertas habilidades humanas. La acción de la Casa Blanca se produjo apenas dos días antes del inicio de una reunión internacional. cumbre sobre seguridad de la IA organizado y hospedado por el Reino Unido, durante el cual los líderes mundiales discutirán la estrategia global sobre la tecnología que avanza rápidamente.
“Es más o menos lo que esperábamos”, dice Cynthia Rudin, científica informática de la Universidad de Duke, que estudia el aprendizaje automático y defensores para la regulación de la IA. Rudin no ve la orden de Biden como perfecta, pero la llama “realmente grande” tanto en tamaño literal como en probable impacto: “Involucra a una gran cantidad de entidades gubernamentales e inicia nuevas juntas regulatorias y de seguridad que examinarán la IA. como su tarea principal, no sólo como una tarea secundaria”.
“La Casa Blanca incluye muchas cosas en esta orden ejecutiva”, coincide Daniel Ho, profesor de derecho y ciencias políticas en la Universidad de Stanford que estudia la gobernanza de la IA. “Creo que es un avance muy importante”. (Ho forma parte de la Comisión Asesora Nacional de Inteligencia Artificial pero habló con Científico americano a título individual, no como miembro de la NAIAC.)
El rápido aumento de la inteligencia artificial (específicamente, los sistemas de IA generativa como ChatGPT de OpenAI) ha generado una intensa preocupación durante el año pasado. Hay algunos miedos existenciales sobre una futura adquisición de robots, pero muy riesgos concretos y demostrables también se están desarrollando en el presente.
Por ejemplo, los modelos de IA claramente exacerban la problema de desinformación a través de deepfakes visuales y producción de texto instantáneo. Los algoritmos de aprendizaje automático tienen sesgos codificados que pueden magnificar y automatizar los patrones de discriminación existentes, como ocurre con una herramienta algorítmica del IRS que apuntan desproporcionadamente a los contribuyentes negros para auditorías. Estos sesgos pueden influir en el comportamiento humano a largo plazo, según muestran las investigaciones emergentes. Existen amenazas a la privacidad en la gran cantidad de datos que se recopilan a través de sistemas de inteligencia artificial (incluido el software de reconocimiento facial) y se utilizan. para entrenar nuevos modelos de IA generativa. La inteligencia artificial también podría convertirse en una importante amenaza para la seguridad nacional; Por ejemplo, los modelos de IA podrían utilizarse para acelerar el desarrollo de nuevas armas químicas.
“La inteligencia artificial debe gobernarse debido a su poder”, afirma Ifeoma Ajunwa, profesor de la Facultad de Derecho de la Universidad de Emory, que investiga la IA ética. “Las herramientas de IA”, añade, “pueden utilizarse de maneras que pueden tener consecuencias desastrosas para la sociedad”.
El nuevo orden lleva a Estados Unidos hacia una gobernanza de la IA más integral. Se basa en acciones anteriores de la administración Biden, como la lista de compromisos voluntarios que varias grandes empresas de tecnología acordaron en julio y el Anteproyecto para una Declaración de Derechos de la IA lanzado hace un año. Además, la política sigue a otras dos órdenes ejecutivas anteriores centradas en la IA: una sobre el uso de la IA por parte del propio gobierno federal y otra destinada a impulsar la contratación federal en la esfera de la IA. Sin embargo, a diferencia de esas acciones anteriores, la orden recién firmada va más allá de los principios y directrices generales; algunas secciones clave en realidad requerir acción específica por parte de empresas de tecnología y agencias federales.
Por ejemplo, la nueva orden exige que los desarrolladores de IA compartan datos de seguridad, información de capacitación e informes con el gobierno de EE. UU. antes de lanzar públicamente futuros grandes modelos de IA o versiones actualizadas de dichos modelos. Específicamente, el requisito se aplica a modelos que contienen “decenas de miles de millones de parámetros” que fueron entrenados con datos de gran alcance y podrían representar un riesgo para la seguridad nacional, la economía, la salud pública o la seguridad. Esta regla de transparencia probablemente se aplicará a la próxima versión de GPT de OpenAI, el modelo de lenguaje grande que impulsa su chatbot ChatGPT. La administración Biden está imponiendo tal requisito en virtud de la Ley de Producción de Defensa, una ley de 1950 más estrechamente asociada con tiempos de guerra y que se utilizó notablemente al principio de la pandemia de COVID para aumentar los suministros nacionales de respiradores N95. Este mandato para que las empresas compartan información sobre sus modelos de IA con el gobierno federal es un primer paso, aunque limitado, hacia la transparencia obligatoria por parte de las empresas de tecnología, que muchos expertos en IA han estado defendiendo en los últimos meses.
La política de la Casa Blanca también requiere la creación de estándares y pruebas federales que serán implementadas por agencias como el Departamento de Seguridad Nacional y el Departamento de Energía para garantizar mejor que la inteligencia artificial no amenace la seguridad nacional. Los estándares en cuestión serán desarrollados en parte por el Instituto Nacional de Estándares y Tecnología, que publicó su propio marco para la gestión de riesgos de IA en Enero. El proceso de desarrollo implicará un “equipo rojo”, cuando piratas informáticos benévolos trabajen con los creadores del modelo para analizar de forma preventiva las vulnerabilidades.
Más allá de estos mandatos, la orden ejecutiva crea principalmente grupos de trabajo y comités asesores, impulsa iniciativas de presentación de informes y ordena a las agencias federales que emitan directrices sobre IA durante el próximo año. La orden cubre ocho reinos que se describen en una hoja informativa: seguridad nacional, privacidad individual, equidad y derechos civiles, protección al consumidor, cuestiones laborales, innovación en IA y competitividad de EE. UU., cooperación internacional en políticas de IA y habilidades y experiencia en IA dentro del gobierno federal. Dentro de estas categorías generales hay secciones sobre la evaluación y promoción del uso ético de la IA en la educación, la atención médica y la justicia penal.
“Son muchos primeros pasos en muchas direcciones”, dice Rudin. Aunque la política en sí no es una gran regulación, es un “gran avance hacia la regulación porque recopila una gran cantidad de datos” a través de todos los grupos de trabajo dedicados a la IA y las agencias de investigación y desarrollo, señala. Recopilar dicha información es fundamental para los siguientes pasos, explica: para regular, primero es necesario comprender lo que está sucediendo.
Al desarrollar estándares para la IA dentro del gobierno federal, la orden ejecutiva podría ayudar a crear nuevas normas de IA que podrían extenderse al sector privado, dice Gary Marchant, profesor de derecho de la Universidad Estatal de Arizona, quien estudia la gobernanza de la IA. La orden “tendrá un efecto de goteo”, afirma, porque es probable que el gobierno siga siendo un importante comprador de tecnología de inteligencia artificial. “Si el gobierno lo requiere como cliente, en muchos casos se implementará en todos los ámbitos”.
Pero sólo porque la orden apunta a estimular rápidamente la recopilación de información y la formulación de políticas (y establece plazos para cada una de estas acciones) no significa que las agencias federales cumplirán esa ambiciosa lista de tareas a tiempo. “La única advertencia aquí es que si no se cuenta con el capital humano y, particularmente, con conocimientos técnicos, puede ser difícil implementar este tipo de requisitos de manera consistente y rápida”, dice Ho, en alusión al hecho de que menos Más del uno por ciento de las personas que se gradúan con doctorados en IA acceden a puestos gubernamentales, según un estudio de 2023. Informe de la Universidad de Stanford.Ho siguió el resultado de las órdenes ejecutivas anteriores sobre IA y descubrió que menos de la mitad de las acciones encomendadas se implementaron de manera verificable.
Y por muy amplia que sea la nueva política, todavía hay lagunas notables. Rudin señala que la orden ejecutiva no dice nada sobre la protección específica de la privacidad de los datos biométricos, incluidos los escaneos faciales y los clones de voz. Ajunwa dice que le hubiera gustado ver más requisitos de cumplimiento en torno a la evaluación y mitigación del sesgo de la IA y los algoritmos discriminatorios. Hay lagunas cuando se trata de abordar el uso de la IA por parte del gobierno en aplicaciones de defensa e inteligencia, afirma Jennifer King, investigadora de privacidad de datos de la Universidad de Stanford. “Me preocupa el uso de la IA tanto en contextos militares como para vigilancia”.
Incluso cuando la orden parece cubrir sus bases, podría haber “un desajuste considerable entre lo que esperan las autoridades y lo que es técnicamente factible”, añade Ho. Señala las “marcas de agua” como un ejemplo central de ello. La nueva política ordena al Departamento de Comercio identificar las mejores prácticas para etiquetado de contenido generado por IA dentro de los próximos ocho meses, pero no existe un método técnico sólido y establecido para hacerlo.
Finalmente, la orden ejecutiva por sí sola es insuficiente para abordar todos los problemas que plantea el avance de la IA. Las órdenes ejecutivas tienen un poder inherentemente limitado y pueden revocarse fácilmente. Incluso la propia orden pide al Congreso que apruebe una legislación sobre privacidad de datos. “Existe una importancia real para la acción legislativa en el futuro”, dice Ho. El rey está de acuerdo. “Necesitamos una legislación específica del sector privado para múltiples facetas de la regulación de la IA”, afirma.
Aún así, cada experto Científico americano habló o mantuvo correspondencia sobre la orden y la describió como un importante paso adelante que llena un vacío político. La Unión Europea ha estado trabajando públicamente para desarrollar la Ley de IA de la UE, que es cerca de convertirse en ley, por años ahora. Pero Estados Unidos no ha logrado avances similares. Con la orden ejecutiva de esta semana, hay esfuerzos que seguir y cambios en el horizonte; pero no espere que lleguen mañana. King dice que la política “no es probable que cambie las experiencias cotidianas de las personas con la IA hasta el momento”.