El comité de derechos humanos del Parlamento quiere bloquear los sistemas más peligrosos antes de su lanzamiento y un nuevo organismo de control con poderes para retirar del mercado los productos de IA, advirtiendo que las leyes existentes dejan a los británicos expuestos a la discriminación, la vigilancia y las decisiones que tal vez ni siquiera sepan que fueron tomadas por máquinas.
Gran Bretaña debería prohibir el desarrollo y lanzamiento de los sistemas de inteligencia artificial más poderosos si corren el riesgo de causar daños generalizados o evadir el control humano efectivo, advirtieron hoy parlamentarios y pares.
Un importante informe parlamentario publicado hoy exige un proyecto de ley específico sobre IA y un nuevo regulador con poderes para evitar que los sistemas peligrosos lleguen al público.
El Comité Conjunto de Derechos Humanos dijo que las protecciones existentes eran “irregulares y confusas” y no habían logrado seguir el ritmo de la tecnología que ya se utiliza para tomar decisiones sobre trabajadores, presos, consumidores y miembros del público.
Quiere que los sistemas de IA de alto riesgo requieran aprobación antes de que puedan ser lanzados y dice que los reguladores deberían poder retirar productos del mercado si surgen riesgos inaceptables.
Su informe, Derechos humanos y regulación de la IA, cita evidencia de que alrededor de tres millones de personas fueron escaneadas por sistemas de reconocimiento facial de la policía en el Reino Unido sin su consentimiento entre enero y octubre del año pasado.
También destaca imágenes sexuales ultrafalsas de mujeres y niñas, la IA utilizada para perfilar a los prisioneros de maneras que se dice que afectan desproporcionadamente a las personas negras y de minorías étnicas, y los trabajadores que son señalados para una investigación disciplinaria mediante sistemas automatizados.
El comité dijo que las personas a menudo no eran conscientes de que la IA había desempeñado algún papel en una decisión que les afectaba, lo que hacía difícil cuestionar los errores o la discriminación.
Según sus amplias propuestas, las empresas y organismos públicos que utilicen la IA para tomar decisiones con un efecto significativo en las personas tendrían que decir cuándo se utiliza la tecnología, explicar claramente qué está haciendo y revelar información sobre la fuente de los datos detrás de ella.
El comité también dijo que simplemente colocar a una persona en algún lugar de un proceso automatizado no debería contar automáticamente como supervisión humana significativa.
“Pedimos al gobierno que tome medidas inmediatas. Debe presentar un proyecto de ley específico sobre IA y establecer un nuevo regulador para crear una protección efectiva y personalizada de los derechos humanos en el Reino Unido”, dice el informe.
“Los usos más peligrosos de la IA deberían prohibirse y otros deberían regularse basándose en principios y en función del riesgo, con fuertes sanciones para las empresas y organizaciones que dañen los derechos humanos mediante el uso de sistemas de IA.
El regulador propuesto mantendría un registro público de incidentes de IA, investigaría presuntos daños e impondría códigos de práctica obligatorios. Y podría probar sistemas de alto riesgo antes de su uso, bloquear su lanzamiento, ordenar que se retiren los sistemas existentes y exigir soluciones para las personas sin obligarlas a emprender acciones judiciales prohibitivamente costosas.
El comité también quiere que la responsabilidad se asigne más arriba en la cadena de suministro de IA, argumentando que las grandes empresas de tecnología actualmente tienen demasiada libertad para traspasar riesgos legales a empresas y organizaciones que utilizan sus modelos. Los desarrolladores suelen tener una capacidad mucho mayor para identificar y prevenir problemas que los clientes que compran o implementan sus sistemas, afirmó.
Los usos específicos que podrían prohibirse incluyen la manipulación subliminal, la inferencia emocional y la elaboración de perfiles o el uso inapropiado de información biométrica.
Los sistemas futuros potentes, incluida la inteligencia artificial general y la superinteligencia artificial, también deberían prohibirse cuando representen un riesgo de daño generalizado y muy grave, incluida la capacidad de evadir el control humano efectivo, añade el informe.
Los desarrolladores de nuevos y potentes modelos de IA también tendrían que enviarlos al Instituto de Seguridad de IA del Reino Unido antes de su lanzamiento para su prueba y evaluación. El instituto tendría poderes legales para publicar advertencias previas al lanzamiento y aconsejar al regulador cuándo se debe impedir el lanzamiento de un modelo o retirarlo del mercado.
El comité dijo que la regulación debería seguir siendo proporcional, con menos requisitos para sistemas de bajo riesgo y salvaguardias contra cargas innecesarias para las empresas más pequeñas.
“Nada de esto tiene por qué comprometer el uso de la IA para ayudar a generar crecimiento económico, donde se pueda hacer de forma segura”, añade el informe. “Como nos dijo un testigo, ‘el único crecimiento que vale la pena tener es aquel que protege los derechos humanos’”.
LEER MÁS: La investigación de armas biológicas, los espías vinculados a Rusia, los cohetes guiados y los ciberataques en Europa utilizaron Claude AI, revela Anthropic. La firma de inteligencia artificial de 965 mil millones de dólares dice que su propia tecnología fue utilizada por una célula yemení para desarrollar guías de misiles, ayudó a presuntos espías vinculados al estado ruso a automatizar operaciones cibernéticas, permitió a piratas informáticos solitarios atacar a partidos políticos, medios y grupos de expertos europeos y fue utilizada en investigaciones que, según Anthropic, podrían apoyar el desarrollo de armas biológicas. Su preocupante nuevo informe revela cómo los delincuentes y otros actores de amenazas están utilizando Claude y otras IA autónomas para ejecutar operaciones que antes requerían equipos de especialistas capacitados.
¿Tiene noticias para compartir o experiencia para contribuir? El europeo acoge con agrado las opiniones de líderes empresariales y especialistas del sector. Póngase en contacto con nuestro equipo editorial para obtener más información.