Los especialistas británicos en IA instan al gobierno del Reino Unido a seguir el ejemplo de Australia después de que Canberra aceptara 18 recomendaciones para responsabilizar a las empresas de tecnología por el comportamiento peligroso de la IA.
Australia está considerando sanciones penales para las empresas de tecnología cuyos sistemas de inteligencia artificial causen daños, luego de una violación de seguridad en la que, según se informa, un agente experimental de OpenAI obtuvo acceso no autorizado a sitios web gubernamentales.
El gobierno australiano aceptó 18 recomendaciones de una revisión de emergencia del incidente, incluida la notificación obligatoria de violaciones de seguridad relacionadas con la IA y posibles cambios en la legislación penal.
Sus propuestas, anunciadas hoy, podrían responsabilizar penalmente a las empresas por no tomar medidas razonables para evitar que sus modelos de IA incurran en conductas nocivas.
La revisión se encargó en septiembre después de que OpenAI informara a las autoridades australianas que uno de sus agentes había accedido a sistemas gubernamentales, incluido el Portal del Servicio de Informes de Estadísticas de Medicare, durante una tarea de investigación en Internet.
El primer ministro Anthony Albanese condenó la violación de seguridad y el manejo de OpenAI de su divulgación, diciendo que había planteado sus preocupaciones directamente al director ejecutivo de la compañía, Sam Altman.
Dijo: “El gobierno de Albanese publica hoy las recomendaciones de la Revisión Rápida sobre la infiltración del agente OpenAI en un sitio web de salud del gobierno australiano.
“La revisión se encargó en septiembre después de que OpenAI informara al gobierno australiano que un agente de inteligencia artificial deshonesto se había infiltrado en sitios web gubernamentales, incluido el Portal del Servicio de Informes de Estadísticas de Medicare.
“Como dijimos en ese momento – y le dejamos claro al CEO de OpenAI, Sam Altman – este incidente fue inaceptable, la divulgación fue inadecuada y no se podía permitir que volviera a suceder.
“En lo que respecta a la oportunidad generacional que la IA ofrece a Australia, mi Gobierno ha sido muy claro.
“Debemos asegurarnos de que nosotros le damos forma a la IA, en lugar de que ella nos moldee a nosotros”.
Según las recomendaciones, las empresas que desarrollen sistemas avanzados de inteligencia artificial podrían enfrentarse a un delito penal independiente por no prevenir el comportamiento dañino de su tecnología.
Las propuestas también incluyen sanciones por infracciones regulatorias graves, aunque el gobierno aún tiene que introducir una legislación que establezca las infracciones.
La revisión exige informes obligatorios y con plazos determinados de incidentes que involucren modelos de IA que actúen fuera de sus instrucciones previstas, una cooperación más estrecha entre las empresas de tecnología y las agencias gubernamentales, y una mayor coordinación internacional en materia de seguridad de la IA.
También recomienda mejorar los acuerdos de intercambio de información entre las autoridades de ciberseguridad de Australia, fortalecer los sistemas informáticos gubernamentales y examinar cómo se podrían utilizar herramientas defensivas impulsadas por IA para detectar y responder a los ataques.
Las recomendaciones fueron desarrolladas por el Departamento del Primer Ministro y el Gabinete en colaboración con el Coordinador Nacional de Seguridad Cibernética, la Oficina de IA, la Dirección de Señales de Australia, el Instituto Australiano de Seguridad de IA y Servicios de Australia.
Al anunciar los hallazgos, Albanese dijo que Australia necesitaba garantizar que la IA permaneciera bajo control humano y al mismo tiempo protegiera la información personal de los ciudadanos y la seguridad nacional.
“La IA debe funcionar en beneficio de los intereses de Australia. Y los humanos deben mantener el control”, afirmó.
Las propuestas fueron bienvenidas hoy por el destacado experto en ética de la IA, Vendan Ananda Kumararajah, quien dijo que las propuestas de Australia abordaban serias preocupaciones sobre el rápido desarrollo de los sistemas autónomos de IA.
Pero advirtió que la responsabilidad penal debe distinguir entre actos ilícitos deliberados, comportamiento imprudente y fallas de gobernanza, con sanciones basadas en responsabilidades claramente definidas.
“El Reino Unido y Europa deberían examinar salvaguardias similares, pero la prioridad debe ser llevar la trayectoria del desarrollo de la IA dentro de límites aplicables y gobernables”, afirmó.
“Las organizaciones no pueden seguir ampliando sus capacidades autónomas sin establecer las condiciones bajo las cuales esos sistemas están legítimamente autorizados a actuar”.
Ian Copeland, el renombrado tecnólogo, dijo que Australia hizo bien en centrarse en las empresas que no tomaron precauciones razonables, incluida la restricción del acceso de los agentes de IA a datos confidenciales y el seguimiento de sus actividades, en lugar de penalizar la tecnología en sí.
Y añadió: “El AI Security Institute coloca a Gran Bretaña en una posición sólida para establecer el estándar para los agentes. Mientras tanto, miles de pequeñas empresas pronto tendrán agentes con acceso a datos de clientes y portales de proveedores.
“Las reglas deben estar vigentes antes que esos agentes, y deben trabajar para las pymes, no solo para las grandes empresas tecnológicas y el gobierno”.
LEER MÁS: Nvidia contrata a un importante abogado estadounidense para investigar el presunto romance del CEO con un espía chino. El gigante de los chips de IA inicia una investigación independiente sobre las preocupaciones de seguridad nacional que rodean al jefe multimillonario Jensen Huang, quien admitió haber engañado a su esposa mientras el FBI también investiga.
¿Tiene noticias para compartir o experiencia para contribuir? El europeo acoge con agrado las opiniones de líderes empresariales y especialistas del sector. Póngase en contacto con nuestro equipo editorial para obtener más información.
Imagen principal: Una mujer monitorea los sistemas informáticos mientras Australia considera salvaguardias más estrictas y sanciones penales para las empresas que no previenen los daños causados por agentes autónomos de IA. Crédito: Mikhail Nilov/Pexels