¿Se aconseja Keir Starmer? El gobierno del Reino Unido no nos lo dirá

Miles de funcionarios públicos en el corazón del gobierno del Reino Unido, incluidos aquellos que trabajan directamente para apoyar al primer ministro Keir Starmer, están utilizando un chatbot de inteligencia artificial patentado para llevar a cabo su trabajo, Nuevo científico puede revelar. Las autoridades se han negado a revelar en el registro exactamente cómo se está utilizando la herramienta, si el primer ministro está recibiendo consejos que se han preparado utilizando IA o cómo los funcionarios públicos están mitigando los riesgos de las salidas de IA inexactas o sesgadas. Los expertos dicen que la falta de divulgación plantea preocupaciones sobre la transparencia del gobierno y la precisión de la información que se utiliza en el gobierno.

Después de asegurar La primera versión mundial de los registros de chatgpt bajo la legislación de libertad de información (FOI), Nuevo científico solicitó a 20 departamentos gubernamentales registros de sus interacciones con Redbox, una herramienta de IA generativa desarrollada en casa y probada entre el personal del gobierno del Reino Unido. El chatbot con modelo de idioma grande permite a los usuarios interrogar documentos gubernamentales y “generar los primeros borradores de sesiones informativas”, de acuerdo a Una de las personas detrás de su desarrollo. Los primeros juicios vieron a un funcionario civil afirmar haber sintetizado 50 documentos “en cuestión de segundos”, en lugar de un día completo.

Todos los departamentos contactados dijeron que no usaron Redbox o se negaron a proporcionar las transcripciones de las interacciones con la herramienta, alegando que Nuevo científico‘Las solicitudes fueron “vexatorias”, un término oficial utilizado para responder a las solicitudes de FOI de que la oficina del Comisionado de Información define como “probablemente cause un nivel de angustia, interrupción o irritación desproporcionado o injustificable”.

Sin embargo, dos departamentos proporcionaron información sobre su uso de Redbox. La oficina del gabinete, que apoya al primer ministro, dijo que 3000 personas en su departamento habían participado en un total de 30,000 chats con Redbox. Dijo que revisar estos chats para redactar cualquier información confidencial antes de liberarlos bajo FOI requeriría más de un año de trabajo. El Departamento de Negocios y Comercio también disminuyó, afirmando que tenía “más de 13,000 indicaciones y respuestas” y revisarlas para su liberación no sería factible.

Cuando se hicieron preguntas de seguimiento sobre el uso de Redbox, ambos departamentos se refirieron Nuevo científico al Departamento de Ciencia, Innovación y Tecnología (DSIT), que supervisa la herramienta. DSIT se negó a responder preguntas específicas sobre si el primer ministro u otros ministros del gabinete están recibiendo consejos que se han preparado utilizando herramientas de IA.

Un portavoz de DSIT le dijo Nuevo científico: “Nadie debería pasar tiempo en algo que la IA puede hacer mejor y más rápidamente. Construido en Whitehall, Redbox nos está ayudando a aprovechar el poder de la IA de una manera segura, segura y práctica, lo que facilita que los funcionarios resuman documentos, agendas y más.

Pero el uso de herramientas generativas de IA se refiere a algunos expertos. Los modelos de idiomas grandes tienen problemas bien documentados alrededor inclinación y exactitud Es difícil de mitigar, por lo que no tenemos forma de saber si Redbox está proporcionando información de buena calidad. DSIT declinó responder preguntas específicas sobre cómo los usuarios de Redbox evitan inexactitudes o sesgos.

“Mi problema aquí es que se supone que el gobierno sirve al público, y parte de ese servicio es que nosotros, como los contribuyentes, como votantes, como el electorado, deberíamos tener una cierta cantidad de acceso para comprender cómo se toman las decisiones y cuáles son los procesos en términos de toma de decisiones”, Flick de Catherine en la Universidad de Staffordshire, Reino Unido.

Debido a que las herramientas generativas de IA son cajas negras, Flick le preocupa que no sea fácil probar o comprender cómo alcanza una salida particular, como resaltar ciertos aspectos de un documento sobre otros. La falta de voluntad del gobierno para compartir esa información reduce aún más la transparencia, dice ella.

Esa falta de transparencia se extiende a un tercer departamento gubernamental, el Tesoro. En respuesta a la solicitud de FOI, el Tesoro dijo Nuevo científico que su personal no tiene acceso a Redbox y que “Herramientas GPT disponibles internamente dentro de HM [His Majesty’s] El tesoro no retiene una historia rápida ”. Exactamente a qué herramienta GPT esto se refiere no es claro: si bien ChatGPT es el ejemplo más famoso, otros modelos de idiomas grandes tampoco se conocen como GPTS. La respuesta sugiere que el Tesoro está utilizando herramientas de IA, pero no manteniendo registros completos de su uso. El Treasury no respondió a Nuevo científicoSolicitud de aclaración.

“Si no conservan las indicaciones que se están utilizando, es difícil tener algún tipo de idea de cómo replicar los procesos de toma de decisiones allí”, dice Flick.

Jon Baines En la firma de abogados del Reino Unido, Mishcon de Reya, dice que elegir no registrar esta información es inusual. “Me parece sorprendente que el gobierno diga que no puede recuperar las indicaciones ingresadas en sus sistemas GPT internos”. Si bien los tribunales han dictaminado que los organismos públicos no tienen que mantener los registros públicos antes del archivo, “La buena gobernanza de la información sugeriría que aún puede ser muy importante retener registros, especialmente cuando podrían haberse utilizado para desarrollar o informar la política”, dice.

Sin embargo, el experto en protección de datos, Tim Turner, dice que el Tesoro tiene derecho a no retener las indicaciones de AI bajo las leyes de FOI: “Creo que a menos que haya una regla de servicio legal o civil específica sobre la naturaleza de los datos, pueden hacer esto”.