La Cumbre de Seguridad de la IA del gobierno del Reino Unido, que pretende “reunir al mundo para discutir la IA de frontera”, ha sido criticada por la falta de perspectivas diversas entre sus delegados, y los críticos la descartan como poco más que una oportunidad para tomar fotografías.

El primer ministro Rishi Sunak recibirá a un grupo de 100 representantes de empresas, política y academia en Bletchley Park los días 1 y 2 de noviembre para discutir los riesgos de los modelos de IA «de frontera». definido como “modelos de IA de uso general altamente capaces que pueden realizar una amplia variedad de tareas e igualar o superar las capacidades presentes en los modelos más avanzados de la actualidad”. Pero el gobierno no ha revelado públicamente la lista de delegados y los activistas han criticado el reducido número de voces presentes.

Marcos Lee de la Universidad de Birmingham, Reino Unido, dice que la cumbre es una “oportunidad para tomar fotografías” preparada por etapas en lugar de una oportunidad para un discurso abierto, y que se está centrando en los problemas equivocados.

«Necesitamos un debate abierto», dice. “Queremos una visión interdisciplinaria de la IA con personas informadas desde una perspectiva legal, desde una perspectiva ética, desde una perspectiva tecnológica, en lugar de personas realmente poderosas de las empresas. Quiero decir, necesitan estar en la sala, pero no pueden ser solo ellos”.

Lee dice que la cumbre parece centrarse en riesgos existenciales hipotéticos como «robots con armas» en lugar de los riesgos reales. y riesgos acuciantes de Las IA toman decisiones sesgadas en diagnóstico médico, justicia penal, finanzas y solicitudes de empleo. Una variedad más amplia de voces, con antecedentes más diversos, podría orientar a los legisladores en una dirección más práctica al discutir la regulación, afirma.

Más de 100 sindicatos, organizaciones benéficas y otros grupos firmó una carta abierta a Sunak esta semana expresando su preocupación por la falta de diversidad en el evento. Advierten que las “comunidades y trabajadores más afectados por la IA han sido marginados por la Cumbre”.

El grupo de campaña PauseAI, que se creó para resaltar lo que considera riesgos existenciales potenciales de los futuros modelos de IA, organizó una protesta frente a Bletchley Park. Joep Meindertsma de PauseAI dice que las empresas que asisten a la cumbre están atrapadas en una carrera para producir una IA poderosa incluso si sus empleados temen que el rápido progreso pueda ser peligroso, y que no hay una variedad de voces en el evento.

«Las encuestas muestran que el público quiere frenar el desarrollo de la IA», afirma Meindertsma. “Los directores ejecutivos de las empresas de IA y los representantes gubernamentales quieren acelerar, quieren que su empresa o país lidere. Probablemente sólo haya un puñado de personas en la cumbre que presionarán para que se adopten medidas concretas para frenar la desaceleración. A ninguna empresa se le debería permitir construir una superinteligencia”.

«Deberíamos haber sido invitados a representar a todas las personas que creen que deberíamos simplemente detener esta peligrosa carrera», dice Meindertsma.

Dentro de la cumbre, Científico nuevoEl reportero fue conducido al centro de prensa de alta seguridad y le dijeron que no podían irse a menos que hubieran concertado una entrevista con un delegado. Cuando pidieron una lista de delegados, les dijeron que no se haría pública.

Un periodista, que pidió permanecer en el anonimato, trabaja para otro medio que cubre AI, pero se le negó la entrada a la cumbre.

«Tenemos más de 15 personas en todo el mundo informando sobre la regulación digital y de la IA, y nos dijeron que no había espacio para nosotros, porque serían principalmente lobby, nacionales del Reino Unido y emisoras», dicen. “Simplemente piensan que pondrán a un par de periodistas al frente de Enigma. [the second world war encryption device] y obtenga la cobertura ‘Dios mío, esto es innovador’. Obtener entrevistas, acceso y actualizaciones ha sido horrible, y la mayoría de los correos electrónicos ni siquiera son reconocidos ni respondidos”.

Un portavoz del gobierno dijo: “La Cumbre sobre Seguridad de la IA ha reunido a una amplia gama de asistentes, incluidos gobiernos internacionales, el mundo académico, la industria y la sociedad civil, como parte de un enfoque colaborativo para impulsar una acción internacional rápida y específica para el desarrollo seguro y responsable de la IA. AI. Estos asistentes son la combinación perfecta de experiencia y voluntad de ser parte de las discusiones”.