Los llamados a frenar el desarrollo de la inteligencia artificial de vanguardia, los modelos más poderosos de la industria, se han vuelto mucho más fuertes durante la última semana. Sigue surgiendo una idea como una forma de romper el cristal en caso de emergencia: un interruptor de apagado con IA.
El concepto de interruptor de emergencia es bastante sencillo cuando se habla de una máquina física. “En una fábrica, es un gran interruptor que apaga todas las máquinas de la fábrica”, dice Mark Nitzberg, director ejecutivo del Centro de IA Compatible con Humanos de la Universidad de California, Berkeley. “En el caso de la IA, es más una aspiración que una realidad”.
La semana pasada, el investigador de preentrenamiento antrópico Jacob Coxon renunció, citando riesgo existencial. Cuando el ex director ejecutivo de su empresa, Dario Amodei, publicó sobre la necesidad de frenar el progreso de la IA durante el fin de semana, líderes tecnológicos rivales como Elon Musk y Sam Altman rápidamente respaldaron el llamado. El lunes, el cofundador de Anthropic, Jack Clark, propuso interruptores de apagado obligatorios para los sistemas de inteligencia artificial. El Congreso también ha apoyado la idea con un proyecto de ley bipartidista, presentado este verano, que requeriría que los desarrolladores de inteligencia artificial avanzada mantengan la capacidad de acelerar, suspender o cerrar sus productos. Apropiadamente llamado “Ley AI Kill Switch”, el proyecto de ley permanece en comisión.
Sobre el apoyo al periodismo científico
Si está disfrutando de este artículo, considere apoyar nuestro periodismo galardonado suscribiéndose. Al comprar una suscripción, ayudas a garantizar el futuro de historias impactantes sobre los descubrimientos y las ideas que dan forma a nuestro mundo actual.
Todo esto plantea una pregunta central: ¿por qué los desarrolladores no simplemente desactivan el sistema?
Si una empresa controla los servidores que ejecutan un modelo, detener su implementación puede ser sorprendentemente sencillo. Michael Vermeer, científico físico de la RAND Corporation, lo expresa claramente. “El más obvio es simplemente el entorno físico”, afirma. “Hay muchas cosas para las que necesitas estar en el mundo físico”. Cortar la alimentación de los servidores o cortar su conexión de red puede ser suficiente.
Más allá de esto, Vermeer señala herramientas existentes como la criptografía y las prácticas de ciberseguridad que podrían aislar o contener un sistema, siempre que los defensores sepan dónde se está ejecutando. Al trabajar en los peores escenarios, también ha explorado una respuesta mucho más especulativa: agentes de IA cazadores-asesinos diseñados para rastrear e interrumpir un sistema corrupto.
Hacer cualquiera de estas cosas a escala global sería difícil: “algo casi imposible de hacer”, según Vermeer. Pero para los incidentes que hemos visto hasta ahora, cree que las intervenciones locales podrían ser suficientes. “A nivel local, hacer un interruptor de apagado o un interruptor de corte probablemente sea técnicamente trivial. Literalmente se desconecta un cable”, dice.
Los controles podrían incluso integrarse en el propio hardware. Nitzberg sugiere que se podría incorporar una señal de interrupción (o más bien una señal de mantenimiento de actividad que podría cortarse) en cada chip del centro de datos. “Cada minuto debe llegar algún mensaje. Si no llega de las autoridades, entonces el sistema no funciona”, afirma.
Otros se muestran escépticos ante un concepto tan simple de salvar el día. “yo llamaría [a kill switch] “Un ecosistema de acciones, cosas que pueden detener, aislar y degradar de forma segura un sistema de IA cuando su comportamiento se considera… operacionalmente inestable”, dice Eran Kahana, investigador de la Facultad de Derecho de la Universidad de Stanford. Para él, esos controles dependen de que las empresas decidan de antemano cómo responderán cuando algo salga mal. “Si no tienen las políticas correctas, no tienen opción en un sistema de interruptor de apagado”, dice Kahana.
Dylan Baker, ingeniero investigador del Distributed AI Research Institute, va más allá: la metáfora del cambio en sí misma es el problema. “Estamos hablando de un ecosistema y una red de tecnologías interconectadas tan complejos que reducirlo a un solo interruptor de apagado o ‘desaceleración’ es reduccionista”, afirman.
“El problema es que hay gente involucrada”, dice Nitzberg. Y esas personas tendrían que decidir cuándo está justificado tirar de la palanca, potencialmente antes de tener toda la información.
Por supuesto, es posible superar estos problemas técnicos y operativos. Kahana y Baker, por ejemplo, citaron explícitamente mejores prácticas de monitoreo como clave para detectar incidentes antes de que se salgan de control. Pero otros problemas no técnicos aún pueden impedir que dicho sistema sea útil. “Los incentivos simplemente no están alineados para usar un interruptor de apagado si tuviera uno, incluso en un caso simple en el que sea trivial construir uno”, dice Vermeer. Cerrar un sistema, afirma, conlleva costos operativos y competitivos, lo que crea motivos para dudar hasta que una intervención local sea menos útil o demasiado tarde. “No estaremos seguros de estar dispuestos a pagar el coste de su uso”, añade Vermeer.
Como sea que lo llamen, los desarrolladores de IA todavía necesitan saber qué partes del sistema pueden cerrar en caso de emergencia y si esos controles funcionarán cuando más se necesiten.
La beca de Peter Hall en Scientific American está financiada por el Centro Tarbell de Periodismo de IA.