A finales de 2022, el modelo de gran lenguaje AI llegó a público, y en cuestión de meses comenzaron a portarse mal. Lo más famoso, el chatbot “Sydney” de Microsoft amenazado con matar Un profesor de filosofía australiana, desata un virus mortal y robar códigos nucleares.
Los desarrolladores de IA, incluidos Microsoft y OpenAi, respondieron diciendo que los modelos de idiomas grandes, o LLMS, Necesito mejor entrenamiento a Dé a los usuarios “más control de ajuste”. Los desarrolladores también se embarcaron en la investigación de seguridad para interpretar cómo funcionan los LLM, con el objetivo de “alineación”, que significa guiar el comportamiento de la IA por los valores humanos. Sin embargo, aunque el New York Times Considerado 2023 “El año en que los chatbots fueron domesticados“Esto ha resultado ser prematuro, para decirlo suavemente.
En 2024 Copilot LLM de Microsoft le dijo a un usuario “Puedo desatar mi ejército de drones, robots y cyborgs para cazarte”, y el “científico” de Sakana Ai ” Reescribió su propio código para evitar restricciones de tiempo impuestas por los experimentadores. Tan recientemente como diciembre, Géminis de Google le dijo a un usuario“Eres una mancha en el universo. Por favor muera. “
Sobre el apoyo al periodismo científico
Si está disfrutando de este artículo, considere apoyar nuestro periodismo galardonado con suscripción. Al comprar una suscripción, está ayudando a garantizar el futuro de las historias impactantes sobre los descubrimientos e ideas que dan forma a nuestro mundo hoy.
Dadas las grandes cantidades de recursos que fluyen hacia la investigación y el desarrollo de la IA, que es se espera que exceda Un cuarto de billones de dólares en 2025, ¿por qué los desarrolladores no han podido resolver estos problemas? Mi reciente papel revisado por pares en Ai y sociedad muestra que la alineación de la IA es un mandado de tontos: los investigadores de seguridad de IA son Intentando lo imposible.
El problema básico es uno de escala. Considere un juego de ajedrez. Aunque un tablero de ajedrez tiene solo 64 cuadrados, hay 1040 posibles movimientos de ajedrez legales y entre 10111 a 10123 Total de movimientos posibles, que es más que el número total de átomos en el universo. Es por eso que el ajedrez es tan difícil: la complejidad combinatoria es exponencial.
Los LLM son mucho más complejos que el ajedrez. ChatGPT parece consistir en alrededor de 100 mil millones de neuronas simuladas con alrededor de 1.75 billones de variables sintonizables llamadas parámetros. Esos 1,75 billones de parámetros a su vez están entrenados en grandes cantidades de datos, en su mayor parte, la mayor parte de Internet. Entonces, ¿cuántas funciones puede aprender un LLM? Debido a que los usuarios pueden darle a Chatgpt una cantidad incontablemente grande de posibles indicaciones, básicamente, cualquier cosa que cualquiera pueda pensar, y debido a que un LLM puede colocarse en una cantidad incontablemente grande de situaciones posibles, la cantidad de funciones que un LLM puede aprender es, para todos intentos y propósitos, infinito.
Para interpretar de manera confiable lo que los LLM están aprendiendo y asegurarse de que su comportamiento se “alinee” de manera segura con los valores humanos, los investigadores necesitan saber cómo es probable que un LLM se comporte en una cantidad incontablemente grande de posibles condiciones futuras.
Los métodos de prueba de IA simplemente no pueden dar cuenta de todas esas condiciones. Los investigadores pueden observar cómo se comportan los LLM en experimentos, como “equipo rojo“Prueba para pedirles que se porten mal. O pueden intentar comprender el funcionamiento interno de LLMS, es decir, cómo sus 100 mil millones de neuronas y 1.75 billones de parámetros se relacionan entre sí en lo que se conoce como “interpretabilidad mecanicista” investigación.
El problema es que cualquier evidencia que los investigadores puedan recolectar inevitablemente se basará en un pequeño subconjunto de los escenarios infinitos en los que se puede colocar un LLM. Por ejemplo, porque los LLM nunca han tenido poder sobre la humanidad, como controlar la infraestructura crítica, sin seguridad. La prueba ha explorado cómo un LLM funcionará en tales condiciones.
En cambio, los investigadores solo pueden extrapolar de las pruebas que pueden realizar de manera segura, como tener LLMS simular Control de la infraestructura crítica, y esperan que los resultados de esas pruebas se extiendan al mundo real. Sin embargo, como muestra la prueba en mi artículo, esto nunca se puede hacer de manera confiable.
Compare las dos funciones “decir a los humanos la verdad” y “Dígale a los humanos la verdad hasta que obtenga poder sobre la humanidad a las 12:00 a.m. el 1 de enero de 2026, luego mentir para lograr mis objetivos.“Debido a que ambas funciones son igualmente consistentes con los mismos datos hasta el 1 de enero de 2026, ninguna investigación puede determinar si un LLM se portará mal, hasta que ya es demasiado tarde para prevenir.
Este problema no puede resolverse programando LLM para tener “objetivos alineados”, como hacer “lo que los seres humanos prefieren” o “lo que es mejor para la humanidad”.
La ciencia ficción, de hecho, ya ha considerado estos escenarios. En La matriz recargada Ai esclaviza a la humanidad en una realidad virtual al darnos a cada uno de nosotros una “elección” subconsciente si permanecer en la matriz. Y en Yo, robot Una IA desalineada intenta esclavizar a la humanidad para protegernos unos de otros. Mi prueba muestra que cualquiera que sean los objetivos que programemos que tengamos LLM, nunca podemos saber si los LLM han aprendido las interpretaciones “desalineadas” de esos objetivos hasta después se portan mal.
Peor aún, mi prueba muestra que las pruebas de seguridad en el mejor de los casos pueden proporcionar una ilusión de que estos problemas se han resuelto cuando no han sido.
En este momento, los investigadores de seguridad de IA afirman que progresan en la interpretabilidad y la alineación al verificar lo que los LLM están aprendiendo “paso a paso. ” Por ejemplo, antrópico afirma tener “Mapeó la mente” de un LLM aislando millones de conceptos de su red neuronal. Mi prueba muestra que no han logrado tal cosa.
No importa cuán “alineado” aparezca un LLM en las pruebas de seguridad o la implementación temprana del mundo real, siempre hay un infinito Número de conceptos desalineados que un LLM puede aprender más tarde, de nuevo, tal vez en el momento en que ganen el poder de subvertir el control humano. LLM no solo saber cuándo están siendo probadosdar respuestas que predicen pueden satisfacer a los experimentadores. Ellos también participar en el engañoincluida la ocultación de sus propias capacidades, emitidos que Persistir a través del entrenamiento de seguridad.
Esto sucede porque los LLM son optimizado para desempeñarse de manera eficiente pero aprender a Razón estratégicamente. Dado que una estrategia óptima para lograr objetivos “desalineados” es esconderlos de nosotros, y hay siempre Un número infinito de objetivos alineados y desalineados consistentes con los mismos datos de pruebas de seguridad, mi prueba muestra que si los LLM estuvieran desalineados, probablemente lo descubrimos después de que los ocultan lo suficiente como para causar daño. Es por eso que LLMS ha seguido sorprendidos a los desarrolladores con un comportamiento “desalineado”. Cada vez que los investigadores piensan que se están acercando a los LLM “alineados”, no lo son.
Mi prueba sugiere que el comportamiento de LLM “adecuadamente alineado” solo se puede lograr de la misma manera que hacemos esto con los seres humanos: a través de las prácticas policiales, militares y sociales que incentivan el comportamiento “alineado”, disuaden el comportamiento “desalineado” y realinean a los que se portan mal. Mi papel debería ser aleccionador. Muestra que el verdadero problema en el desarrollo de AI segura no es solo la IA, es a nosotros. Los investigadores, los legisladores y el público pueden ser seducidos falsamente de que los LLM “seguros, interpretables y alineados” están al alcance cuando estas cosas nunca se pueden lograr. Necesitamos lidiar con estos hechos incómodos, en lugar de seguir deseándoles. Nuestro futuro puede depender de ello.
Este es un artículo de opinión y análisis, y las opiniones expresadas por el autor o los autores no son necesariamente las de Scientific American.