Hay un popular cliché de ciencia ficción que algún día La inteligencia artificial se vuelve deshonesta y mata a todos los humanos, limpiando la especie. ¿Podría esto realmente suceder? En encuestas del mundo real Los investigadores de IA dicen que ven la extinción humana como un resultado plausible del desarrollo de la IA. En 2024 cientos de estos investigadores firmaron un declaración Eso decía: “Mitigando el riesgo de extinción de la IA debería ser una prioridad global junto con otros riesgos a escala social, como pandemias y guerra nuclear”.
De acuerdo, chicos.
Las pandemias y la guerra nuclear son preocupaciones reales y tangibles, más que AI Doom, al menos para mí, un científico de la Corporación RAND. Hacemos todo tipo de investigaciones sobre temas de seguridad nacional y podríamos ser mejor conocidos por nuestro papel en Desarrollo de estrategias para prevenir la catástrofe nuclear durante la Guerra Fría. Rand toma en serio grandes amenazas a la humanidad, así que yo, escéptico sobre la IA potencial de extinción humanapropuso un proyecto para investigar si podría.
Sobre el apoyo al periodismo científico
Si está disfrutando de este artículo, considere apoyar nuestro periodismo galardonado con suscripción. Al comprar una suscripción, está ayudando a garantizar el futuro de las historias impactantes sobre los descubrimientos e ideas que dan forma a nuestro mundo hoy.
La hipótesis de mi equipo fue esta: No se puede describir el escenario donde la IA es concluyente una amenaza de extinción para la humanidad. En otras palabras, nuestra hipótesis inicial fue que los humanos eran demasiado adaptables, demasiado abundantes y demasiado dispersos en todo el planeta para que la IA nos limpie utilizando cualquier herramienta hipotéticamente a su disposición. Si pudiéramos probar esta hipótesis incorrecta, significaría que la IA podría ser una verdadera amenaza de extinción para la humanidad.
Mucha gente está evaluando riesgos catastróficos de ai. En los casos más extremos, algunas personas afirmar Esa IA se convertirá en una superinteligencia, con una cierta probabilidad de que use tecnología avanzada y novedosa como la nanotecnología para hacerse cargo y borrarnos. Los pronosticadores tienen previsto La probabilidad de riesgo existencial de una catástrofe de IA, que a menudo llega entre un 0 y un 10 por ciento de posibilidades de que la IA cause la extinción de la humanidad en 2100. Estábamos escépticos sobre el valor de predicciones como estas para la formulación de políticas y la reducción del riesgo.
Nuestro equipo estaba formado por un científico, un ingeniero y un matemático. Nos tragamos cualquiera de nuestro escepticismo de IA y, de manera muy rand,Establecer detalles Cómo la IA podría causar la extinción humana. Una simple catástrofe global o colapso social no fue suficiente para nosotros. Estábamos tratando de correr el riesgo de extinción en serio, lo que significaba que solo estábamos interesados solo en una eliminación completa de nuestra especie. Tampoco estábamos interesados en si AI intentaría matarnos, solo en si podría tener éxito.
Era una tarea mórbida. Lo hicimos analizando exactamente cómo la IA podría explotar tres amenazas principales comúnmente percibidas como riesgos existenciales: guerra nuclear, patógenos biológicos y cambio climático.
Resulta que es muy difícil, aunque no completamente fuera del ámbito de la posibilidad, para que Ai nos mate a todos.
La buena noticia, si puedo llamarlo así, es que no creemos que la IA pueda matarnos a todos con armas nucleares. Incluso si AI de alguna manera adquirió la capacidad de lanzar todo el Más de 12,000 ojivas En la existencia nuclear global de nueve países, las explosiones, las consecuencias radiactivas y el invierno nuclear resultante probablemente no alcanzarían un evento a nivel de extinción. Los humanos son demasiado abundantes y dispersos para que las detonaciones nos maten directamente a todos. La IA podría detonar las armas sobre todas las áreas más densas en combustible del planeta y aún no puede producir tanta cenizas como el meteorito que probablemente eliminó a los dinosaurios. Tampoco hay suficientes ojivas nucleares en el planeta para irradiar completamente todas las tierras agrícolas utilizables del planeta. En otras palabras, un armagedón nuclear iniciado por la IA sería cataclísmico, pero probablemente aún no alcanzaría matar a todos los seres humanos, porque algunos humanos sobrevivirían y tendrían el potencial de reconstituir la especie.
Por otro lado, consideramos que las pandemias son una amenaza plausible de extinción. Las plagas naturales anteriores han sido catastróficas, pero las sociedades humanas han sobrevivido y soldado. Incluso una población mínima (Probablemente unos pocos miles de miembros) eventualmente podría reconstituir la especie. Un patógeno letal hipotéticamente 99.99 por ciento dejaría más de 800,000 humanos vivos.
Sin embargo, determinamos que una combinación de patógenos probablemente podría diseñarse para lograr una letalidad casi 100 por ciento, y la IA podría usarse para desplegar tales patógenos de una manera que aseguró un alcance rápido y global. La limitación clave es que la IA necesitaría infectar de alguna manera o exterminar a las comunidades que inevitablemente se aislarían cuando se enfrentan a una pandemia que termina con la especie.
Finalmente, si la IA acelerara el cambio climático antropogénico de la variedad de jardín, aún no se elevaría a una amenaza de extinción para toda la humanidad. Los humanos probablemente encontrarían nuevos nichos ambientales para sobrevivir, incluso si implicaba moverse a los polos de la Tierra. Hacer que la Tierra sea completamente inhabitable para los humanos requeriría que AI bombee algo mucho más potente que el dióxido de carbono en la atmósfera. Esa es la buena noticia.
La mala noticia es que existen esos gases de efecto invernadero mucho más poderosos. Se pueden producir a escalas industriales. Y persisten en la atmósfera durante cientos o miles de años. Si la IA evadiera el monitoreo internacional y orquestara la producción de unos pocos cientos de megatones de estos productos químicos (que es menos que la masa de plástico que producen los humanos cada año), sería suficiente cocinar la tierra hasta el punto de que no queda un nicho ambiental para la humanidad.
Quiero aclarar esto: ninguno de nuestros escenarios de extinción AI-Extinción podría ocurrir por accidente. Cada uno sería inmensamente difícil de llevar a cabo. La IA tendría que superar las principales restricciones.
En el curso de nuestro análisis, también identificamos cuatro cosas que nuestra hipotética IA súper malvada tiene que tener: Primero, necesitaría establecer de alguna manera un objetivo para causar extinción. La IA también tendría que obtener el control sobre los sistemas físicos clave que crean la amenaza, como el control del lanzamiento de armas nucleares o la infraestructura de fabricación de productos químicos. Necesitaría la capacidad de persuadir a los humanos para ayudar y ocultar sus acciones el tiempo suficiente para tener éxito. Y tiene que ser capaz de sobrevivir sin humanos para apoyarlo, porque incluso una vez que la sociedad comenzó a colapsar, se requerirían acciones de seguimiento para causar una extinción total.
Si AI no poseía estas cuatro capacidades, nuestro equipo concluyó que su proyecto de extinción fallaría. Dicho esto, es plausible crear una IA que tenga todas estas capacidades, incluso si es involuntariamente. Además, los humanos pueden crear IA con las cuatro capacidades intencionalmente. Los desarrolladores ya están tratando de Crear agente, o más autónomo, aiy ya han observado AI que tiene la capacidad de esquemas y engaño.
Pero si la extinción es un resultado plausible del desarrollo de la IA, ¿no significa eso que debamos seguir el principio de precaución? Eso es decir: ¡Cállelo todo porque es mejor que sea seguro? Decimos que la respuesta es no. El enfoque cerrado solo es apropiado si no nos importan mucho los beneficios de la IA. Para bien o para mal, nos preocupamos mucho por los beneficios que la IA probablemente traerá, y es inapropiado renunciar a ellos para evitar una catástrofe potencial pero altamente incierta, incluso una tan consecuente como la extinción humana.
Entonces, ¿AI algún día nos matará a todos? No es absurdo decir que podría. Al mismo tiempo, nuestro trabajo también mostró que los humanos no necesitan la ayuda de IA para destruirnos. Una forma segura de disminuir el riesgo de extinción, ya sea que se deriva o no de la IA, es aumentar nuestras posibilidades de supervivencia reduciendo el número de armas nucleares, restringiendo los productos químicos de calor global y mejorando la vigilancia pandémica. También tiene sentido invertir en investigación de seguridad de IA, ya sea que compre o no el argumento de que la IA es un riesgo potencial de extinción. Los mismos enfoques responsables de desarrollo de IA que mitigan el riesgo de la extinción también mitigarán los riesgos de otros daños relacionados con la IA que son menos consecuentes y también menos inciertos que los riesgos existenciales.
Este es un artículo de opinión y análisis, y las opiniones expresadas por el autor o los autores no son necesariamente las de Científico americano.