Hay un 5% de posibilidades de que la IA provoque la extinción de los humanos, dicen los científicos

Muchos inteligencia artificial Los investigadores consideran que el posible desarrollo futuro de una IA sobrehumana tiene una posibilidad no trivial de causar la extinción humana, pero también existe un desacuerdo e incertidumbre generalizados sobre tales riesgos.

Esos hallazgos provienen de una encuesta a 2700 investigadores de IA quienes recientemente publicaron trabajos en seis de las principales conferencias de IA, la encuesta más grande de este tipo hasta la fecha. La encuesta pidió a los participantes que compartieran sus opiniones sobre posibles cronogramas para futuros hitos tecnológicos de la IA, así como los buenos o malos resultados. Malas consecuencias sociales de esos logros.. Casi el 58 por ciento de los investigadores dijeron que consideraban que había un 5 por ciento de posibilidades de extinción humana u otros resultados extremadamente malos relacionados con la IA.

“Es una señal importante de que a la mayoría de los investigadores de IA no les parece muy inverosímil que la IA avanzada destruya a la humanidad”, dice Katja Gracia en el Instituto de Investigación de Inteligencia Artificial en California, autor del artículo. “Creo que esta creencia general en un riesgo no minúsculo es mucho más reveladora que el porcentaje de riesgo exacto”.

Pero todavía no hay por qué entrar en pánico, afirma Emile Torres en la Universidad Case Western Reserve en Ohio. Muchos expertos en IA “no tienen un buen historial” en la previsión de futuros desarrollos de la IA, afirman. Grace y sus colegas reconocieron que los investigadores de IA no son expertos en pronosticar la trayectoria futura de la IA, pero demostraron que Versión 2016 de su encuesta. hizo un “bastante buen trabajo al pronosticar” los hitos de la IA.

En comparación con las respuestas de una versión de 2022 de la misma encuesta, muchos investigadores de IA predijeron que la IA alcanzará ciertos hitos antes de lo previsto anteriormente. Esto coincide con el debut de ChatGPT en noviembre de 2022 y La prisa de Silicon Valley por implementar ampliamente una IA similar Servicios de chatbot basados ​​en grandes modelos de lenguaje.

Los investigadores encuestados predijeron que dentro de la próxima década, los sistemas de inteligencia artificial tienen un 50 por ciento o más de posibilidades de abordar con éxito la mayoría de 39 tareas de muestra, incluida escribir nuevas canciones indistinguibles de un éxito de Taylor Swift o codificar un sitio completo de procesamiento de pagos desde cero. Otras tareas como instalar físicamente el cableado eléctrico en una casa nueva o resolviendo viejos misterios matemáticos se espera que tomen más tiempo.

El posible desarrollo de una IA que pueda superar a los humanos en todas las tareas tenía un 50 por ciento de probabilidades de ocurrir para 2047, mientras que la posibilidad de que todos los trabajos humanos se volvieran completamente automatizables tenía un 50 por ciento de probabilidades de ocurrir para 2116. Estas estimaciones son 13 años y 48 años antes que los dados en la encuesta del año pasado.

Pero las mayores expectativas con respecto al desarrollo de la IA también pueden fracasar, dice Torres. “Muchos de estos avances son bastante impredecibles. Y es muy posible que el campo de la IA pase por otro invierno”, dicen, refiriéndose al Agotamiento de la financiación y del interés empresarial en la IA durante las décadas de 1970 y 1980..

También hay preocupaciones más inmediatas sin riesgos sobrehumanos de IA. Una gran mayoría de investigadores de IA (70 por ciento o más) describieron los escenarios impulsados ​​por la IA que involucran deepfakes, manipulación de la opinión pública, armas diseñadas, control autoritario de las poblaciones y el empeoramiento de la desigualdad económica como de preocupación sustancial o extrema. Torres también destacó los peligros de que la IA contribuya a la desinformación sobre cuestiones existenciales como el cambio climático o el empeoramiento de la gobernanza democrática.

“Ya contamos con la tecnología, aquí y ahora, que podría socavar seriamente [the US] democracia”, dice Torres. “Veremos qué pasa en las elecciones de 2024”.