¿Qué tan cerca están los modelos de IA actuales de la AGI y de la automejora hacia la superinteligencia?

¿Estamos viendo los primeros pasos hacia la superinteligencia de la IA?

Por Deni Ellis Béchard editado por Eric Sullivan

Matrix, Terminator: gran parte de nuestra ciencia ficción se basa en los peligros de la inteligencia artificial superinteligente: un sistema que supera a los mejores humanos en casi todos los dominios cognitivos. El director ejecutivo de OpenAI, Sam Altman, y el director ejecutivo de Meta, Mark Zuckerberg, han predicho que lograremos dicha IA en los próximos años. Sin embargo, máquinas como las que se representan luchando contra la humanidad en esas películas tendrían que ser mucho más avanzadas que ChatGPT, sin mencionar más capaces de crear hojas de cálculo de Excel que Microsoft Copilot. Entonces, ¿cómo puede alguien pensar que estamos remotamente cerca de la superinteligencia artificial?

Una respuesta se remonta a 1965, cuando el estadístico Irving John Good introdujo la idea de una “máquina ultrainteligente”. Escribió que una vez que se volviera lo suficientemente sofisticada, una computadora mejoraría rápidamente. Si esto parece descabellado, considere cómo se construyó AlphaGo Zero, un sistema de inteligencia artificial desarrollado en DeepMind en 2017 para jugar al antiguo juego de mesa chino Go. Sin utilizar datos de juegos humanos, AlphaGo Zero jugó solo millones de veces, logrando en días una mejora que a un humano le habría llevado toda la vida y que le permitió derrotar a las versiones anteriores de AlphaGo que ya habían vencido a los mejores jugadores humanos del mundo. La idea de Good era que cualquier sistema que fuera lo suficientemente inteligente como para reescribirse a sí mismo crearía iteraciones de sí mismo, cada una más inteligente que la anterior e incluso más capaz de mejorar, lo que desencadenaría una “explosión de inteligencia”.

La pregunta, entonces, es qué tan cerca estamos de ese primer sistema capaz de superación autónoma. Aunque los sistemas desbocados que Good describió aún no están aquí, las computadoras que se mejoran a sí mismas sí lo están, al menos en dominios limitados. La IA ya está ejecutando código sobre sí misma. Codex de OpenAI y Claude Code de Anthropic pueden funcionar de forma independiente durante una hora o más escribiendo código nuevo o actualizando código existente. Usando Codex recientemente, ingresé un mensaje a mi teléfono mientras caminaba y creó un sitio web funcional antes de llegar a casa. En manos de codificadores expertos, estos sistemas pueden hacer mucho más, desde reorganizar grandes bases de código hasta esbozar formas completamente nuevas de construir el software en primer lugar.

Sobre el apoyo al periodismo científico

Si está disfrutando de este artículo, considere apoyar nuestro periodismo galardonado suscribiéndose. Al comprar una suscripción, ayudas a garantizar el futuro de historias impactantes sobre los descubrimientos y las ideas que dan forma a nuestro mundo actual.

Entonces, ¿por qué un modelo que impulsa ChatGPT no se ha codificado silenciosamente en ultrainteligencia? El problema está en la frase anterior: “en manos de codificadores expertos”. A pesar de las impresionantes mejoras de la IA, nuestros sistemas actuales todavía dependen de los humanos para establecer objetivos, diseñar experimentos y decidir qué cambios cuentan como progreso genuino. Todavía no son capaces de evolucionar independientemente de manera robusta, lo que hace que algunas conversaciones sobre una superinteligencia inminente parezcan desproporcionadas, a menos, por supuesto, que los sistemas de IA actuales estén más cerca de lo que parecen de poder automejorarse en porciones cada vez más amplias de sus capacidades.

Un área en la que ya parecen sobrehumanos es la cantidad de información que pueden absorber y manipular. Los modelos más avanzados se entrenan con muchos más textos de los que cualquier ser humano podría leer en su vida: desde poesía hasta historia y ciencias. También pueden realizar un seguimiento de tramos de texto mucho más largos mientras trabajan. Ya, con sistemas disponibles comercialmente como ChatGPT y Gemini, puedo cargar una pila de libros y hacer que la IA los sintetice y critique de una manera que tomaría semanas humanas. Eso no significa que el resultado sea siempre correcto o revelador, pero sí significa que, en principio, un sistema como este podría leer su propia documentación, registros y código y proponer cambios a una velocidad y escala que ningún equipo de ingeniería podría igualar.

Sin embargo, el razonamiento es donde estos sistemas se quedan atrás, aunque eso ya no es cierto en ciertas áreas específicas. AlphaDev de DeepMind y sistemas relacionados ya han encontrado algoritmos nuevos y más eficientes para tareas como la clasificación, resultados que ahora se utilizan en código del mundo real y que van más allá de la simple imitación estadística. Otros modelos sobresalen en matemáticas formales y preguntas científicas a nivel de posgrado que se resisten a una simple comparación de patrones. Podemos debatir el valor de cualquier punto de referencia en particular (y los investigadores están haciendo exactamente eso), pero no hay duda de que algunos sistemas de IA se han vuelto capaces de descubrir soluciones que los humanos no habían encontrado antes.

Si los sistemas ya tienen estas capacidades, ¿cuál es entonces la pieza que falta? Una respuesta es la inteligencia artificial general (AGI), el tipo de razonamiento dinámico y flexible que permite a los humanos aprender de un campo y aplicarlo a otros. Como escribí anteriormente, seguimos cambiando nuestras definiciones de AGI a medida que las máquinas dominan nuevas habilidades. Pero en el caso de la superinteligencia, lo que importa no es la etiqueta que le ponemos; se trata de si un sistema puede utilizar sus habilidades para rediseñarse y actualizarse de manera confiable.

Y esto nos lleva de nuevo a la “explosión de inteligencia” de Good. Si construimos sistemas con ese tipo de razonamiento flexible y humano en muchos dominios, ¿qué los separará de la superinteligencia? Los modelos avanzados ya están capacitados en más ciencia y literatura que cualquier ser humano, tienen mucha mayor memoria de trabajo y muestran extraordinarias habilidades de razonamiento en dominios limitados. Una vez que se implemente esa pieza faltante de razonamiento flexible, y una vez que permitamos que dichos sistemas implementen esas habilidades en su propio código, datos y procesos de capacitación, ¿podría el salto hacia un desempeño completamente sobrehumano ser más corto de lo que imaginamos?

No todos están de acuerdo. Algunos investigadores creen que todavía tenemos que comprender fundamentalmente la inteligencia y que diseñar esta pieza faltante llevará más tiempo de lo esperado. Otros hablan de que la AGI se logrará en unos pocos años, lo que conducirá a mayores avances mucho más allá de las capacidades humanas. En 2024, Altman sugirió públicamente que la superinteligencia podría llegar “en unos pocos miles de días”.

Si esto suena demasiado a ciencia ficción, considere que las empresas de inteligencia artificial realizan periódicamente pruebas de seguridad en sus sistemas para asegurarse de que no entren en un ciclo de superación personal descontrolado. METR, un grupo independiente de seguridad de IA, evalúa los modelos según cuánto tiempo pueden sostener de manera confiable una tarea compleja antes de fallar. En noviembre pasado, sus pruebas de GPT-5.1-Codex-Max duraron alrededor de dos horas y 42 minutos. Este es un gran salto con respecto a los pocos minutos de tal rendimiento de GPT-4 en la misma métrica, pero no es la situación que Good describió.

Anthropic realiza pruebas similares en sus sistemas de inteligencia artificial. “Para ser claros, todavía no estamos en la ‘IA automejorada'”, escribió el cofundador y jefe de políticas de la compañía, Jack Clark, en octubre, “pero estamos en la etapa de ‘IA que mejora partes de la próxima IA, con una autonomía cada vez mayor'”.

Si se logra el AGI y añadimos el juicio a nivel humano a una inmensa base de información, una vasta memoria de trabajo y una velocidad extraordinaria, la idea de Good de una rápida superación personal comienza a parecerse menos a la ciencia ficción. La verdadera pregunta es si nos limitaremos a lo “simplemente humano” o nos arriesgaremos a excedernos.

Es hora de defender la ciencia

Si te ha gustado este artículo, me gustaría pedirte tu apoyo. Científico americano ha servido como defensor de la ciencia y la industria durante 180 años, y ahora mismo puede ser el momento más crítico en esos dos siglos de historia.

he sido un Científico americano suscriptor desde que tenía 12 años y me ayudó a moldear mi forma de ver el mundo. Ciencia-Am Siempre me educa y me deleita, e inspira una sensación de asombro por nuestro vasto y hermoso universo. Espero que también lo haga por ti.

Si te suscribes a Científico americanousted ayuda a garantizar que nuestra cobertura se centre en investigaciones y descubrimientos significativos; que tenemos los recursos para informar sobre las decisiones que amenazan a los laboratorios en todo Estados Unidos; y que apoyemos a los científicos tanto en ciernes como en activo en un momento en el que con demasiada frecuencia el valor de la ciencia misma pasa desapercibido.

A cambio, obtiene noticias esenciales, podcasts cautivadores, infografías brillantes, boletines informativos imperdibles, vídeos imprescindibles, juegos desafiantes y los mejores escritos e informes del mundo científico. Incluso puedes regalarle a alguien una suscripción.

Nunca ha habido un momento más importante para que nos levantemos y demostremos por qué la ciencia es importante. Espero que nos apoyes en esa misión.