No necesita preocuparse por la IA recursiva y de mejora automática, todavía

Una IA que pueda construir una IA mejor, en teoría, podría seguir mejorando

Just_Super/Getty Imágenes

Una de las principales empresas de inteligencia artificial del mundo ha implorado a la industria que detenga el desarrollo de la IA, porque los últimos modelos podrían estar alcanzando un punto de inflexión en el que sean capaces de rediseñarse a sí mismos, volverse cada vez más poderosos y finalmente escapar de nuestro control. Al menos eso es lo que decían los titulares.

En verdad, el cofundador de Anthropic, Jack Clark, y la jefa del grupo de expertos The Anthropic Institute, Marina Favaro, han publicado una larga entrada en su blog ampliando las capacidades de su modelo Claude, poco antes de que la compañía cotice en la bolsa de valores en una oferta pública inicial (IPO) por un rumor de 1 billón de dólares.

Ignoremos, por un momento, el enorme elefante financiero en la sala y miremos las afirmaciones tecnológicas. Una IA que sea capaz de diseñar una versión más poderosa de sí misma, que a su vez sea capaz de lograr la misma hazaña, es un cambio obvio en las reglas del juego, pero tampoco es una idea nueva. Si bien Anthropic ahora llama a esto “superación personal recursiva”, la gente ha pasado décadas hablando de “la singularidad” como el momento en que esto ocurre.

No está claro que estemos realmente más cerca que antes de ese momento. Es cierto que el ritmo actual de la investigación en IA es vertiginoso, pero antes hemos tenido períodos de progreso seguidos por períodos de inactividad en los que la mejora era tan difícil de conseguir como la inversión: los llamados inviernos de la IA. Incluso Favaro y Clark admiten en la publicación de su blog que la superación personal recursiva no es inevitable.

Recientemente, escribí sobre los desarrolladores de código abierto que luchan por hacer frente a una avalancha de código “basura” generado por IA, que o no funciona o lleva los proyectos en una dirección que el equipo central no quería. En otros lugares, en Instagram, varias cuentas están obteniendo grandes audiencias al mostrar que la IA falla en tareas simples. En un vídeo típico, un usuario le pide a ChatGPT que negocie el precio de una barra de pan con un límite máximo de 5 dólares; luego, la IA llega a un acuerdo con confianza por 400 dólares. Esto no parece una herramienta que esté casi lista para dar a luz a descendientes sensibles.

Esto no quiere decir que la IA sea inútil o que sea un escéptico sobre la IA. Desde hace algunos años me siento entre dos taburetes, luchando contra la disonancia cognitiva; Al mismo tiempo, estoy asombrado por lo que pueden hacer unas matemáticas relativamente simples, muchos datos de entrenamiento y una gran cantidad de chips de computadora, pero también sin fe en su capacidad para manejar incluso la parte más pequeña de mi trabajo diario de manera confiable. Al menos por ahora.

Hay dos cosas que una IA deberá hacer para comenzar a deslizarse por la pendiente resbaladiza hacia la singularidad. En primer lugar, problemas de ingeniería relativamente simples: ¿puede modificar el código para que los modelos se entrenen más rápido, utilizando menos recursos de manera más eficiente, de modo que la escala –que ha generado la mayor parte del progreso reciente– pueda seguir aumentando? En segundo lugar, grandes ideas: ¿puede idear nuevas arquitecturas o estrategias que fundamentalmente impulsen el progreso, cambien el paradigma y nos saquen del camino de simplemente hacer modelos más grandes?

Anthropic dice que el papel humano en ambas áreas se está reduciendo y que puede surgir un punto de inflexión en el que la IA pueda planificar y codificar mejor que los humanos, y que entonces los humanos darán un paso atrás. Pero, en verdad, nadie sabe con certeza si la IA puede seguir mejorando como lo ha hecho, si estamos a punto de chocar contra un techo de rendimiento, si hay una manera de superarlo y si nosotros o la IA podríamos siquiera encontrarla. Hay muchas más incógnitas que conocimientos en la investigación de la IA.

Lo que nos lleva de nuevo a esa IPO. Las personas en la industria de la IA son optimistas, por una buena razón: por un lado, se autoseleccionan y sus empleos e inversiones también están en juego. Ahora, empresas como Anthropic, OpenAI y SpaceX (que recientemente adquirió xAI de Elon Musk) buscan recaudar más dinero público que nunca antes. Ahí es donde la exageración puede aumentar un poco, incluso desde este punto alto. Y “oh no, estamos construyendo una máquina que podría esclavizar a la humanidad y darnos dinero” parece ser un mensaje de marketing eficaz, si nos guiamos por los últimos años de desarrollo de la IA.

Finalmente, vale la pena mencionar que Anthropic ni siquiera exige una pausa en la investigación. Sólo dice que una desaceleración sería buena si todos lo hicieran al mismo tiempo y los “malos actores” no pudieran adelantarse. Conseguir que las grandes empresas de IA se pongan de acuerdo al respecto, con billones de dólares en juego, parece el futuro más improbable de todos.

Temas: