Hannah Fry: ‘La IA puede hacer algunas cosas sobrehumanas, pero también las carretillas elevadoras’

Lo más probable es que hoy se piense mucho más en la inteligencia artificial que hace cinco años. Desde que se lanzó ChatGPT en noviembre de 2022, nos hemos acostumbrado a interactuar con IA en la mayoría de las esferas de la vida, desde chatbots y tecnología doméstica inteligente hasta banca y atención médica.

Pero un cambio tan rápido trae problemas inesperados, como muestra la matemática y locutora Hannah Fry en AI Confidential With Hannah Fry, un nuevo documental de la BBC en tres partes en el que habla con personas cuyas vidas han sido transformadas por la tecnología. Habló con New Scientist sobre cómo deberíamos ver la IA, su papel en las matemáticas modernas y por qué trastocará la economía global.

Bethan Ackerley: En el programa, exploras lo que la IA está haciendo en nuestras relaciones y en nuestro sentido de la realidad. Parte de esto se debe a la “adulación de la IA”, la idea de que estas herramientas nos brindan lo que queremos escuchar, no lo que necesitamos escuchar. ¿Cómo sucede esto?

Hannah Fry: Los modelos anteriores eran extremadamente aduladores. Todo lo que escribieras, te dirían: “Dios mío, eres tan increíble, eres el mejor escritor que he experimentado”. Ahora son un poco mejores, pero existe una contradicción fundamental. Queremos que sean útiles, alentadores y nos hagan sentir importantes, que son las cosas que se obtienen de una relación humana realmente buena.

Al mismo tiempo, una relación humana realmente buena dirá las cosas difíciles en voz alta. Si pones demasiado de eso en la IA, deja de ser útil y comienza a ser discutible y no es divertido estar con él. También existe una gran cantidad de personas que rompieron con sus parejas porque lo usaron como terapeuta y la IA dijo: “Deshazte de él”.

Hay gente que ha dejado su trabajo. Hay personas que intentaron utilizar la IA para ganar dinero y perdieron fortunas porque creyeron demasiado en sus capacidades. Una vez que empiezas a incluir a todas esas personas, este es un grupo realmente grande. Creo que todos conocemos a alguien que se ha visto afectado por las burbujas de las redes sociales y la radicalización. Creo que esta es la nueva versión de eso.

¿Ser testigo de estos problemas ha cambiado la forma en que se utiliza la IA?

Lo que ha cambiado es la forma en que lo indico. Así que ahora lo insto regularmente a decirme lo que no veo, a encontrar mis prejuicios. No seas adulador, cuéntame las cosas difíciles.

Si no queremos que la IA sea así, ¿cómo queremos que sea?

La respuesta probablemente dependa de la situación. En los espacios científicos, hay ejemplos sorprendentes: estoy pensando en AlphaFold [an AI that predicts protein structures]. En matemáticas se están logrando avances increíbles, donde los algoritmos tienen una inteligencia que no es como la de los humanos. Pero no creo que se pueda tener un buen modelo de razonamiento a menos que tenga una superposición conceptual con las cosas que los humanos entienden que es el mundo. Así que creo que tiene que ser más humano.

Parece que todos los días aparece una noticia sobre un problema matemático que estuvo sin resolver durante años, pero que ahora se ha resuelto mediante IA. ¿Eso te emociona?

Me gusta pensar que existe un gran mapa de las matemáticas y que los matemáticos humanos están en un territorio particular y giran alrededor de él. No siempre ven conexiones con cosas cercanas. Matemáticos asombrosos han encontrado puentes entre dos regiones del mapa, como la conjetura de Taniyama-Shimura, donde los matemáticos japoneses encontraron un puente entre dos áreas de las matemáticas que de otro modo estarían desconectadas. Luego, todo lo que sabíamos de aquí se aplicó allá y viceversa.

Creo que la IA es muy buena para decir: “Echa un vistazo aquí, parece un territorio fructífero que ha sido poco explorado”, y eso es realmente emocionante. En lo que la IA no es tan buena es en ampliar aún más los límites. Y en lo que realmente no es bueno… es en la abstracción total, en tener teorías más amplias y amplias. Lo que la gente siempre dice es que si le dieras todo a la IA hasta 1900, no daría como resultado la relatividad general. Así que todavía estoy entusiasmado de que estemos en este punto óptimo donde la IA hará que las matemáticas humanas sean más rápidas, más eficientes y más emocionantes, pero todavía nos necesita.

Hay muchos conceptos erróneos sobre la IA. ¿Cuál disiparías, si pudieras?

La gente lo imagina como todopoderoso, casi todopoderoso. “La IA dijo esto; la IA me dijo que comprara estas acciones”. Hay ciertas situaciones en las que la IA puede hacer cosas sobrehumanas, pero también las carretillas elevadoras. Hemos creado herramientas que pueden hacer cosas que los humanos no pueden hacer durante mucho tiempo. No significa que sean divinos o que tengan conocimientos intocables.

No le darás acceso a tu cuenta bancaria a nadie…

¡No! Exactamente. Creo que eso es todo: el encuadre de estas cosas. Como hablan en un lenguaje y nos hablan, se sienten como una criatura. No tenemos ese problema con Wikipedia. Sería mejor pensar en esto como una hoja de cálculo de Excel realmente capaz, en lugar de una criatura.

¿Por qué tendemos a antropomorfizar la IA?

Nuestros cuerpos están sintonizados para las relaciones sociales cognitivas. Somos la especie inteligente y social. Y ésta es una entidad aparentemente inteligente y aparentemente social. Por supuesto le ponemos un personaje. No hay nada en nuestro pasado, en nuestro diseño, que nos obligaría a hacer otra cosa.

¿No hay manera de protegerse contra ese impulso antropomórfico?

Creo que es realmente injusto ponerlo en manos de individuos. Es un poco como decir que la comida chatarra está disponible gratuitamente y que es su responsabilidad asegurarse de no tener demasiada. La forma en que se diseñan estas interfaces, las conversaciones que se mantienen con usted, ahora tenemos pruebas muy sólidas de que todo esto lleva a que la gente caiga cada vez más en esta trampa. Y creo que sólo con el diseño de estos sistemas podremos evitar que la gente caiga por estas madrigueras de conejos.

Hay muchos problemas sociales que la IA destaca, como el hecho de que las personas estén muy aisladas y solas. ¿Pero no podría la IA ayudar con estos problemas?

Si dices: “Está bien, no puedes hablar con ningún chatbot si te sientes solo, prohibímoslo”, entonces todavía tienes gente solitaria. Y, por supuesto, sería fantástico si hubiera abundantes relaciones humanas para todos, pero eso no sucede. Entonces, dado que este es el mundo en el que estamos, creo que hay algunas situaciones en las que hablar con un chatbot puede aliviar algunos de los peores problemas relacionados con la soledad. Pero estos son temas delicados. Cuando empiezas a utilizar la tecnología para abordar cuestiones realmente humanas, todo ello adquiere una fragilidad increíble.

Hablemos del futuro lejano. A menudo pensamos en escenarios extremos con la IA; digamos que una IA superinteligente diseñada para hacer clips nos convierte a todos en clips. ¿Qué tan útil es pensar en ese tipo de escenario apocalíptico?

Hubo un momento en el que pensé que estos escenarios locos y lejanos eran una distracción de lo que realmente importaba, que es que las decisiones se tomaban mediante algoritmos que afectaban la vida de las personas. He cambiado de opinión en los últimos años, porque creo que sólo preocupándose por cosas así se pueden incorporar mecanismos técnicos de seguridad para evitar que esto suceda.

Por lo tanto, preocuparse no es inútil; preocuparse genuinamente tiene poder. La IA tiene resultados potenciales realmente malos, y cuanto más honestos seamos al respecto, más probabilidades tendremos de mitigarlos. Quiero que esto sea como el año 2000, ¿sabes? Quiero que esto sea lo que nos preocupe y preocupe, y por eso hicimos el trabajo para evitar que suceda.

¿Crees que algún día alcanzaremos la inteligencia artificial general?

Realmente no tenemos una definición clara de qué es AGI. Pero si entendemos que AGI significa al menos tan bueno como la mayoría de los humanos en cualquier tarea que involucre una computadora, entonces, sí, ya casi llegamos, de verdad. Algunas personas interpretan que AGI significa más allá de la capacidad humana en todas las tareas posibles. Eso no lo sé. Pero creo que AGI no está nada lejos. Realmente creo que en los próximos cinco a diez años veremos cambios sísmicos.

¿Qué tipo de cambios?

Creo que habrá cambios profundos en los modelos económicos a los que nos hemos acostumbrado durante toda la historia de la humanidad. Creo que habrá avances realmente gigantescos en la ciencia, algo que me entusiasma mucho, también en el diseño de medicamentos. Toda la estructura de nuestra sociedad se basa en la idea de que intercambias tu trabajo, conocimiento e inteligencia humana por dinero que luego usas para comprar cosas; creo que hay cierta fragilidad en eso.

Es casi seguro que la IA cambiará nuestra relación con el trabajo. ¿Qué debemos hacer para garantizar que la IA nos lleve a todos a trabajar menos, en lugar de que algunos se queden sin trabajo por completo?

Tengo una respuesta para esto: puedo ver en cuántos problemas me voy a meter si lo digo en voz alta. Bien, te daré una versión. Sólo hay algunos hechos innegables, ¿verdad? Hasta ahora, la sociedad se ha basado en el intercambio de trabajo por dinero. Nuestro sistema tributario se basa en gravar los ingresos, no la riqueza. Creo que esas dos cosas van a tener que cambiar.

Temas: