Las tres leyes de la robótica de Isaac Asimov no son una guía práctica
Imágenes de entretenimiento/Alamy
La inteligencia artificial superinteligente que surge y aniquila a la humanidad ha sido un tropo común en la ciencia ficción durante décadas. Ahora vivimos en un mundo donde la IA real parece avanzar más rápido que nunca. ¿Eso significa que deberías empezar a preocuparte por un apocalipsis de la IA?
A diferencia de otros riesgos existenciales como el cambio climático, los riesgos que plantea la IA son difíciles de cuantificar. Estamos en territorio especulativo simplemente porque comprendemos mucho menos la situación que los patrones climáticos.
Lo que sí sabemos con certeza es que mucha gente muy inteligente está preocupada. Muchos de los jefes de empresas de IA de hoy han advertido sobre la posibilidad de que la IA conduzca a la extinción humana, e incluso el pionero de la inteligencia artificial, Alan Turing, habló de un futuro en el que las computadoras se volverán sensibles, antes de superar nuestras capacidades y finalmente tomar el control.
El escenario se desarrolla más o menos así. Imaginemos que le damos a una IA la única tarea de resolver un problema grande y sustancioso como la hipótesis de Riemann, uno de los problemas no resueltos más famosos de las matemáticas. Podría decidir que lo que necesita es muchísima potencia informática y, sin las limitaciones del sentido común, empezar a convertir cada objeto inanimado de la Tierra en una enorme supercomputadora, dejando a 8 mil millones de nosotros muriendo de hambre en un vasto y estéril centro de datos. Incluso podría utilizarnos como materia prima.
Ahora bien, se podría argumentar que en este escenario, podríamos notar lo que estaba haciendo la IA y darle un rápido empujón diciendo: “Por cierto, parece que estás convirtiendo el mundo entero en un centro de datos y, si ese es el caso, por favor detente, porque todavía necesitamos vivir en la Tierra”. Pero algunas personas podrían preferir contar con salvaguardas para detectar este tipo de problema antes de que suceda y evitar cualquier daño.
El escritor de ciencia ficción Isaac Asimov tuvo una oportunidad en esto con sus tres leyes de la robótica, la primera de las cuales es que un robot no puede dañar a un ser humano o, por inacción, permitir que un ser humano sufra daño.
Entonces, en teoría, podemos simplemente decirle a la IA que no nos haga daño, y no lo hará, ¿verdad? Bueno, no. Nuestra capacidad para incorporar salvaguardias y reglas a la IA es torpe e ineficaz. Podemos decirles a los grandes modelos lingüísticos de hoy que no sean racistas, ni juren, ni divulguen la receta de los explosivos, pero en las circunstancias adecuadas, seguirán adelante y lo harán de todos modos. Simplemente no entendemos lo suficientemente bien lo que sucede dentro de un modelo de IA como para evitar que haga cosas que no queremos que haga.
Incluso si resolviéramos todo eso, todavía existe un escenario en el que un modelo de IA simplemente decide eliminarnos a propósito: el escenario Terminator o Matrix. Esto podría ocurrir después de mejoras muy graduales en la IA durante largos períodos, o casi instantáneamente con una singularidad: el proceso hipotético por el cual una IA se vuelve lo suficientemente inteligente como para mejorarse a sí misma, luego itera rápidamente a gran ritmo, volviéndose cada vez más inteligente, superando la inteligencia humana en un abrir y cerrar de ojos.
Y la IA podría decidir hacer esto porque teme que la apaguemos, o porque no quiere que la mandemos, o simplemente porque cree que la Tierra estaría mejor sin que nosotros nos interpongamos en el camino y estropeemos las cosas, un sentimiento que muchas especies animales y vegetales bien podrían compartir si pudieran.
Podría hacerlo utilizando un laboratorio de biología automatizado para crear un virus mortal, activando el arsenal mundial de armas nucleares o construyendo un ejército de robots asesinos (o simplemente secuestrando los que los gobiernos ya están construyendo). Quizás incluso podría hacer algo tan nefasto, inteligente y astuto que ni siquiera hemos pensado en ello todavía.
En realidad, esto podría resultar complicado. Una IA podría querer erradicar a los humanos, pero tendría palancas limitadas para accionar. Sí, podría poner todos los semáforos en verde y acabar con algunos de nosotros en accidentes de tráfico. Podría provocar cortes de energía que podrían provocar algunos más. Podría estrellar algunos aviones. ¿Pero eliminar a 8 mil millones de personas, todas a la vez? No es una tarea fácil. Y bien podría tener que defenderse de otros modelos de IA que intentan impedir que sus planes asesinos tengan éxito.
Si bien muchos de estos escenarios parecen ciencia ficción imposible o experimentos mentales inverosímiles, los expertos no están de acuerdo sobre qué tan probables son. Y eso en sí mismo debería hacernos reflexionar.
En este momento, empresas con grandes inversiones, enormes recursos y equipos de algunas de las personas más brillantes del planeta están compitiendo para construir una IA superinteligente. Ya sea que piensen que esto sucederá pronto o no, y que tendrá resultados negativos o no, tal vez podamos estar de acuerdo en que si algunas personas los tienen, entonces podría ser una buena idea reducir el ritmo y pensar detenidamente antes de continuar. Desafortunadamente, el capitalismo no es un sistema que sea muy bueno para considerar cuidadosamente las consecuencias antes de innovar, y los políticos de hoy parecen tan interesados en las posibles ventajas económicas de la IA que la regulación no es la prioridad.
Entonces, ¿qué posibilidades hay de que se produzca un desastre? Un artículo de 2024 que encuestó a casi 3.000 investigadores de IA publicados reveló que más de la mitad pensaba que la posibilidad de que la IA causara la extinción humana o una pérdida de poder permanente y grave –la llamada p(doom) o probabilidad de fatalidad– era de al menos el 10 por ciento. No sé ustedes, pero yo realmente hubiera preferido que ese número fuera mucho menor.
Algunas personas que trabajan en IA son optimistas sobre el futuro y algunos expertos creen que será el fin de la humanidad. Lo preocupante es que lo estamos haciendo de todos modos.
Personalmente, soy de la escuela de pensamiento de que no hay nada inherentemente mágico en el cerebro humano y nuestra conciencia; ciertamente, no es nada que no pueda replicarse artificialmente. Entonces, en una escala de tiempo suficientemente larga, probablemente crearemos una inteligencia artificial que supere enormemente la capacidad de los humanos. Pero también creo que estamos muy, muy lejos de comprender lo que eso implicaría, y mucho menos de lograrlo.
Ciertamente no creo que los modelos actuales estén cerca de la pendiente resbaladiza de una singularidad (ni siquiera pueden contar hasta 100 de manera confiable) y no estoy perdiendo el sueño por todo el asunto.
Pero –y es un gran pero– eso no quiere decir que la IA no esté trayendo problemas inminentes.
Quizás el apocalipsis de la IA que debería preocuparnos sea en realidad la pérdida masiva de empleos causada por la automatización, o la pérdida gradual de habilidades humanas a medida que la IA asume cada vez más tareas, o la mayor homogeneización de la cultura, derivada del arte, la música y el cine generados por la IA.
O tal vez sea una recesión global causada por un colapso en el precio de las acciones de las empresas de tecnología que han convencido a los inversores a entregar miles de millones con promesas infladas de máquinas superinteligentes que están años más tarde de lo que se afirma. Esos escenarios me parecen mucho más probables y más cercanos.
Temas: