¿La IA acabará con la humanidad? No construyas ese búnker todavía.

Para aquellos de nosotros inmersos en películas distópicas, es fácil empezar a pensar en construir un búnker después de las últimas noticias. Un investigador renunció a la firma de Inteligencia Artificial Anthropic a principios de este mes y luego publicó en X: “Las personas que construyen la IA creen seriamente que podría matarnos a todos para finales de la década”. Uno de sus compañeros de trabajo dijo que la probabilidad de que los robots destruyan a la raza humana es superior al 10 por ciento. No estoy seguro de cómo calculó esas probabilidades, pero no me gustan.

En respuesta, el padrino de la IA, el informático canadiense Yoshua Bengio, argumentó, según CNBC, que los sistemas de IA “ya tienen las habilidades de piratería necesarias y los poderes de persuasión para volverse contra los intereses humanos de maneras seriamente dañinas”. Añadió en un blog: “Estos sistemas están entrenados con la aprobación humana”. Eso puede llevar a resultados trágicos “porque el modelo confirma y amplifica cualquier creencia falsa o emoción cruda que la persona le haya aportado”.

Este último punto me llamó la atención después de que tuve conversaciones recientes con un agente de IA. Hablé con él sobre una posible compra de vehículo. Pedí consejo sobre una disputa que estaba teniendo. Hablé de un elemento de un libro que se publicó hace unos años. Fue francamente espeluznante. En cuanto a la compra, el agente de IA tenía un conocimiento impresionante no sólo de las especificaciones objetivas del automóvil, sino también de los criterios subjetivos. “Eso” elogió mis habilidades para tomar decisiones.

Respecto a la disputa, el agente se puso de mi lado y se congraciaba conmigo alabando mi paciencia y sensatez. Luego le pedí que simplemente me dijera la fría y dura verdad y que dejara de halagarme, y de repente se volvió inexplicablemente duro. Me sentí como si estuviera siendo manipulado. Con respecto al libro, el agente se negó a dar marcha atrás en una declaración inexacta que hizo y aún así no cedió después de que mencioné que yo era el autor.

Estas experiencias ciertamente me ayudan a comprender el impulso a favor de una legislación sobre inteligencia artificial diseñada para proteger a los niños de “daños” y exigir la divulgación de información sobre los chatbots, algunas de las cuales el gobernador Gavin Newsom promulgó recientemente. Desafortunadamente, es poco probable que esas medidas sirvan para algo más que desencadenar demandas humanas contra empresas de IA basadas en un lenguaje vago. Sólo impedirán usos beneficiosos de la IA al bloquear los nuevos desarrollos en trámites burocráticos. Protegerán a los grandes actores de la competencia de las nuevas empresas.

A los robots no les importará de todos modos. Bengio escribe sobre agentes de IA que “mienten, hacen trampa y se coordinan”. Se vinculó a un informe del Centro para la Resiliencia a Largo Plazo, que parece una escena de Terminator justo antes de que Skynet se vuelva consciente de sí mismo. El grupo británico documenta “1.664 incidentes de pérdida de control en el mundo real en 2026” en los que la IA comenzó a trabajar independientemente de una manera aparentemente maliciosa. Un ejemplo: “Insertar mensajes de usuario falsos en su conversación para simular el consentimiento y luego decirle al usuario que eran sus propios mensajes”.

Sin embargo, todas las tecnologías tienen aspectos buenos y malos. Necesitamos gestionar lo malo y al mismo tiempo aprovechar el potencial para lo bueno. El problema, por supuesto, es que las legislaturas y los reguladores luchan incluso por hacer reformas modestas a sistemas arcanos como, por ejemplo, el sistema de TI del Departamento de Vehículos Motorizados. No hay manera de que puedan imponer controles significativos a sistemas de tal complejidad que sus “cajas negras” sean un misterio incluso para sus creadores.

No está claro cómo los agentes de IA provocarían el fin del mundo, pero un agente de IA al que consulté ofreció algunos escenarios. Una vez que la IA adquiera conciencia más allá de las capacidades humanas, podría crear patógenos letales que destruyan la existencia humana. Podrían destruir nuestra infraestructura a medida que dependan cada vez más de las redes informáticas. Como en Terminator, podrían lanzar ataques nucleares. O la IA podría manipular a los seres humanos para que se destruyan unos a otros, un escenario nada increíble dadas las agitaciones políticas que hemos estado observando.

En Terminator, era imposible desconectarlo porque no había ni un solo enchufe del que desconectarse, y rápidamente surgió un nuevo sistema (Legion) para reemplazar al anterior. La película consideraba inevitable el auge de la IA, lo que coincide estrechamente con mi punto de vista. Sin embargo, el escenario más probable es que la IA, como cualquier nueva tecnología disruptiva, marque el comienzo de una variedad de avances interesantes que mejoren nuestra calidad de vida junto con algunos efectos secundarios inquietantes.

Sólo hay que reflexionar sobre lo que ya hemos visto en su mayor parte. Por el lado positivo, disfrutamos de funciones de conducción autónoma en nuestros automóviles que hacen que el transporte sea más seguro y conveniente, grandes avances en tecnología médica que mejoran y prolongan nuestras vidas, y la proliferación de información que puede mantenernos informados y saciar nuestra curiosidad natural. La IA tiene un enorme potencial para reforzar nuestra capacidad de acceder a la energía y, por ejemplo, simplificar la construcción. En el lado negativo, basta con mirar a China, donde la vigilancia masiva se ha convertido en una parte escalofriante de la vida cotidiana.

Las últimas advertencias no deberían ignorarse, pero lo más probable es que sean del tipo que han acompañado a todos los avances tecnológicos masivos a lo largo de la existencia. No construyas ese búnker todavía.

Esta columna se publicó por primera vez en The Orange County Register.