Kendra Pierre-Louis: Para Science Quickly de Scientific American, soy Kendra Pierre-Louis, en lugar de Rachel Feltman.
En 2022, OpenAI lanzó ChatGPT al mundo. En los años siguientes, la IA generativa se ha introducido en nuestras bandejas de entrada, nuestras aulas y nuestros registros médicos, planteando interrogantes sobre el papel que deberían tener estas tecnologías en nuestra sociedad.
Una encuesta de Pew publicada en septiembre de este año encontró que el 50 por ciento de los estadounidenses estaban más preocupados que entusiasmados por el mayor uso de la IA en su vida diaria; sólo el 10 por ciento sentía lo contrario. Eso es un aumento del 37 por ciento de los estadounidenses cuyo sentimiento dominante fue la preocupación en 2021. Y según Karen Hao, autora del reciente libro Empire of AI: Dreams and Nightmares in Sam Altman's OpenAI, la gente tiene muchas razones para preocuparse.
Sobre el apoyo al periodismo científico
Si está disfrutando de este artículo, considere apoyar nuestro periodismo galardonado suscribiéndose. Al comprar una suscripción, ayudas a garantizar el futuro de historias impactantes sobre los descubrimientos y las ideas que dan forma a nuestro mundo actual.
Karen conversó recientemente con la editora asociada de libros de Scientific American, Bri Kane. Aquí está su conversación.
Bri Kane: Realmente quería comenzar directamente con este libro porque hay mucho que cubrir; Es un libro denso en mi estilo favorito. Pero quería comenzar con algo con lo que comienzas el libro desde el principio, [que] es que puedes tener los ojos claros sobre la IA de una manera que muchos periodistas e incluso reguladores no pueden serlo, ya sea porque no están tan versados en la tecnología o porque se les brillan los ojos cuando Sam Altman o quienquiera comienza a hablar sobre el futuro de la IA. Entonces, ¿por qué eres capaz de tener la cabeza tan lúcida sobre un tema tan complicado?
Karen Hao: Creo que tuve mucha suerte porque comencé a cubrir la IA en 2018, cuando era mucho menos ruidoso como espacio, y era reportera en MIT Technology Review, que realmente se enfoca en cubrir la investigación de vanguardia que surge de diferentes disciplinas. Y por eso pasé la mayor parte de mi tiempo hablando con académicos, con investigadores de IA que habían estado en el campo durante mucho tiempo y a quienes podía hacer muchas preguntas tontas sobre la evolución del campo, las diferentes ideas filosóficas detrás de él, las técnicas más nuevas que estaban sucediendo y también las limitaciones de las tecnologías tal como estaban.
Por eso creo que, en realidad, la única ventaja que tengo es el contexto. Por ejemplo, tuve años de contexto antes de que Silicon Valley y los Sam Altman del mundo comenzaran a nublar el discurso, y eso me permite analizar con más calma la avalancha de información que está sucediendo en este momento.
Kane: Sí, centras el libro en torno a una premisa central, para la cual creo que presentas un argumento muy sólido: que deberíamos pensar en la IA en términos de imperios y colonialismo a lo largo de la historia. ¿Puede explicarme aquí por qué cree que es una lente precisa y útil y qué en su investigación e informes lo llevó a esta conclusión?
Hao: Entonces, la razón por la que llamo “imperios” a empresas como OpenAI es tanto por la enorme magnitud con la que operan y la influencia controladora que han desarrollado en tantas facetas de la sociedad como por las tácticas sobre cómo han acumulado una enorme cantidad de poder económico y político. Y es que, específicamente, acumulan ese poder a través del despojo de la mayoría del resto del mundo.
Y destaco muchos paralelos en el libro sobre cómo hacen esto, pero uno de ellos es que extraen una cantidad extraordinaria de recursos de diferentes partes del mundo, ya sean recursos físicos o los datos que usan para entrenar sus modelos de individuos, artistas, escritores y creadores o la forma en que extraen valor económico de los trabajadores que contribuyen al desarrollo de sus tecnologías y nunca ven realmente una parte proporcional de él a cambio.
Y también existe un enorme componente ideológico en la actual industria de la IA. A veces la gente me pregunta: "¿Por qué no lo convertiste simplemente en una crítica del capitalismo? ¿Por qué tienes que recurrir al colonialismo?". Y es que si nos fijamos simplemente en las actividades de estas empresas a través de una lente de capital, en realidad no tiene ningún sentido. OpenAI no tiene un modelo de negocio viable. Se compromete a gastar 1,4 billones de dólares en los próximos años cuando sólo tiene decenas de miles de millones en ingresos. El afán de lucro va acompañado de un motivo ideológico: esta búsqueda de una inteligencia artificial general [AGI], que es una idea basada en la fe; No es una idea científica. Es esta noción casi religiosa de que si continuamos por un camino particular de desarrollo de la IA, de alguna manera surgirá una especie de dios de la IA que resolverá todos los problemas de la humanidad, o nos condenará al infierno. Y el colonialismo es la fusión del capitalismo y la ideología, por lo que existe una multitud de paralelos entre los imperios de antaño y los imperios de la IA.
La razón por la que comencé a pensar en esto en primer lugar fue porque hubo varios académicos que comenzaron a articular este argumento. Hubo dos estudios que fueron particularmente influyentes para mí. Uno era un artículo llamado “IA decolonial” que fue escrito por William Isaac, Shakir Mohamed y Marie-Therese Png de Deep Mind y la Universidad de Oxford. El otro es el libro The Costs of Connection, publicado en 2019 por Nick Couldry y Ulises Mejías, que también articuló esta idea de un colonialismo de datos que sustenta la industria tecnológica. Me di cuenta de que este era el marco para comprender también OpenAI, ChatGPT y dónde nos encontramos en este momento particular con la IA.
Kane: Quería hablar con usted sobre la escala de lo que la IA es capaz de hacer ahora y cuál es el crecimiento continuo deseado que estas empresas están planeando para un futuro muy cercano. Específicamente, creo que su libro toca algo que muchas conversaciones sobre IA no se centran realmente en la escala del impacto ambiental que estamos viendo con estos centros de datos y sobre lo que estamos planeando construir más centros de datos, que es tierra viable y agua potable. Entonces, ¿puedes hablarme sobre los impactos ambientales de la IA que estás viendo y que más te preocupan?
Hao: Sí, hay tantas crisis que se cruzan que el camino de desarrollo de la industria de la IA está exacerbando.
Una, por supuesto, es la crisis energética. Así que Sam Altman anunció hace apenas un par de semanas un nuevo objetivo en cuanto a cuánta infraestructura computacional quiere construir: quiere ver 250 gigavatios de capacidad de centro de datos instalados para 2033, solo para su empresa. Quién sabe si es posible construir eso. Altman ha estimado que esto costaría alrededor de 10 billones de dólares. ¿De dónde va a sacar ese dinero? ¿Quién, quién sabe? Pero si eso sucediera, las principales fuentes de energía que estaríamos usando para alimentar esta infraestructura serían los combustibles fósiles, porque no vamos a lograr un gran avance en la fusión nuclear para 2033 y la energía renovable simplemente no es suficiente porque estas instalaciones requieren funcionar las 24 horas del día, los 7 días de la semana y nosotros, la energía renovable simplemente no puede ser ese suministro.
Y por eso Business Insider realizó esta investigación a principios de este año que encontró que las empresas de servicios públicos están, cito, "torpedeando" sus objetivos de energía renovable para satisfacer la demanda de los centros de datos. Así que estamos viendo cómo se extienden las vidas de las plantas de gas natural y de las plantas de carbón. Y eso no se trata sólo de bombear emisiones a la atmósfera; también está bombeando contaminación del aire a las comunidades. Y parte de la investigación de Business Insider encontró que podría haber miles de millones de dólares en costos de atención médica como resultado de este aumento astronómico en la contaminación del aire en comunidades que históricamente ya han sufrido la imposibilidad de acceder a su derecho fundamental al aire limpio. Hemos visto informes increíbles provenientes de Memphis, Tennessee, por ejemplo, donde Colossus, la supercomputadora que se utiliza para entrenar a Grok, funciona con 35 [supuestamente] turbinas de gas metano sin licencia que bombean contaminantes tóxicos al aire de esa comunidad.
Luego está el problema del consumo de agua dulce de estas instalaciones. La mayoría de estas instalaciones se enfrían con agua porque, irónicamente, es más eficiente energéticamente. Pero luego, cuando se enfría con agua, hay que enfriarlo con agua dulce porque cualquier otro tipo de agua provoca la corrosión del equipo o el crecimiento bacteriano. Y Bloomberg luego realizó una investigación que encontró que dos tercios de estas nuevas instalaciones están ingresando a áreas con escasez de agua. Y entonces, hay literalmente comunidades en todo el mundo que compiten con la infraestructura de Silicon por recursos que sustentan la vida.
Hubo un artículo de Truthdig que expresaba muy bien que la industria de la IA deberíamos considerarla como una industria pesada. Esto es extremadamente tóxico para el medio ambiente y la salud pública en todo el mundo.
Kane: Bueno, algunos pueden decir que las preocupaciones sobre el impacto ambiental de la IA se resolverán simplemente con la IA: "La IA simplemente nos dirá la solución al cambio climático. Calculará los números como no lo hemos hecho antes". ¿Crees que eso es realista?
Hao: Lo que yo diría es que esto se basa obviamente en especulaciones, y los daños que acabo de describir están sucediendo literalmente en este momento. Entonces la pregunta es: ¿cuánto tiempo vamos a lidiar con los daños reales y esperar una posibilidad especulativa de que tal vez, al final del camino, todo estará bien?
Por ejemplo, Silicon Valley nos dice que podemos aguantar tanto tiempo como ellos quieran porque ellos estarán bien, como que los Sam Altman del mundo estarán bien. Ya sabes, tienen construidos sus búnkeres y están preparados para sobrevivir a cualquier catástrofe medioambiental que se produzca después de haber destruido el planeta. [Risas.]
Pero la posibilidad de que surja una AGI y lo resuelva todo es astronómicamente pequeña, y debo enfatizar que los propios investigadores de IA ni siquiera creen que esto vaya a suceder. Hubo una encuesta a principios de este año que encontró que [aproximadamente] el 75 por ciento de los investigadores de IA de larga data que no están en el bolsillo de la industria no creen que estemos en el camino hacia una inteligencia artificial general que resolverá todos nuestros problemas.
Y entonces, desde esa perspectiva, no deberíamos utilizar una pequeña, diminuta posibilidad en el horizonte lejano que ni siquiera está respaldada científicamente para justificar un conjunto extraordinario e irreversible de daños que están ocurriendo en este momento.
Kane: Entonces Sam Altman es una figura central de tu libro. Es la figura central de OpenAI, que se ha convertido en una de las empresas de IA más grandes e importantes del mundo. Pero también dice en su libro que, en su opinión, es un maestro manipulador que le dice a la gente lo que quieren oír, no lo que realmente cree o una verdad objetiva. Entonces, ¿crees que Sam Altman está mintiendo o ha mentido sobre las capacidades actuales de OpenAI o sus capacidades futuras realistas? ¿O simplemente ha caído en su propio marketing?
Hao: Lo que es un poco complejo acerca de OpenAI y lo que más me sorprendió cuando estaba informando sobre el libro es que, originalmente, llegué a algunas de sus afirmaciones sobre AGI con el escepticismo de: "Todo esto es retórica y en realidad no está arraigado en ningún tipo de sinceridad". Y luego, en el proceso de informar, me di cuenta de que hay personas reales que realmente creen esto dentro de la organización y dentro de la comunidad de San Francisco en general. Y hay movimientos casi religiosos que se han desarrollado en torno a lo que luego escuchamos en el público como narrativas de que AGI podría resolver todos los problemas de la humanidad o que AGI podría matar a todos.
Es realmente difícil determinar exactamente si el propio Altman cree en este sentido o si simplemente ha descubierto que es políticamente inteligente aprovechar las creencias reales que están surgiendo dentro de la comunidad de IA en general, como parte de la retórica que le permite negociar más y más recursos y capital para llegar a OpenAI. Pero una de las cosas que también quiero enfatizar es que creo que a veces nos fijamos demasiado en los individuos y en si los individuos son buenos o malos, si tienen buen carácter moral o lo que sea. Creo que, en última instancia, el problema no es el individuo; el problema es el sistema de poder que se ha construido para permitir que cualquier individuo influya con sus decisiones en la vida de miles de millones de personas.
Sam Altman tiene sus defectos particulares, pero nadie es perfecto. Y, por ejemplo, cualquiera que se sentara en ese asiento de poder tendría sus defectos particulares que luego se multiplicarían y tendrían efectos dominó masivos en personas de todo el mundo. Y simplemente no creo que debamos permitir que esto suceda. Se trata de una estructura inherentemente errónea. Incluso si Altman fuera más carismático o más veraz o lo que sea, eso no significa que de repente deberíamos cederle todo ese poder. E incluso si Altman fuera cambiado por otra persona, eso no significa que el problema esté resuelto.
Creo que Altman, en particular, es un narrador increíble y capaz de ser muy persuasivo ante muchas audiencias diferentes y persuadirlas para que le cedan a él y a su compañía cantidades extraordinarias de poder. No deberíamos permitir que eso suceda, y también deberíamos centrarnos en desmantelar la estructura de poder y hacer responsable a la empresa en lugar de fijarnos necesariamente en el hombre mismo.
Kane: Una cosa que acabas de mencionar son las ramificaciones internacionales de algunas de estas acciones que están sucediendo, y una cosa que realmente me llamó la atención sobre el libro es que viajaste mucho al extranjero. Visitó los centros de datos y habló directamente con los anotadores de datos de IA. ¿Puedes contarme sobre esa experiencia y a quién conociste?
Hao: Sí, viajé a Kenia para reunirme con los trabajadores que OpenAI había contratado, así como con los trabajadores que estaban siendo contratados por el resto de la industria de la IA que seguía el ejemplo de OpenAI. Y con los trabajadores que OpenAI contrató, lo que OpenAI quería que hicieran era ayudarlos a construir un filtro de moderación de contenido para los modelos GPT de la empresa. Porque en ese momento estaban tratando de expandir sus esfuerzos de comercialización y se dieron cuenta de que si pones modelos de generación de texto que pueden generar cualquier cosa en manos de millones de personas, surgirá un problema que se ha entrenado en Internet; Internet también tiene rincones muy oscuros. Podría terminar lanzando discursos de odio racistas y tóxicos a los usuarios, y luego se convertiría en una gran crisis de relaciones públicas para la empresa y haría que el producto tuviera mucho éxito.
Para los trabajadores, lo que eso significaba era que tenían que leer algunos de los peores contenidos de Internet, así como contenido generado por IA en el que OpenAI estaba impulsando sus propios modelos de IA para imaginar el peor contenido de Internet para proporcionar un conjunto de ejemplos más diverso y completo a estos trabajadores. Y estos trabajadores sufrieron el mismo tipo de traumas psicológicos que sufrieron los moderadores de contenido de la era de las redes sociales. Estaban siendo tan implacablemente expuestos a todas las terribles tendencias de la humanidad que colapsaron. Empezaron a tener ansiedad social. Comenzaron a retirarse. Comenzaron a tener síntomas depresivos. Y para algunos de los trabajadores eso también significó que su familia y sus comunidades se desmoronaron porque los individuos son parte del tapiz de un lugar en particular, y hay personas que dependen de ellos. Es como un nodo dentro de una red más amplia que se descompone.
También hablé con los trabajadores que trabajaban para otros tipos de empresas, en una parte diferente de la cadena de suministro de mano de obra humana, no solo moderación de contenido sino aprendizaje reforzado a partir de la retroalimentación humana, que es algo que muchas empresas han adoptado, donde decenas de miles de trabajadores tienen que enseñarle al modelo cuál es una buena respuesta cuando un usuario chatea con el chatbot. Y utilizan este método no sólo para imbuir ciertos tipos de valores o codificar ciertos valores dentro de los modelos, sino también para, en general, hacer que el modelo funcione. Por ejemplo, tienes que enseñarle a un modelo de IA cómo se ve el diálogo: "Oh, el humano A habla y luego el humano B habla. El humano A hace una pregunta; el humano B da una respuesta". Y esa es ahora la plantilla de cómo se supone que el chatbot también interactúa con los humanos.
Y estaba una mujer con la que hablé, Winnie, que trabajaba para esta plataforma llamada Remotasks, que es el back-end de Scale AI, uno de los principales contratistas de aprendizaje reforzado a partir de retroalimentación humana, tanto para OpenAI como para otras empresas. Y ella… el contenido con el que estaba trabajando no era necesariamente traumático en sí mismo, pero las condiciones bajo las cuales trabajaba eran profundamente explotadoras, donde nunca supo para quién estaba trabajando y tampoco sabía cuándo llegarían las tareas a la plataforma Remotasks.
Y entonces se pasaba los días esperando frente a su computadora a que llegaran oportunidades laborales, y cuando hablé con ella ya llevaba meses esperando que llegara una tarea. Y cuando llegaron esas tareas, estaba tan preocupada por no aprovechar la oportunidad que trabajaba 22 horas seguidas al día para intentar ganar la mayor cantidad de dinero posible para, en última instancia, alimentar a sus hijos. Y solo cuando su pareja le decía algo así como: "Yo me haré cargo de ti", Winnie estaba dispuesta a ir a tomar una siesta. Lo que ganaba era como un par de dólares al día. Este es el alma de la industria de la IA y, sin embargo, estos trabajadores no ven absolutamente nada del valor económico que están generando para estas empresas.
Kane: ¿Ve un futuro en el que el negocio de la IA se lleve a cabo de manera más ética en términos de estos trabajadores con los que habló?
Hao: Veo un futuro con esto sucediendo, pero no vendrá de que las compañías lo hagan voluntariamente; provendrá de presiones externas que los obliguen a hacerlo. En un momento dado, hablé con una mujer que había estado profundamente involucrada en el [Acuerdo] de Bangladesh, que es un acuerdo internacional sobre normas laborales para la industria de la moda que se aprobó después de que ocurrieran algunos accidentes laborales realmente devastadores en la industria de la moda.
Y lo que dijo fue, en ese momento, que la forma en que ayudó a facilitar este acuerdo fue generando una cantidad significativa de presión pública para obligar a estas empresas a firmar nuevos estándares sobre cómo auditarían sus cadenas de suministro y garantizarían los derechos laborales de los trabajadores que trabajaban para ellas. Y vio un camino dentro de la industria de la IA para hacer exactamente lo mismo. Por ejemplo, si recibimos suficientes reacciones negativas de los consumidores, incluso de las empresas que intentan utilizar estos modelos, se obligará a esas empresas a tener estándares más altos y, con suerte, podremos codificarlos en algún tipo de regulación o legislación.
Kane: Eso me hace pensar en otra pregunta que quería hacerle, que es: ¿Los reguladores que tenemos actualmente, bajo esta administración actual, son capaces de regular este desarrollo de la IA? ¿Están lo suficientemente informados sobre el terreno, en términos generales, como para saber qué necesita regulación? ¿Están lo suficientemente versados en este campo como para saber la diferencia entre el discurso de marketing de Sam Altman, el discurso de marketing de [Elon] Musk y el discurso de marketing de [Peter] Thiel, en comparación con la realidad sobre el terreno que usted ha visto con sus propios ojos?
Hao: Definitivamente estamos sufriendo una crisis de liderazgo en las altas esferas de Estados Unidos y también en muchos países alrededor del mundo que habrían sido los que habrían dado un paso al frente para regular y legislar esta industria. Dicho esto, no creo que eso signifique que no haya nada que hacer en este momento. De hecho, creo que eso significa que hay aún más trabajo por hacer en materia de gobernanza desde abajo.
Necesitamos que el público sea participante activo en denunciar a estas empresas. Nosotros… y ya hemos visto que esto sucede, ¿sabes? Por ejemplo, con la reciente serie de crisis de salud mental causadas por estos modelos de IA, vemos una avalancha de reacciones públicas y familias y víctimas demandando a estas empresas; Así es como funciona la gobernanza de abajo hacia arriba.
Y vemos corporaciones, marcas, organizaciones sin fines de lucro y la sociedad civil llamando a estas empresas a mejorar. Y de hecho, recientemente vimos una ganancia significativa, donde Character.AI dijo, como una de las compañías que tiene un producto que ha sido acusado de matar a un adolescente, recientemente anunció que prohibirán a los niños [usar sus chatbots]. Por eso hay muchas oportunidades de seguir responsabilizando a estas empresas, incluso en ausencia de autoridades que estén dispuestas a hacerlo por sí mismas.
Kane: Hemos hablado de muchas preocupaciones en torno al desarrollo de la IA, pero también dices que hay mucho optimismo. ¿Se considera usted un perdedor de la IA o un boom de la IA?
Hao: No soy ni un boom ni un fatalista según la definición específica que utilizo en el libro, que es que ambos bandos creen en una inteligencia artificial general y creen que la IA en última instancia desarrollará algún tipo de agencia propia (tal vez conciencia, sensibilidad) y simplemente no creo que valga la pena participar en un proyecto que intenta desarrollar sistemas de agencia que le quiten la agencia a las personas.
Lo que veo como una visión mucho más esperanzadora de un futuro de IA es volver a desarrollar modelos y sistemas de IA que apoyen, en lugar de suplantar, a los humanos. Y una de las cosas sobre las que soy realmente optimista son los modelos de IA especializados para resolver desafíos particulares que son cosas que debemos superar como sociedad.
Así que no creo que la AGI esté en el horizonte para resolver el cambio climático, pero existe una organización sin fines de lucro llamada Climate Change AI que ha hecho el arduo trabajo de catalogar todos los diferentes desafíos (desafíos bien delimitados) dentro del esfuerzo de mitigación del clima que, en realidad, puede aprovechar las tecnologías de IA para ayudarnos a abordarlos.
Y ninguna de las tecnologías de las que hablan está relacionada de ninguna manera con grandes modelos de lenguaje, sistemas de propósito general, una inteligencia artificial general teórica; son todas estas herramientas especializadas de aprendizaje automático que hacen cosas como maximizar la producción de energía renovable, minimizar el consumo de recursos de edificios y ciudades, optimizar las cadenas de suministro y aumentar la precisión de los pronósticos climáticos extremos.
Uno de los ejemplos que doy a menudo es también el de AlphaFold de DeepMind, que también es una herramienta especializada de aprendizaje profundo que no tiene nada que ver con modelos de lenguaje a escala extremadamente grande o AGI, sino que era una herramienta entrenada en una cantidad relativamente modesta de chips de computadora para predecir con precisión las estructuras de plegamiento de proteínas a partir de una secuencia de aminoácidos, muy importante para comprender las enfermedades humanas y acelerar el descubrimiento de fármacos. [Sus desarrolladores] ganaron el Premio Nobel [en] Química el año pasado.
Y estos son los tipos de sistemas de IA en los que creo que deberíamos dedicar nuestra energía, tiempo y talento a construir. Necesitamos más AlphaFolds. Necesitamos más herramientas de inteligencia artificial para mitigar el cambio climático. Y uno de los beneficios de estos sistemas especializados es que también pueden estar mucho más localizados y, por lo tanto, respetar la cultura y la historia lingüística de una comunidad en particular, en lugar de desarrollar una solución única para todos en este mundo. Eso también es intrínsecamente extremadamente imperial [Risas], creer que podemos tener un modelo único que encapsule la rica diversidad de nuestra humanidad.
Y sí, supongo que soy muy optimista de que hay un futuro de IA más hermoso en el horizonte, y creo que el primer paso para lograrlo es responsabilizar a estas empresas, estos imperios y luego imaginar esas nuevas posibilidades y construirlas.
Kane: Muchas gracias, Karen, por unirte y muchas gracias por este trabajo de reportaje que has realizado en Empire of AI.
Hao: Muchas gracias por invitarme, Bri.
Pierre-Louis: Y gracias por escuchar. No olvide sintonizarnos el lunes para ver nuestro resumen de algunas de las noticias más importantes de la ciencia.
Science Quickly es una producción mía, Kendra Pierre-Louis, junto con Fonda Mwangi y Jeff DelViscio. Shayna Posses y Aaron Shattuck verifican nuestro programa. Nuestro tema musical fue compuesto por Dominic Smith. Suscríbase a Scientific American para obtener noticias científicas más actualizadas y detalladas.
Para Scientific American, esta es Kendra Pierre-Louis. ¡Hasta la próxima!