La ceremonia de entrega de los premios Nobel tuvo lugar en Diciembre de este año, celebrando tanto el trabajo relacionado con la inteligencia artificial y esfuerzos del grupo Nihon Hidankyo para poner fin a la guerra nuclear.
Fue una sorprendente yuxtaposiciónuno que no se me escapa, un matemático que estudia cómo funciona el aprendizaje profundo. En la primera mitad del siglo XX, los Comités Nobel otorgaron premios en física y química por descubrimientos que revelaban la estructura de los átomos. Este trabajo también permitió el desarrollo y posterior despliegue de armas nucleares. Décadas más tarde, los comités del Nobel otorgaron el Premio de la Paz de este año por su trabajo que intenta contrarrestar una forma de La ciencia nuclear acabó siendo utilizada..
Existen paralelismos entre el desarrollo de armas nucleares a partir de la investigación en física básica y los riesgos que plantean las aplicaciones de la IA que surgen del trabajo que comenzó como una investigación fundamental en informática. Estos incluyen el impulso de la administración entrante Trump para “Proyectos Manhattan”para la IA, así como un espectro más amplio de riesgos sociales, incluida la desinformación, el desplazamiento laboral y la vigilancia.
Sobre el apoyo al periodismo científico
Si está disfrutando este artículo, considere apoyar nuestro periodismo galardonado al suscribiéndose. Al comprar una suscripción, ayudas a garantizar el futuro de historias impactantes sobre los descubrimientos y las ideas que dan forma a nuestro mundo actual.
Me preocupa que mis colegas y yo no estemos suficientemente conectados con los efectos que nuestro trabajo podría tener. ¿Otorgarán los Comités Nobel un Premio de la Paz en el próximo siglo a las personas que limpien el desastre que dejan los científicos de la IA? Estoy decidido a no repetir la historia de las armas nucleares.
Hace unos 80 años, cientos de los mejores científicos del mundo se unieron al Proyecto Manhattan en una carrera para construir un arma atómica antes de que lo hicieran los nazis. Sin embargo, después de que cesaron los bombardeos alemanes en 1944 e incluso después de que Alemania se rindiera al año siguiente, el trabajo en Los Álamos continuó sin pausa.
Incluso cuando la amenaza nazi terminó, sólo un científico del Proyecto Manhattan…Jose Rotblat—dejó el proyecto. Mirando hacia atrás, Rotblat: “Te involucras de cierta manera y te olvidas de que eres un ser humano. Se convierte en una adicción y simplemente continúas por producir un dispositivo, sin pensar en las consecuencias. Y luego, habiendo hecho esto, encuentras alguna justificación para haberlo producido. No al revés”.
Poco después, el ejército estadounidense llevó a cabo la primera prueba nuclear. Luego, los líderes estadounidenses autorizaron los bombardeos gemelos de Hiroshima y Nagasaki el 6 y 9 de agosto. Las bombas mataron a cientos de miles de civiles japoneses, algunos de ellos inmediatamente. Otros murieron años e incluso décadas después por los efectos del envenenamiento por radiación.
Aunque las palabras de Rotblat fueron escritas hace décadas, son una descripción inquietantemente precisa del espíritu predominante en la investigación de la IA en la actualidad.
Empecé a ver paralelos entre las armas nucleares y la inteligencia artificial mientras trabajaba en el Instituto de Estudios Avanzados de Princeton, donde la inquietante escena final de La película de Christopher Nolan. oppenheimer estaba fijado. Después de haber logrado algunos avances en la comprensión de las entrañas matemáticas de las redes neuronales artificiales, también comencé a preocuparme por las eventuales implicaciones sociales de mi trabajo. Por sugerencia de un colega fui a hablar con el entonces director del instituto, el físico Robbert Dijkgraaf.
Me sugirió que buscara orientación en la historia de vida de J. Robert Oppenheimer. Leí una biografía, luego otra. Intenté adivinar lo que Dijkgraaf tenía en mente, pero no vi nada atractivo en el camino de Oppenheimer, y cuando terminé la tercera biografía lo único que tenía claro era que no quería que mi propia vida reflejara su. No quería llegar al final de mi vida con una carga como la de Oppenheimer sobre mí.
A menudo se cita a Oppenheimer diciendo que cuando los científicos “ven algo que es técnicamente dulce, [they] adelante y hazlo”. De hecho, Geoff Hinton, uno de los ganadores del premio Nobel de Física 2024, ha hecho referencia a esto. Esto no es universalmente cierto. A la física más destacada de la época, Lise Meitner, se le pidió que se uniera al proyecto Manhattan. A pesar de ser judía y haber escapado por poco de la ocupación nazi, rechazado rotundamentediciendo: “¡No tendré nada que ver con una bomba!”
Rotblat también proporciona otro modelo de cómo los científicos pueden afrontar el desafío de ejercitar el talento sin perder de vista los valores. Después de la guerra volvió a la física, centrándose en los usos médicos de la radiación. También se convirtió en líder del movimiento antiproliferación nuclear a través de las Conferencias Pugwash sobre Ciencia y Asuntos Mundiales, un grupo que cofundó en 1957. En 1995, él y sus colegas fueron reconocidos con un Premio Nobel de la Paz para este trabajo.
Ahora, como entonces, hay personas reflexivas y sensatas que se destacan en el desarrollo de la IA. Adoptando una postura que evoca a Rotblat, Ed Newton-Rex renunció el año pasado a su puesto de líder del equipo de generación de música en Stability AI, debido a la insistencia de la compañía en crear modelos generativos de IA entrenados con datos protegidos por derechos de autor sin pagar por ese uso. Este año, Suchir Balaji renunció como investigador en OpenAI por preocupaciones similares.
Haciéndose eco de la negativa de Meitner a trabajar en las aplicaciones militares de sus descubrimientos, en un ayuntamiento interno de la empresa en 2018, Meredith Whittaker expresó las preocupaciones de los trabajadores sobre el Proyecto Maven, un contrato del Departamento de Defensa para desarrollar inteligencia artificial para impulsar la vigilancia y orientación de drones militares. Al final, los trabajadores lograron presionar a Google, donde trabaja el premio Nobel de física de 2024 Demis Hassabis, para que abandonar el proyecto.
Hay muchas formas en que la sociedad influye en la forma en que trabajan los científicos. Uno directo es financiero; colectivamente elegimos qué investigación financiar, e individualmente elegimos qué productos que surgen de esa investigación pagamos.
Uno indirecto pero muy eficaz es el prestigio. La mayoría de los científicos se preocupan por su legado. Cuando miramos hacia atrás, a la era nuclear (cuando elegimos, por ejemplo, hacer una película sobre Oppenheimer, entre otros científicos de esa época), enviamos una señal a los científicos de hoy sobre lo que valoramos. Cuando los Comités del Premio Nobel eligen a qué personas entre los que trabajan hoy en IA recompensarán con el Premio Nobel, establecen un poderoso incentivo para los investigadores de IA de hoy y de mañana.
Es demasiado tarde para cambiar los acontecimientos del siglo XX, pero podemos esperar mejores resultados para la IA. Podemos empezar por mirar más allá de aquellos en el aprendizaje automático centrados en el rápido desarrollo de capacidades, y seguir el ejemplo de aquellos como Newton-Rex y Whittaker, que insisten en involucrarse con el contexto de su trabajo y que tienen la capacidad no sólo de evaluar sino también responder a circunstancias cambiantes. Prestar atención a lo que dicen los científicos como ellos brindará la mejor esperanza para un desarrollo científico positivo, ahora y en el futuro.
Como sociedad, tenemos la opción de elegir a quién elevar, emular y presentar como modelo a seguir para la próxima generación. Como nos enseña la era nuclear, ahora es el momento de evaluar cuidadosamente qué aplicaciones del descubrimiento científico, y quiénes entre los científicos de hoy, reflejan los valores no del mundo en el que vivimos actualmente, sino del que esperamos habitar.
Este es un artículo de opinión y análisis, y las opiniones expresadas por el autor o autores no son necesariamente las de Científico americano.