“Hoy en día, es imposible que la IA acceda a un laboratorio completamente autónomo y construya un virus de manera autónoma porque todavía no existen laboratorios completamente autónomos”, dice Olivia Scharfman, becaria de biotecnología en el grupo de expertos en tecnología Institute for Progress. “Pero sí creo que una IA podría pagarle a alguien para que lo haga por ellos”.
Ella cree que el bioterrorismo asistido por IA es una amenaza inmediata y que hay algunos grupos que podrían ser lo suficientemente nihilistas como para hacerlo, incluidos los “sucesionistas transhumanistas de la IA”, personas que aceptan una ideología marginal que espera suplantar a los humanos con robots.
Otros expertos no están tan preocupados por un arma biológica de IA porque no creen que la guerra biológica tenga mucho sentido metodológicamente. “Los riesgos tienden a ser un tanto mal entendidos”, le dice a WIRED el biólogo genético y profesor de biología computacional Francois Belloux, señalando que la gente tiende a “sobreestimar el valor de los patógenos como armas”.
Dejando de lado el AGI de todo esto, Belloux dice que las armas biológicas simplemente no son una opción especialmente atractiva para los aspirantes a genocidas, especialmente porque es difícil apuntar a ciertos grupos y salvar a otros, y producir y distribuir patógenos en masa es logísticamente complicado versus, digamos, lanzar una bomba. “Si quieres matar gente, hay maneras mucho, mucho, mucho mejores de matarlas que tratar de diseñar algún virus o bacteria y luego liberarlo”, dice, ya seas la mente artificial más sofisticada jamás creada o simplemente un ser humano normal.
Ahora que la IA pone de relieve la amenaza de las armas biológicas, Scharfman dice que este es el momento adecuado para impulsar mejores protecciones contra todas las amenazas biológicas, incluidos los patógenos existentes como el H1N1. Eso podría incluir acciones de alto nivel, como aprobar legislación para mejorar los protocolos de seguridad en torno a la tecnología de síntesis de ADN, pero también aboga por cambios para mitigar el riesgo de todos los virus, como mejorar los sistemas de purificación del aire en los edificios.
Si la IA aumenta de manera demostrable el riesgo de desarrollo de armas biológicas es una pregunta difícil de responder, dice Steph Guerra, directora de IA y biología de Rand Corporation, un grupo de expertos en políticas. “Se ha demostrado que la IA es muy buena para integrar información y motivar a las personas a hacer cosas buenas y malas”, dice.
Incluso si el riesgo es bajo, dice Guerra, todavía hay formas en que la sociedad puede protegerse contra un posible uso indebido. Una es que los gobiernos pueden adoptar leyes que exijan a las empresas que venden ADN y ARN sintéticos examinar a los clientes y los pedidos para evitar el uso indebido de material genético. Muchas empresas ya utilizan software para filtrar pedidos en busca de las llamadas “secuencias de preocupación”, pero la práctica no es universal ni obligatoria.
Sin embargo, antes de que un mal actor pueda llegar a ese punto, casi todo el mundo está de acuerdo en que los modelos deben contar con salvaguardias adecuadas para no proporcionar información peligrosa y procesable a las personas.
Guerra dice que el riesgo de una bioamenaza desarrollada por la IA también se puede mitigar fortaleciendo los sistemas de vigilancia global para detectar brotes de nuevas enfermedades y patógenos circulantes para los investigadores lo antes posible. Ella dice que los protocolos de intercambio de datos entre empresas de inteligencia artificial, proveedores de síntesis de genes y el gobierno también podrían ayudar a prevenir el uso indebido.
“Con casi cualquier control de bioseguridad, habrá formas de eludirlos”, afirma. “Es por eso que necesitamos enfoques estratificados que proporcionen fricción en todo el camino, desde la idea hasta la intención de un mal actor, hasta el lanzamiento de un arma biológica”.
Unutmaz dice que hay una preocupación aún más apremiante: que todas las conversaciones sobre la fatalidad de la IA estén desviando la atención de cómo los sistemas de vanguardia pueden ayudar a los humanos en el desarrollo de vacunas y otros avances médicos.
“Realmente necesitamos centrarnos en el aspecto positivo”, afirma.