La IA podría usarse para hacer la toxina ricina, pero esto también se puede obtener de granos de ricino, que se encuentran en muchos jardines
Archivo de fotos americano/Alamy
La inteligencia artificial promete transformar la biología, lo que nos permite diseñar mejores drogas, vacunas e incluso organismos sintéticos para, por ejemplo, comer plástico de desechos. Pero algunos temen que también pueda usarse para fines más oscuros, para crear biowapons que no se detectarían mediante métodos convencionales hasta que fuera demasiado tarde. Entonces, ¿qué tan preocupados debemos estar?
“Los avances de IA están alimentando los avances en biología y medicina”, dice Eric Horvitz, director científico de Microsoft. “Con el nuevo poder viene la responsabilidad de la vigilancia”.
Su equipo ha publicado un estudio para ver si la IA podría diseñar proteínas que hacen lo mismo que las proteínas que se sabe que son peligrosas, pero que son lo suficientemente diferentes como para que no sean reconocidas como peligrosas. El equipo no reveló qué proteínas intentaron rediseñar (partes del estudio fueron retenidas, pero probablemente incluía toxinas como la ricina, famosa en un asesinato de 1978 y botulína, la potente neurotoxina mejor conocida como Botox.
Para hacer mucha proteína como el botulínico, necesita la receta, el ADN que lo codifica. Cuando los biólogos quieren una pieza específica de ADN, generalmente lo ordenan de empresas que se especializan en hacer cualquier pieza deseada.
Debido a las preocupaciones de que los posibles bioterroristas podrían ordenar las recetas para hacer biowapons de esta manera, algunas compañías de síntesis de ADN detectan voluntariamente órdenes para verificar si alguien está tratando de hacer algo peligroso. Las proteínas son secuencias de aminoácidos, y la detección verifica si la secuencia de aminoácidos coincide con cualquier “secuencia de preocupación”, es decir, posibles bioweapons.
Pero con la IA, es posible que sea posible diseñar una versión de una proteína que tenga una secuencia de aminoácidos diferente pero que aún hace lo mismo. Horvitz y sus colegas intentaron esto con 72 proteínas potencialmente peligrosas y mostraron que los métodos de detección a menudo pierden estas versiones alternativas.
Esto no es tan alarmante como parece. En primer lugar, el equipo en realidad no hizo las proteínas rediseñadas, por razones obvias. Pero en un estudio separado a principios de este año, probaron versiones rediseñadas de proteínas inofensivas, y básicamente descubrieron que no funcionaban.
En segundo lugar, si bien se han intentado ataques bioterroristas, aunque muy pocas, hay pocas razones para pensar que esto se debe a la falla del sistema de escaneo voluntario. Ya hay muchas maneras de evitarlo sin recurrir a los rediseños de IA; por ejemplo, la ricina se puede obtener de plantas de aceite de ricino, que se encuentra en muchos jardines. Este estudio es el equivalente a la advertencia de que un banco podría ser robado por un plan de estilo imposible de la misión altamente sofisticada, cuando en realidad la puerta de la bóveda se ha dejado abierta.
Por último, pero no menos importante, cuando los actores estatales están excluidos, ningún bioterrorista ha logrado matar a nadie que use bioweapons basadas en proteínas. El culto de Aum Shinrikyo en Japón trató de matar a personas con botulínico, pero solo tuvo éxito con agentes químicos. Las cartas con ricina enviadas a la Casa Blanca no mataron a nadie. Según los recuentos del cuerpo, las armas y los explosivos son tremendamente más peligrosos que las biotoxinas.
Entonces, ¿eso significa que dejamos de preocuparnos por las bioweapons diseñadas por AI? No exactamente. Si bien los estudios de Horvitz solo miraban las proteínas, son los virus los que representan la gran amenaza, y la IA ya se está utilizando para rediseñar virus enteros.
El mes pasado, un equipo de la Universidad de Stanford en California reveló los resultados de sus esfuerzos para rediseñar un virus que infecta la bacteria E. coli. Al igual que con las proteínas rediseñadas, los resultados no fueron impresionantes, de los 302 virus diseñados por IA que se hicieron, solo 16 podrían infectar a E. coli. Pero este es solo el comienzo.
Cuando se le preguntó sobre los virus diseñados por IA, James Diggans en la firma de creación de ADN Twist Bioscience, y un miembro del equipo de Horvitz, dijo que es más fácil detectar virus de preocupación que codifican el ADN que proteínas de preocupación. “La detección de síntesis funciona mejor en más información en lugar de menos. Entonces, en la escala del genoma, es increíblemente informativo”.
Pero no todas las compañías de fabricación de ADN llevan a cabo esta detección, y los síntesis de ADN de benchtop están disponibles. Se habla de diseñar herramientas de IA que se negarán a crear virus peligrosos o traten de detectar intención malévola, pero las personas han encontrado muchas maneras de superar las salvaguardas significadas, por ejemplo, para evitar que AIS proporcione instrucciones de fabricación de bombas.
Para ser claros, la historia sugiere que el riesgo de virus “salvajes” es mucho mayor que el riesgo del bioterrorismo. A pesar de lo que afirma la actual administración de los Estados Unidos, la evidencia sugiere que SARS-CoV-2 surgió cuando un virus de Bat saltó a otros animales salvajes, y luego a las personas en un mercado, sin laboratorio involucrado.
Además, los posibles bioterroristas podrían hacer una increíble cantidad de daño simplemente al liberar un virus conocido, como la viruela. Con los muchos agujeros en busca de los esfuerzos de control de Bioweapon, hay poca necesidad de recurrir a los trucos de IA para evitarlos.
Por todas estas razones, el riesgo de que se desata un virus diseñado por IA que se desata en el corto plazo sea probablemente casi cero. Pero este riesgo crecerá a medida que las diversas tecnologías continúen avanzando, y la pandemia Covid-19 mostró cuántos estragos puede crear un nuevo virus, incluso cuando no es especialmente mortal. Cada vez más, habrá razones para preocuparse.
Temas: