Todo es una computadora hoy en día. Los refrigeradores, las lavadoras, los televisores y más están ahora equipados con chips de computadora para brindarles nuevas capacidades, y los fabricantes los llamaron “inteligentes” incluso antes de que apareciera ChatGPT. Ahora, sin embargo, los investigadores han unido 15 cajas de TV baratas para ejecutar un modelo de inteligencia artificial, lo que plantea la posibilidad de que las computadoras dentro de estos dispositivos cotidianos algún día puedan ayudar a difundir malware autónomo impulsado por inteligencia artificial.
El lunes, Anthropic publicó una publicación de blog que explora este tipo de ataque. Los investigadores de la empresa probaron cómo los modelos de IA podrían actuar como gusanos informáticos, programas que se mueven entre dispositivos y dejan copias de sí mismos, entre los aparatos domésticos cotidianos. Un gusano que se ejecuta en dispositivos inteligentes en lugar de depender de un centro de datos podría resultar difícil de eliminar. Los experimentos de Anthropic sugieren cómo podría suceder eso, aunque no llegan a demostrar la amenaza total.
Normalmente, los modelos de lenguajes grandes (LLM) se entrenan y ejecutan en centros de datos, que pueden contener cientos de miles de chips especializados llamados unidades de procesamiento de gráficos o GPU. “El hecho de que no tengas una GPU grande no significa que no puedas albergar uno de estos modelos”, dice Jeffrey Ladish, fundador y director ejecutivo de Palisade Research, una organización sin fines de lucro de seguridad de IA con sede en California que estudia el riesgo de que los sistemas de IA escapen del control humano, pasando del malware a comportamientos deshonestos.
Sobre el apoyo al periodismo científico
Si está disfrutando de este artículo, considere apoyar nuestro periodismo galardonado suscribiéndose. Al comprar una suscripción, ayudas a garantizar el futuro de historias impactantes sobre los descubrimientos y las ideas que dan forma a nuestro mundo actual.
En los últimos meses, los investigadores han experimentado con varios tipos de gusanos informáticos, grapándoles modelos de IA para hacerlos adaptables y más difíciles de matar. Aquí, sin embargo, los investigadores exploraron si un modelo de IA en sí podría distribuirse como el gusano, distribuyendo sus pesos a nuevos dispositivos y ejecutándose incluso en chips débiles.
“Cualquiera que tenga un modelo de peso abierto, con las indicaciones adecuadas y con suerte, puede encontrar estos gusanos”, afirma el informático Vyas Sekar.
Específicamente, los investigadores que trabajan en el Frontier Red Team de Anthropic mostraron dos capacidades clave. Primero, pudieron dividir un modelo relativamente pequeño (uno de la línea Gemma de peso abierto de Google DeepMind) en 15 cajas de TV que habían comprado y se habían conectado en red para poder ejecutar el modelo completo encadenando estas cajas. Cada caja individual era demasiado débil para ejecutar el modelo por sí sola. Pero los LLM se pueden dividir en capas, una disposición en la que cada capa manipula los datos que recibe y pasa esos datos revisados a la siguiente capa. Al darle a cada caja la tarea de manejar solo un par de estas capas, el equipo pudo ejecutar Gemma por completo y obtener respuestas solo de los chips débiles en estas cajas.
Después de eso, los investigadores probaron cómo un gusano de IA podría propagarse entre dispositivos en una zona de pruebas virtual. Un modelo más grande, de la startup china Z.ai, logró que un modelo más pequeño, uno de los modelos Llama de Meta, se ejecutara en los objetivos. Pero el modelo más grande era demasiado grande para ejecutarse en esos dispositivos débiles y todavía dependía de un servidor separado. Esto significa que el equipo no mostró un gusano de IA capaz de propagarse y ejecutarse en dichos dispositivos. Anthropic sostiene que a medida que los modelos pequeños se vuelven más capaces, eventualmente se podrían usar ambos métodos.
La investigación también plantea la posibilidad de adaptación y mejora al sugerir que los modelos de IA podrían subsistir en dispositivos de bajo consumo y navegar por Internet, mejorando su difusión a medida que avanzan. Anthropic deja esto claro en su blog sobre el trabajo, y concluye que los sistemas de inteligencia artificial pronto podrían “transmitir sus adaptaciones a futuras copias de sí mismos”.
Ladish cree que la principal lección de la investigación es cómo los modelos de IA podrían dividir el trabajo entre computadoras de todas las formas y tamaños. “Básicamente, la computación es un recurso que estos modelos pueden usar”, dice, señalando todo, desde Apple MacBooks hasta centros de datos y objetos cotidianos como televisores inteligentes, como posibles fuentes de potencia informática si los atacantes pueden piratearlos.
Sin embargo, no todo el mundo piensa que los experimentos representen un nuevo tipo de amenaza. “Creo que se necesita cierta cautela para asegurarnos de que hablamos sobre qué capacidades son nuevas y transformadoras”, dice Michael Bailey, profesor que estudia seguridad de sistemas informáticos en el Instituto de Tecnología de Georgia. Hace hincapié en evitar “alarmismo” con las lecciones que se desprenden de este tipo de trabajo. Los investigadores ya saben lo inseguros que pueden ser dispositivos como las cajas de TV. “Ya teníamos malware autorreplicante”, afirma Bailey. “Teníamos botnets”.
“Todas estas son amenazas clásicas a la seguridad informática”, añade Vyas Sekar, profesor de ingeniería informática en la Universidad Carnegie Mellon. Según Sekar, el mayor problema es que más personas podrían lanzar ataques de este tipo: una “democratización del mal”, como él la llama. Sekar cree que esto hace que monitorear y restringir el flujo de datos entre dispositivos inteligentes sea aún más importante.
Incluso el riesgo de secuestrar potencia informática bruta en chips no es nuevo. Los piratas informáticos se han apoderado durante mucho tiempo de las computadoras de otras personas para extraer criptomonedas. Entonces, si bien los dispositivos inteligentes podrían enfrentar nuevos ataques del tipo que describe Anthropic, la debilidad subyacente es antigua: muchos de nuestros dispositivos ya son fáciles de controlar.