Un nuevo estudio muestra que el malware informático impulsado por modelos de inteligencia artificial de fácil acceso ya está aquí; la investigación es una “llamada de atención” para tomar más en serio los riesgos de ciberseguridad derivados de la IA, afirma un experto.
En el estudio, los investigadores crearon un “gusano” informático impulsado por inteligencia artificial diseñado para atacar y propagarse entre dispositivos, revelando una amenaza que, según afirman, el mundo está lamentablemente poco preparado para combatir.
“Nuestros resultados demuestran que las ciberamenazas autosuficientes impulsadas por la IA ya no son teóricas”, escribieron los investigadores. El artículo, publicado por primera vez en el New York Times, se publicó en el servidor de preimpresión arXiv.org y aún no ha sido revisado por pares.
Sobre el apoyo al periodismo científico
Si está disfrutando de este artículo, considere apoyar nuestro periodismo galardonado suscribiéndose. Al comprar una suscripción, ayudas a garantizar el futuro de historias impactantes sobre los descubrimientos y las ideas que dan forma a nuestro mundo actual.
David Lie, profesor de la Universidad de Toronto, que está familiarizado con la investigación pero no participó directamente en el estudio, dice que el trabajo es una “llamada de atención” que debería inspirar a los expertos e investigadores cibernéticos a desarrollar contramedidas a los errores potenciados por la IA lo más rápido posible. “La demostración aquí es que existe una motivación para hacer esto más temprano que tarde”, afirma.
Para crear el “gusano”, una forma de malware que se propaga entre dispositivos de forma autónoma, los investigadores no confiaron en modelos de inteligencia artificial patentados de compañías como Anthropic u OpenAI, las cuales han emitido advertencias sobre la amenaza de que su tecnología sea utilizada por malos actores. En lugar de ello, los investigadores utilizaron un modelo de IA no revelado pero disponible gratuitamente “que cualquiera puede descargar de Internet”, escribieron en una publicación en el sitio web de su laboratorio.
Es importante destacar que el prototipo de error se creó en un entorno virtual aislado, por lo que no infectará ninguna computadora. Aún así, los gusanos impulsados por IA son especialmente peligrosos porque no atacan ni una sola debilidad dentro de un sistema informático, dice Lie. Los gusanos anteriores a la IA sólo podían seguir ciertas instrucciones de su diseñador, dice, pero “como funciona con IA, pueden aprender”.
Los hallazgos, dicen los autores del estudio, plantean serias preocupaciones sobre la ciberseguridad. “Esta investigación descubrió una nueva amenaza a la ciberseguridad que el mundo no está preparado para enfrentar”, escribieron en la misma publicación. “Dado que casi todos los aspectos de la vida moderna dependen de computadoras en red (agua potable y sistemas de gestión de desechos, acceso a alimentos y bienes, energía, nuestro sistema financiero, comunicaciones, atención médica, educación, sistemas de transporte, gobierno y mucho más), el riesgo es enorme”.
La buena noticia, dice Lie, es que esta tecnología es de “doble uso”. La IA podría permitir que un gusano aprenda a medida que se propaga, encontrando y atacando vulnerabilidades ocultas, pero la IA también puede ayudar a solucionar estas deficiencias, afirma. “Son espejos el uno del otro”.
Es hora de defender la ciencia
Si te ha gustado este artículo, me gustaría pedirte tu apoyo. Científico americano ha servido como defensor de la ciencia y la industria durante 180 años, y ahora mismo puede ser el momento más crítico en esos dos siglos de historia.
he sido un Científico americano suscriptor desde que tenía 12 años y me ayudó a moldear mi forma de ver el mundo. Ciencia-Am Siempre me educa y me deleita, e inspira una sensación de asombro por nuestro vasto y hermoso universo. Espero que también lo haga por ti.
Si te suscribes a Científico americanousted ayuda a garantizar que nuestra cobertura se centre en investigaciones y descubrimientos significativos; que tenemos los recursos para informar sobre las decisiones que amenazan a los laboratorios en todo Estados Unidos; y que apoyemos a los científicos tanto en ciernes como en activo en un momento en el que con demasiada frecuencia el valor de la ciencia misma pasa desapercibido.
A cambio, obtiene noticias esenciales, podcasts cautivadores, infografías brillantes, boletines informativos imperdibles, vídeos imprescindibles, juegos desafiantes y los mejores escritos e informes del mundo científico. Incluso puedes regalarle a alguien una suscripción.
Nunca ha habido un momento más importante para que nos levantemos y demostremos por qué la ciencia es importante. Espero que nos apoyes en esa misión.