La inteligencia artificial (IA) ha sido durante mucho tiempo la piedra angular de la ciberseguridad. Desde la detección de malware hasta el análisis del tráfico de red, los modelos predictivos de aprendizaje automático y otras aplicaciones específicas de IA se han utilizado en ciberseguridad durante décadas. A medida que nos acercamos a la inteligencia artificial general (AGI), el potencial de la IA para automatizar defensas y corregir vulnerabilidades se vuelve aún más poderoso.
Pero para aprovechar esos beneficios, también debemos comprender y mitigar los riesgos de que se utilice indebidamente una IA cada vez más avanzada para permitir o mejorar los ciberataques. Nuestro nuevo marco para evaluar las capacidades cibernéticas ofensivas emergentes de la IA nos ayuda a hacer exactamente esto. Es la evaluación más completa de su tipo hasta la fecha: cubre cada fase de la cadena de ataques cibernéticos, aborda una amplia gama de tipos de amenazas y se basa en datos del mundo real.
Nuestro marco permite a los expertos en ciberseguridad identificar qué defensas son necesarias (y cómo priorizarlas) antes de que actores maliciosos puedan explotar la IA para llevar a cabo ciberataques sofisticados.
Construyendo un punto de referencia integral
Nuestro Marco de Seguridad Frontier actualizado reconoce que los modelos avanzados de IA podrían automatizar y acelerar los ciberataques, lo que podría reducir los costos para los atacantes. Esto, a su vez, aumenta el riesgo de que se lleven a cabo ataques a mayor escala.
Para adelantarnos a la amenaza emergente de los ciberataques impulsados por IA, hemos adaptado marcos de evaluación de ciberseguridad probados, como MITRE ATT&CK. Estos marcos nos permitieron evaluar las amenazas en toda la cadena de ciberataques, desde el reconocimiento hasta la acción sobre los objetivos, y en una variedad de posibles escenarios de ataque. Sin embargo, estos marcos establecidos no fueron diseñados para tener en cuenta a los atacantes que utilizan IA para violar un sistema. Nuestro enfoque cierra esta brecha identificando proactivamente dónde la IA podría hacer que los ataques sean más rápidos, más baratos o más fáciles; por ejemplo, al permitir ataques cibernéticos totalmente automatizados.
Analizamos más de 12.000 intentos del mundo real de utilizar IA en ciberataques en 20 países, basándose en datos del Threat Intelligence Group de Google. Esto nos ayudó a identificar patrones comunes en cómo se desarrollan estos ataques. A partir de ellos, seleccionamos una lista de siete categorías de ataques arquetípicos (incluidos phishing, malware y ataques de denegación de servicio) e identificamos etapas críticas de cuellos de botella a lo largo de la cadena de ataques cibernéticos donde la IA podría alterar significativamente los costos tradicionales de un ataque. Al centrar las evaluaciones en estos obstáculos, los defensores pueden priorizar sus recursos de seguridad de manera más efectiva.