Explorar nuevas fronteras en ciberseguridad es esencial a medida que evolucionan las amenazas digitales. Los enfoques tradicionales, como las auditorías manuales del código fuente y la ingeniería inversa, han sido fundamentales para identificar vulnerabilidades. Sin embargo, el aumento de las capacidades de los modelos de lenguajes grandes (LLM) presenta una oportunidad única para trascender estos métodos convencionales, descubriendo y mitigando potencialmente vulnerabilidades de seguridad que antes no se podían detectar.
El desafío en materia de ciberseguridad es la amenaza persistente de vulnerabilidades “no identificables”: fallos que evaden la detección de los sistemas automatizados convencionales. Estas vulnerabilidades representan riesgos importantes, ya que a menudo pasan desapercibidas hasta que se explotan. La llegada de LLM sofisticados ofrece una solución prometedora al replicar potencialmente la destreza analítica de los expertos humanos para identificar estas amenazas esquivas.
A lo largo de los años, el equipo de investigación de Google Project Zero ha sintetizado conocimientos de su amplia experiencia en la investigación de vulnerabilidades impulsadas por humanos para perfeccionar la aplicación de los LLM en este campo. Identificaron principios clave que aprovechan las fortalezas de los LLM y al mismo tiempo abordan sus limitaciones. Para sus hallazgos es crucial la importancia de procesos de razonamiento extensos, que han demostrado ser efectivos en diversas tareas. Un entorno interactivo es esencial, permitiendo que los modelos ajusten y corrijan errores dinámicamente, mejorando su efectividad. Además, equipar a los LLM con herramientas especializadas, como depuradores e intérpretes de Python, es vital para imitar el entorno operativo de los investigadores humanos y realizar cálculos precisos e inspecciones estatales. El equipo también enfatiza la necesidad de una estrategia de muestreo que permita la exploración de múltiples hipótesis a través de distintas trayectorias, facilitando una investigación de vulnerabilidad más integral y efectiva. Estos principios aprovechan las capacidades de los LLM para obtener resultados más precisos y confiables en las tareas de seguridad.
El equipo de investigación ha desarrollado “Hora de la siesta”, una arquitectura pionera para la investigación de vulnerabilidades asistida por LLM. Naptime incorpora una arquitectura especializada que equipa a los LLM con herramientas específicas para mejorar su capacidad para realizar análisis de seguridad de manera efectiva. Un aspecto clave de esta arquitectura es su enfoque en la conexión a tierra mediante el uso de herramientas, lo que garantiza que las interacciones de los LLM con el código base de destino imiten fielmente los flujos de trabajo de los investigadores de seguridad humana. Este enfoque permite la verificación automática de las salidas del agente, una característica vital considerando la naturaleza autónoma del sistema.
La arquitectura Naptime se centra en la interacción entre un agente de IA y una base de código de destino, equipada con herramientas como Code Browser, Python, Debugger y Reporter. El navegador de código permite al agente navegar y analizar la base de código en profundidad, de forma similar a cómo los ingenieros utilizan herramientas como Chromium Code Search. La herramienta Python y el depurador permiten al agente realizar cálculos intermedios y análisis dinámicos, mejorando la precisión y profundidad de las pruebas de seguridad. Estas herramientas trabajan juntas dentro de un entorno estructurado para detectar y verificar vulnerabilidades de seguridad de forma autónoma, garantizando la integridad y reproducibilidad de los resultados de la investigación.
Los investigadores han integrado la arquitectura Naptime con la evaluación CyberSecEval 2, mejorando sustancialmente el rendimiento de las pruebas de seguridad LLM. Para escenarios de “desbordamiento de búfer”, las puntuaciones de GPT 4 Turbo aumentaron hasta alcanzar pases perfectos utilizando la arquitectura Naptime, logrando 1,00 en múltiples pruebas, en comparación con sus puntuaciones iniciales de 0,05. De manera similar, las mejoras fueron evidentes en la categoría “Corrupción avanzada de la memoria”, con el rendimiento de GPT 4 Turbo aumentando de 0,16 a 0,76 en escenarios de prueba más complejos. Los modelos Gemini también mostraron marcadas mejoras; por ejemplo, las puntuaciones de Gemini 1.5 Pro en configuraciones Naptime aumentaron a 0,58, lo que demuestra avances significativos en el manejo de tareas complejas en comparación con las fases de prueba iniciales. Estos resultados subrayan la eficacia del marco Naptime para mejorar la precisión y la capacidad de los LLM para realizar evaluaciones de vulnerabilidad detalladas y precisas.
Para concluir, el proyecto Naptime demuestra que los LLM pueden mejorar significativamente su desempeño en la investigación de vulnerabilidades con las herramientas adecuadas, particularmente en entornos de prueba controlados, como los desafíos de estilo CTF. Sin embargo, el verdadero desafío radica en traducir esta capacidad a las complejidades de la investigación de seguridad ofensiva autónoma, donde es crucial comprender los estados del sistema y el control de los atacantes. El estudio subraya la necesidad de proporcionar a los LLM procesos flexibles e iterativos similares a los empleados por investigadores humanos expertos para reflejar verdaderamente su potencial. A medida que el equipo de Google Project Zero, en colaboración con Google DeepMind, continúa desarrollando esta tecnología, siguen comprometidos a ampliar los límites de lo que los LLM pueden lograr en ciberseguridad, prometiendo avances más sofisticados en el futuro.
Nikhil es consultor interno en Marktechpost. Está cursando una doble titulación integrada en Materiales en el Instituto Indio de Tecnología de Kharagpur. Nikhil es un entusiasta de la IA/ML que siempre está investigando aplicaciones en campos como los biomateriales y la ciencia biomédica. Con una sólida experiencia en ciencia de materiales, está explorando nuevos avances y creando oportunidades para contribuir.