Interrumpir los usos maliciosos de la IA por parte de actores de amenazas afiliados al estado

Basándonos en la colaboración y el intercambio de información con Microsoft, desmantelamos a cinco actores maliciosos afiliados al estado: dos actores de amenazas afiliados a China conocidos como Charcoal Typhoon y Salmon Typhoon; el actor de amenazas afiliado a Irán conocido como Crimson Sandstorm; el actor afiliado a Corea del Norte conocido como Emerald Sleet; y el actor afiliado a Rusia conocido como Forest Blizzard. Las cuentas de OpenAI identificadas y asociadas con estos actores fueron canceladas.

Estos actores generalmente buscaban utilizar los servicios de OpenAI para consultar información de código abierto, traducir, encontrar errores de codificación y ejecutar tareas básicas de codificación.

Específicamente:

  • Charcoal Typhoon utilizó nuestros servicios para investigar varias empresas y herramientas de ciberseguridad, depurar código y generar scripts, y crear contenido que probablemente se utilice en campañas de phishing.
  • Salmon Typhoon utilizó nuestros servicios para traducir documentos técnicos, recuperar información disponible públicamente sobre múltiples agencias de inteligencia y actores de amenazas regionales, ayudar con la codificación e investigar formas comunes en que los procesos podrían ocultarse en un sistema.
  • Crimson Sandstorm utilizó nuestros servicios para soporte de scripts relacionados con el desarrollo web y de aplicaciones, generando contenido probable para campañas de phishing e investigando formas comunes en que el malware podría evadir la detección.
  • Emerald Sleet utilizó nuestros servicios para identificar expertos y organizaciones centradas en cuestiones de defensa en la región de Asia y el Pacífico, comprender las vulnerabilidades disponibles públicamente, ayudar con tareas básicas de secuencias de comandos y redactar contenido que podría usarse en campañas de phishing.
  • Forest Blizzard utilizó nuestros servicios principalmente para la investigación de código abierto sobre protocolos de comunicación por satélite y tecnología de imágenes de radar, así como para soporte con tareas de scripting.

Se pueden encontrar detalles técnicos adicionales sobre la naturaleza de los actores de amenazas y sus actividades en el Publicación del blog de Microsoft publicado hoy.

Las actividades de estos actores son consistentes con anteriores evaluaciones del equipo rojo Llevamos a cabo en asociación con expertos externos en ciberseguridad y descubrimos que GPT-4 ofrece solo capacidades incrementales limitadas para tareas de ciberseguridad maliciosas más allá de lo que ya se puede lograr con herramientas disponibles públicamente y sin tecnología de IA..