La ingeniería social mediante phishing sigue siendo una de las tácticas más comunes para lanzar ciberataques. Los mensajes de correo electrónico de phishing generados por IA ahora plantean un nuevo desafío para los equipos de seguridad que administran sistemas de correo electrónico, aumentando significativamente el riesgo debido a su avanzada sofisticación. Los ingenieros sociales modernos utilizan IA generativa e inteligencia de código abierto (OSINT) para elaborar miles de mensajes únicos con gramática perfecta, contexto apropiado y detalles personalizados. Hoy en día, un indicador de un mensaje de correo electrónico de phishing podría ser un mensaje perfectamente escrito y con formato profesional.
La evolución del phishing
Para alguien como John, ingeniero de seguridad de TI en una empresa mediana, las reglas de detección de phishing alguna vez fueron sencillas: marcar los errores tipográficos, captar los saludos genéricos y poner en cuarentena cualquier cosa cuyo dominio de remitente no coincida. Estas fueron las características definitorias de una era anterior del phishing, cuando los ataques enviaban millones de mensajes de correo electrónico genéricos y llenos de errores a escala, confiando en el volumen más que en la precisión para encontrar víctimas. Los filtros de seguridad se crearon exactamente para estas amenazas y durante años fueron efectivos. La mala gramática, los saludos genéricos y los logotipos que no coinciden eran indicadores que delataban a los atacantes.
El panorama de amenazas que John monitorea hoy no se parece en nada a aquellas para las que fueron diseñados esos filtros. La IA generativa cambió el funcionamiento del phishing. Los ataques ahora son gramaticalmente correctos, contextualmente precisos y personalizados para el objetivo. Estos mensajes no activan los filtros tradicionales porque esos filtros no fueron diseñados para detectarlos.
La amenaza ya no es identificable por su apariencia, sino por lo que sabe. Los sistemas de IA modernos ejecutan operaciones OSINT que extraen datos de redes profesionales, sitios web corporativos y huellas digitales disponibles públicamente para trazar jerarquías y relaciones organizacionales. Con esa inteligencia, los ingenieros sociales pueden procesar conjuntos de datos masivos a escala para generar mensajes contextualmente precisos y personalizados para su organización. Estas comunicaciones pueden incluso adaptarse en tiempo real en función de sus respuestas, cambiando de tono o ajustando detalles para mantenerse coherentes con la conversación.
Amazon Bedrock es un servicio totalmente administrado que pone a disposición modelos básicos (FM) de alto rendimiento de empresas líderes en IA a través de una API unificada, junto con las capacidades necesarias para crear aplicaciones de IA generativa con seguridad, privacidad e IA responsable. Amazon Bedrock agrega una capa adicional de análisis a su infraestructura de seguridad existente que va más allá del filtrado tradicional a nivel de superficie. Entiende el contexto y detecta intentos de phishing basándose en patrones de comportamiento, no en la calidad gramatical o el formato. Para poner esto en práctica, analicemos cómo Amazon Bedrock analiza un correo electrónico desde el momento en que llega a su bandeja de entrada.
Amazon Bedrock utiliza modelos de IA de uso general a gran escala previamente entrenados con grandes cantidades de datos. Los modelos básicos pueden analizar patrones de comportamiento en el contenido del correo electrónico, comprender las relaciones contextuales e identificar anomalías que indican que un mensaje podría ser un intento de phishing. En la práctica, estas capacidades se pueden estructurar como un proceso de análisis de varias etapas. Cada correo electrónico pasa por autenticación, análisis de comportamiento y puntuación de riesgo antes de llegar a las bandejas de entrada de sus usuarios.
Amazon Bedrock ofrece dos capacidades integradas para potenciar su defensa contra el phishing basada en IA. Los modelos básicos previamente entrenados aportan una comprensión sofisticada del lenguaje natural que puede detectar manipulaciones matizadas, anomalías contextuales y patrones de suplantación invisibles para los sistemas basados en reglas. La segunda capacidad, Amazon Bedrock Guardrails, proporciona protecciones configurables que ayudan a alinear las interacciones del modelo básico con las políticas de IA responsables y los requisitos de las aplicaciones de su organización, sin requerir una lógica de detección personalizada. Juntas, estas capacidades se pueden integrar en un proceso de análisis de correo electrónico de varias etapas.
Flujo de trabajo de Amazon Bedrock para una defensa inteligente contra el phishing
En la solución de flujo de trabajo, cada mensaje se somete primero a comprobaciones de autenticación estándar (Marco de políticas del remitente (SPF), Correo identificado con claves de dominio (DKIM), Autenticación, informes y conformidad de mensajes basados en dominio (DMARC)). Estos protocolos confirman que el servidor emisor está autorizado a enviar en nombre del dominio y que el mensaje no ha sido manipulado durante el tránsito. El flujo de trabajo de detección de phishing, impulsado por los modelos básicos de Amazon Bedrock, analiza el mensaje en función de tres factores clave: elección de palabras, desviaciones del estilo de comunicación y adecuación contextual de las solicitudes. Detectar estas sutiles inconsistencias en el estilo de escritura y solicitudes desalineadas agrega una capa de análisis más profunda además de los controles de seguridad tradicionales. El análisis de la IA también requiere una gobernanza cuidadosa para confirmar que funciona de manera responsable y dentro de los límites definidos. Amazon Bedrock Guardrails ayuda a filtrar tanto las solicitudes de entrada como las salidas del modelo. Evitan respuestas que podrían filtrar datos confidenciales sin darse cuenta y verifican que los resultados del análisis cumplan con las políticas que usted establezca. Tenga en cuenta que las barandillas necesitan una configuración y calibración cuidadosas para cumplir con los requisitos de su aplicación.
Implementación de Amazon Bedrock Guardrails para análisis
Amazon Bedrock Guardrails le brinda control granular sobre cómo los modelos básicos procesan el contenido del correo electrónico a través de filtros de contenido, temas denegados, filtros de palabras y filtros de información confidencial. Por ejemplo, John, el ingeniero de seguridad, puede configurar barreras de seguridad para redactar automáticamente información de identificación personal (PII) confidencial descubierta durante el análisis de correo electrónico, lo que ayuda a evitar que el modelo básico genere respuestas que podrían filtrar datos confidenciales sin darse cuenta.
Sin embargo, las configuraciones de barandillas para análisis de seguridad requieren una calibración cuidadosa. Si bien los filtros de contenido protegen contra entradas y salidas inapropiadas, las configuraciones demasiado restrictivas pueden impedir que el modelo analice contenido sospechoso que legítimamente necesita ser evaluado. Si un ingeniero social incluye lenguaje ofensivo en un mensaje de correo electrónico para evitar los filtros, sus barreras de seguridad deben permitir que el sistema de seguridad analice ese contenido. Al mismo tiempo, las barreras de seguridad aún deben proteger contra entradas y salidas inapropiadas en otros contextos. Guardrails también proporciona controles de conexión a tierra contextual que mantienen las respuestas del modelo ancladas en los hechos al contenido del correo electrónico que se analiza, lo que reduce los falsos positivos causados por las alucinaciones del modelo. Esto permite que el análisis impulsado por IA funcione dentro de límites definidos y al mismo tiempo detecte patrones intrincados.
En esta publicación, aprenderá cómo implementar un proceso de análisis de correo electrónico de varias etapas utilizando los modelos básicos de Amazon Bedrock que evalúan los patrones de comportamiento del remitente, la idoneidad contextual y las anomalías de comunicación para identificar intentos de phishing generados por IA antes de que lleguen a sus usuarios.
Marco de implementación
El siguiente marco muestra cómo poner esto en práctica dentro de su infraestructura de seguridad de correo electrónico existente, de modo que alguien en la posición de John pueda pasar del filtrado reactivo a la detección proactiva. Después de que sus comprobaciones de autenticación estándar (SPF, DKIM, DMARC) confirmen que un correo electrónico proviene de un servidor de correo legítimo, el flujo de trabajo de detección de phishing va un paso más allá al incluir capas en el análisis de comportamiento. Su sistema pasa de verificar si un servidor está autorizado a evaluar si un mensaje coincide con la forma en que su compañero de trabajo se comunica normalmente.
La Figura 1 muestra el flujo de trabajo de análisis de seguridad del correo electrónico de cinco pasos, desde la detección inicial de la barrera de seguridad hasta el análisis de IA, la puntuación de riesgos y las decisiones finales de enrutamiento.
Antes de profundizar en la implementación, aclaremos qué hace cada componente. El análisis de comportamiento comienza con un rastreador de referencia del remitente, que es un perfil de cada persona que le envía correo electrónico. El rastreador de referencia del remitente registra cómo escriben normalmente sus empleados, por lo que el proceso de análisis de Amazon Bedrock tiene un punto de referencia con el que comparar.
Con el uso continuo, el flujo de trabajo de detección de phishing comprenderá las palabras que usan sus empleados, qué tan formales o informales son, qué piden habitualmente y con quién se comunican normalmente. Considere el entorno de John: un compañero de trabajo que normalmente envía frases breves, de repente escribe un correo electrónico formal solicitando una transferencia bancaria urgente. El proceso de análisis detecta ese cambio y lo señala para que el equipo de John lo observe más de cerca.
Esto puede ayudar a reducir las falsas alarmas y ahorrar tiempo que, de otro modo, el equipo de John podría dedicar a revisar los mensajes de correo electrónico marcados que resultan no ser amenazas reales.
A continuación se ofrece un resumen de alto nivel sobre cómo estos componentes funcionan juntos cuando un correo electrónico ingresa a su flujo de trabajo de detección de phishing:
Paso 1: barreras de entrada y preprocesamiento
El flujo de trabajo de detección de phishing primero ejecuta los mensajes de correo electrónico entrantes a través de Amazon Bedrock Guardrails, que busca contenido confidencial y marca cualquier cosa que deba someterse a revisión manual antes de que comience el análisis.
Paso 2: construcción inmediata con contexto
Después de que un correo electrónico supera esa verificación, el flujo de trabajo crea un mensaje de análisis combinando el contenido del correo electrónico con los patrones de comunicación básicos del remitente, el contexto organizacional y ejemplos de phishing conocidos mediante el uso de las bases de conocimiento de Amazon Bedrock. De esa manera, el modelo evalúa el mensaje frente a una imagen completa, no en el vacío.
Paso 3: análisis impulsado por IA con barreras de seguridad
El modelo básico procesa el correo electrónico utilizando el mensaje creado, mientras que las barreras de seguridad mantienen el análisis dentro de los límites de seguridad definidos. El modelo básico puede examinar minuciosamente el contenido sospechoso, mientras que las barreras de seguridad evitan que genere resultados que expongan información confidencial en el proceso.
Paso 4: Calificación de riesgo multifactorial
A partir de ese análisis, el proceso de Amazon Bedrock genera tres puntuaciones: una para anomalías de contenido, otra para desviaciones de comportamiento y otra para alineación contextual. La canalización los combina en una única puntuación de riesgo de 0 a 100, que determina dónde se enruta el correo electrónico.
Paso 5: Clasificación y enrutamiento automatizado
Los mensajes seguros llegan a las bandejas de entrada de sus empleados como de costumbre. Los mensajes de correo electrónico sospechosos se ponen en cuarentena para que su equipo de seguridad los revise. Los mensajes peligrosos se bloquean por completo.
Aprendizaje continuo a través de la retroalimentación
Estos pasos ocurren en milisegundos a medida que los mensajes pasan por su sistema de enrutamiento. Su infraestructura existente aún maneja el enrutamiento y la entrega de mensajes. El análisis se ejecuta junto con él como una capa de inspección que evalúa el riesgo de comportamiento antes de que los mensajes lleguen a las bandejas de entrada de los usuarios.
Con el uso continuo, el flujo de trabajo de detección de phishing mejora su precisión al realizar estas llamadas mediante algunas técnicas complementarias. La ingeniería de avisos dinámicos, la práctica de refinar de forma iterativa las instrucciones enviadas al modelo básico en función de resultados del mundo real, toma los comentarios del equipo de seguridad y los incorpora directamente en sus avisos de análisis, ajustando gradualmente la forma en que el modelo evalúa los problemas potenciales. Ese circuito de retroalimentación también alimenta una creciente base de conocimientos de ejemplos validados, donde los intentos de phishing confirmados y los mensajes legítimos se catalogan y luego se utilizan como demostraciones de aprendizaje breves en futuras indicaciones. Entonces, cuando llega un nuevo correo electrónico, el modelo no funciona desde cero. Hace referencia a ejemplos reales, previamente verificados, que coinciden con patrones similares para emitir un juicio más informado.
Ejemplo: análisis de correo electrónico de phishing generado por IA
El siguiente mensaje de correo electrónico de phishing generado por IA demuestra la sofisticación del phishing moderno. Observe la gramática perfecta, el contexto comercial legítimo y la referencia a un formato de orden de compra (PO) real. Ninguno de estos activaría los filtros de spam tradicionales. Después del mensaje de correo electrónico hay una estructura de avisos simplificada que muestra cómo Amazon Bedrock analiza los mensajes comparándolos con las líneas de base del remitente y los patrones de phishing conocidos. El mensaje combina el contenido del correo electrónico con el contexto histórico para respaldar el análisis de comportamiento más allá del filtrado a nivel de superficie. El último es un ejemplo de resultado de una evaluación de riesgos que identifica un intento de suplantación de identidad de un proveedor. El oleoducto Amazon Bedrock detectó anomalías de comportamiento, incluida una primera solicitud de cambio de pago, junto con inconsistencias de dominio que las comprobaciones de autenticación tradicionales no detectaron.
Ejemplo de correo electrónico de phishing
Estructura rápida y resultado de la evaluación de riesgos
El circuito de retroalimentación continua
Detrás de estos ejemplos, el sistema de detección de phishing mantiene líneas de base dinámicas del remitente en una base de datos que rastrea cada uno de los patrones de comunicación, vocabulario, tono y tipos de solicitud típicos del remitente. Los falsos positivos marcados por el equipo de seguridad de John se retroalimentan al proceso de detección de phishing, actualizando las líneas de base para tener en cuenta variaciones legítimas en la forma en que se comunican los remitentes. Los patrones de phishing confirmados se catalogan junto con estas líneas de base para enriquecer el contexto inmediato futuro con inteligencia actual. El resultado es un circuito de retroalimentación donde cada corrección y cada amenaza confirmada hacen que el análisis sea más preciso.
El proceso de retroalimentación continua se desarrolla en cinco etapas:
1. Analizar: el modelo básico evalúa sus mensajes de correo electrónico entrantes mediante indicaciones dinámicas creadas a partir de la inteligencia acumulada de intentos de phishing y el contexto del remitente.
2. Puntuación: según ese análisis, se asigna una puntuación de riesgo de 0 a 100 y los mensajes sospechosos se ponen en cuarentena para que su equipo de seguridad los revise.
3. Revisión: los mensajes marcados se clasifican como intento de phishing confirmado o falso positivo.
4. Aprenda: esas clasificaciones se retroalimentan en su sistema, actualizando la biblioteca de ejemplos, las líneas base de comportamiento del remitente y el catálogo de patrones emergentes.
5. Mejorar: se incorporan nuevos ejemplos y patrones de intentos de phishing confirmados en las indicaciones de análisis, lo que mejora la precisión de la detección para el siguiente ciclo.
Los primeros ciclos requerirán una revisión más práctica a medida que su sistema crea su comprensión básica. Para John, eso significa que su equipo inicialmente dedica más tiempo a clasificar los mensajes marcados, pero la inversión se amortiza rápidamente. A medida que crecen la biblioteca de ejemplo y los perfiles del remitente, el modelo se vuelve cada vez más preciso a la hora de distinguir las comunicaciones legítimas de los intentos de phishing. John se mantiene informado en todo momento, pero su atención pasa de examinar el ruido a centrarse en mensajes genuinamente sospechosos.
Cada ciclo a través de este bucle crea una defensa más fuerte y adaptable que evoluciona junto con los intentos de phishing para los que fue diseñada. Esa mejora continua es lo que separa este modelo de detección basado en retroalimentación de la detección estática basada en firmas.
Conclusión
La detección de phishing ya no puede depender de indicadores superficiales, como errores tipográficos y frases incómodas. El marco de esta publicación aborda ese cambio combinando los modelos básicos de Amazon Bedrock con análisis de comportamiento, fundamentos contextuales y un ciclo de retroalimentación continua que mejora la precisión con el tiempo. Amazon Bedrock detecta intentos de manipulación sutiles que los ojos entrenados podrían pasar por alto, mientras su infraestructura existente sigue haciendo aquello para lo que fue creada.
Combine estas defensas con procesos de verificación sólidos, un escepticismo saludable ante solicitudes inesperadas y una cultura de seguridad que mantenga a sus equipos moviéndose con confianza. La conciencia de los empleados sigue siendo importante, pero ahora la IA generativa trabaja con usted para identificar y ayudar a prevenir intentos de suplantación de identidad. La IA hizo que el phishing fuera más difícil de detectar. La misma tecnología, aplicada a la defensiva, hace que sea más difícil tener éxito.
Para comenzar a implementar estas defensas, comience visitando la consola de Amazon Bedrock. Puede configurar Amazon Bedrock Guardrails para su flujo de correo electrónico y seguir este tutorial para crear su propio canal de detección de phishing por correo electrónico. Comparta su experiencia con la seguridad impulsada por IA en los comentarios.
Sobre los autores
Radha Panchap
Radha es una arquitecta de soluciones centrada en proveedores de software independientes. Trabaja en estrecha colaboración con organizaciones como asesora técnica, ayudándolas con migraciones a la nube, modernizaciones de aplicaciones y adopción de IA. Fuera del trabajo, la encontrarás en el jardín o saliendo a correr.
Emilio Herrera
Emilio es arquitecto de soluciones en Amazon Web Services (AWS) y trabaja con clientes de automoción y fabricación. Le apasiona especialmente la intersección de la seguridad y la IA. Cuando no está en el trabajo, está ocupado en casa con la familia, leyendo un libro o estudiando algo nuevo.