Una llamada aterradora. Un informe frenético al 911. La policía se apresuró a detener lo que pensaban que era un secuestro, sólo para descubrir que todo era un engaño.
Tal fue el caso recientemente en Lawrence, Kansas, donde una mujer contestó su mensaje de voz y lo encontró secuestrado por una voz inquietantemente parecida a la de su madre que decía estar en problemas.
La voz fue generada por IA, en realidad bastante falsa. Y, de repente, ya no era la trama de una novela policíaca: era la vida real.
La voz al otro lado de la línea “sonaba exactamente como la de su madre”, dice la policía, con tono, inflexión e incluso un estado emocional elevado.
Todo parece como si los estafadores tomaran un audio público (tal vez de las redes sociales o de saludos de mensajes de voz), lo pasaran por una IA de clonación de voz y vieran el mundo arder.
Entonces la mujer marcó el 911; La policía rastreó el número y detuvo un automóvil, sólo para descubrir que no había secuestro. Sólo una amenaza virtual destinada a engañar a los sentidos humanos.
No es la primera vez que ocurre algo así. Con solo un fragmento de audio, la inteligencia artificial actual puede generar los tonos dulces de Walter Cronkite o, digamos, Barack Obama, independientemente de si el ex presidente ha dicho algo parecido a lo que estás escuchando… segmentos que utilizan falsificaciones profundas para manipular las acciones de las personas de maneras nuevas y convincentes.
Un informe reciente de una empresa de seguridad encontró que alrededor del 70 por ciento de las veces, las personas tenían problemas para distinguir una voz clonada de la real.
Y no se trata sólo de bromas puntuales y pequeñas estafas. Los estafadores están utilizando estas herramientas para repetir como loros a los funcionarios públicos, engañar a las víctimas para que les transfieran grandes sumas de dinero o hacerse pasar por amigos y familiares en situaciones de carga emocional.
El resultado: un nuevo tipo de fraude que es más difícil de detectar –y más fácil de perpetrar– que cualquier otro en la memoria reciente.
La tragedia es que la confianza se convierte tan fácilmente en un arma. Cuando su oído (y su respuesta emocional) compran lo que escuchan, incluso las intuiciones más básicas pueden desaparecer. Las víctimas a menudo no se dan cuenta de que la llamada fue una farsa hasta que es demasiado tarde.
Entonces, ¿qué puedes hacer si recibes una llamada que te parece “demasiado real”? Los expertos proponen redes de seguridad pequeñas, pero cruciales: una “palabra de seguridad familiar” preestablecida, verificar llamando a sus seres queridos a un número conocido y no al que lo llamó, o hacer preguntas que sólo una persona real sabría.
Bien, entonces es una verificación telefónica de la vieja escuela, pero en la era de la IA que puede reproducir el tono, la risa e incluso la tristeza, podría ser el boleto para mantenerte a salvo.
El caso Lawrence en particular es una llamada de atención. A medida que la IA aprende a imitar nuestras voces, las estafas empeoraron muchísimo.
Ya no se trata sólo de correos electrónicos falsos y de hacer clic en enlaces de phishing; ahora se trata de escuchar la voz de tu madre por teléfono y querer con cada átomo de tu ser creer que algo horrible no ha sucedido.
Eso es escalofriante. Y significa que todos tenemos que ir unos pasos por delante, con escepticismo, verificación y una feliz dosis de incredulidad.