Defiéndete de las estafas de impostores de IA con una palabra segura

Por Ben Guarino

El fraude más común en Estados Unidos durante el año pasado fue la estafa del impostor. Más de 856.000 casos, agotando colectivamente $2.7 mil millones a nivel nacional, fueron denunciados ante la Comisión Federal de Comercio en 2023. En primer lugar, los estafadores fingen familiaridad o autoridad, tal vez robando la identidad de un amigo o familiar o afirmando ser un representante bancario o un agente federal. Luego, de esa manera, te llaman, te envían mensajes de texto o correos electrónicos e intentan quitarte tu dinero.

Y ahora la inteligencia artificial ha añadido a estas estafas una capa adicional de duplicidad: servicios económicos de clonación de voz de los que un imitador puede abusar fácilmente para realizar llamadas telefónicas engañosas (y sorprendentemente convincentes) con la voz de otra persona. Estas herramientas de inteligencia artificial digieren muestras de voz (quizás extraídas de videos publicados en línea o de un llamada telefónica supuestamente de “número equivocado”) y generar réplicas de audio de la voz robada que pueden ser manipulado para decir básicamente cualquier cosa.

Si hubiera una regla de oro para frustrar las estafas telefónicas infundidas con IA, podría ser algo como esto: en línea o por teléfono, trate a sus familiares y amigos como si fueran una página de inicio de sesión de correo electrónico. Crea un código de acceso (una palabra segura o una frase privada) y compártelo con ellos en persona. Memorízalo. Si lo llaman alarmados o bajo una presión inusual, especialmente si esas inquietudes están relacionadas con solicitudes de dinero, solicite el código para verificar quién está al otro lado de la línea.

Sobre el apoyo al periodismo científico

Si está disfrutando este artículo, considere apoyar nuestro periodismo galardonado al suscribiéndose. Al comprar una suscripción, ayudas a garantizar el futuro de historias impactantes sobre los descubrimientos y las ideas que dan forma a nuestro mundo actual.

Es cierto que adoptar una contramedida similar a la informática para un problema habilitado por algoritmos informáticos es una práctica antinatural. Es un impulso humano confiar en la voz de un miembro de la familia, dijo Jennifer DeStefano, objetivo de un intento de estafa. a un subcomité judicial del Senado en junio pasado. Los perpetradores la llamaron por teléfono, afirmaron que su hija, que entonces tenía 15 años, fue secuestrada y exigieron un rescate. La trama se vino abajo cuando DeStefano supo que su hija estaba a salvo en un viaje de esquí, pero solo después de que DeStefano al principio fue completamente engañada por una IA que imitaba la voz de su hija. “¿Cuántas veces un ser querido te ha contactado desesperado y tú lo has detenido para validar su identidad?” ella escribió en su testimonio. «Lo más probable es que la respuesta sea nunca».

Usar una contraseña verbal o una frase clave puede ser simplemente la forma más sencilla de combatir las estafas de voz de IA. «Me gusta la idea de la palabra clave porque es simple y, suponiendo que quienes llaman tienen la claridad mental para acordarse de preguntar, no es trivial de subvertir», dice Hany Farid, profesor de la Universidad de California, Berkeley, que ha estudiado los deepfakes de audio. «En este momento no existe otra forma obvia de saber que la persona con la que estás hablando es quien dice ser». Farid y su esposa tienen una palabra clave. Su consejo profesional: «Pregúntense unos a otros cuál es el código de vez en cuando, porque a diferencia de un [computer] contraseña, no usamos la palabra clave muy a menudo, por lo que es fácil de olvidar”.

Dado que los temores y peligros de estafas se están convirtiendo en una parte tan prominente de las noticias tecnológicas, muchos miembros del personal de Científico americano También hemos establecido palabras de seguridad. Esto es lo que algunos de nuestros editores dijeron sobre la elección de un código memorable y eficiente:

Mi familia ha tenido una palabra clave de uso múltiple desde que yo era niño. Originalmente fue desarrollado para evitar que me secuestraran en la fila de autos en la escuela primaria, aunque no creo que alguna vez tuviéramos que usarlo. La idea era que si alguien aparecía a recogerme alegando que había sido enviado por mis padres, debía pedirle la palabra clave. Hoy en día, la palabra clave existe principalmente para garantizar que mis padres no sean estafados por alguien que se hace pasar por yo. —Allison Parshall, editora asociada de noticias

Establecer una palabra clave con mis padres fue bastante fácil: teníamos una de la escuela media y secundaria que era fácil de reutilizar. Fue más difícil coordinar uno con mi pareja. Para cada sugerencia, proporcionó una situación imaginaria en la que los secuestradores podrían usar la palabra sin siquiera conocer su significado secreto. Todavía estamos trabajando para encontrar uno que sea infalible. Mientras tanto, les recuerdo a mis amigos y familiares que, en caso de duda, conducir personalmente hasta el banco o el departamento de policía es más confiable que confiar en una voz por teléfono que dice trabajar para cualquiera de los dos lugares. —Arminda Downey-Mavromatis, editora asociada de participación

Mi esposa y yo elegimos un apodo que uno de nosotros tiene para el otro y que históricamente estaba reservado para cuando estábamos siendo cursi y molestos (y ahora, supongo, vigilantes). Con mi hermano, porque no le tengo un apodo cursi, nuestra defensa se basa en el hecho de que nunca estamos lejos de nuestro teléfono. Generé un código QR que ambos vinculamos a una aplicación de autenticación de contraseña de un solo uso. Uno de nosotros comienza el desafío preguntando: «Oye, amigo, ¿cuál es tu número?» La respuesta correcta son los primeros tres dígitos del código de seis dígitos que se muestra en la aplicación de autenticación. Luego, el retador original lee en voz alta los últimos tres números. Una coincidencia es un fuerte indicador de que todas las partes involucradas son quienes dicen. —Ben Guarino, editor asociado, tecnología

Después de leer un artículo aterrador sobre estas estafas, me comuniqué con mis padres y mi hermana, y todos estuvimos de acuerdo en una palabra clave basada en una historia familiar divertida sobre la infancia de mi padre. ¡Ojalá podamos recordarlo si alguien alguna vez intenta atraparnos en uno de estos! —Clara Moskowitz, editora senior, espacio y física

Desde hace un tiempo, me preocupa que los estafadores utilicen IA generativa para imitar mi voz o la de un miembro de mi familia para estafarnos y quitarnos nuestro dinero. Entonces, cuando las noticias comenzaron a confirmar que esto realmente estaba sucediendo, le dije a mi familia que deberíamos crear una palabra o frase clave que pudiéramos usar para saber que realmente éramos nosotros. Sugerí un par de preguntas y respuestas basado en algo que solo nuestra familia sabría, y uno de los miembros de mi familia inmediatamente soltó la respuesta en un texto grupal, lo que hizo necesario uno nuevo. Eso inició un hilo en el que procedimos a enumerar diferentes recuerdos familiares y chistes internos, ¡algunos de los cuales ni siquiera nosotros sabíamos la respuesta! Fue un viaje divertido al pasado. —Tanya Lewis, editora senior de salud y medicina