Cómo evitar que la IA robe el sonido de tu voz

Por Seda Hahn & Gary Stix

Los avances en la inteligencia artificial generativa han permitido una síntesis de voz que suena auténtica hasta el punto de que una persona ya no puede distinguir si está hablando con otro humano o con un profundo. Si un tercero “clona” la propia voz de una persona sin su consentimiento, actores malintencionados pueden utilizarla para enviar cualquier mensaje que quieran.

Esta es la otra cara de la moneda de una tecnología que podría resultar útil para crear asistentes personales digitales o avatares. El potencial de uso indebido al clonar voces reales con software de voz profunda es obvio: se puede abusar fácilmente de las voces sintéticas para engañar a otros. Y solo se pueden utilizar unos pocos segundos de grabación vocal para clonar de manera convincente la voz de una persona. Cualquiera que envíe mensajes de voz, aunque sea de vez en cuando, o hable por contestador automático, ya ha proporcionado al mundo material más que suficiente para ser clonado.

El informático e ingeniero Ning Zhang de la Escuela de Ingeniería McKelvey de la Universidad de Washington en St. Louis ha desarrollado un nuevo método para prevenir la síntesis de voz no autorizada antes de que se lleve a cabo: una herramienta llamada AntiFake. Zhang hizo una presentación al respecto. en la Conferencia de la Association for Computing Machinery sobre seguridad informática y de las comunicaciones en Copenhague, Dinamarca, el 27 de noviembre.

Los métodos convencionales para detectar deepfakes solo surten efecto una vez que el daño ya está hecho. AntiFake, por otro lado, impide la síntesis de datos de voz en un audio deepfake. La herramienta está diseñada para vencer a los falsificadores digitales en su propio juego: utiliza técnicas similares a las empleadas por los ciberdelincuentes para la clonación de voces con el fin de protegerlas de la piratería y la falsificación. El texto fuente del proyecto AntiFake está disponible gratuitamente.

El software antideepfake está diseñado para dificultar que los ciberdelincuentes tomen datos de voz y extraigan las características de una grabación que son importantes para la síntesis de voz. “La herramienta utiliza una técnica de IA adversaria que originalmente formaba parte de la caja de herramientas de los ciberdelincuentes, pero que ahora la estamos usando para defendernos de ellos”, dijo Zhang en la conferencia. “Confundimos un poco la señal de audio grabada, la distorsionamos o perturbamos lo suficiente como para que siga sonando bien para los oyentes humanos”, y al mismo tiempo la hacemos inutilizable para entrenar un clon de voz.

Ya existen enfoques similares para la protección contra copias de obras en Internet. Por ejemplo, las imágenes que aún parecen naturales para el ojo humano pueden tener información que las máquinas no pueden leer debido a una alteración invisible en el archivo de imagen.

El software llamado Glaze, por ejemplo, es diseñado para inutilizar las imágenes para el aprendizaje automático de grandes modelos de IA, y ciertos Trucos protegen contra el reconocimiento facial en fotografías. “AntiFake se asegura de que cuando publicamos datos de voz, sea difícil para los delincuentes utilizar esa información para sintetizar nuestras voces y hacerse pasar por nosotros”, dijo Zhang.

Los métodos de ataque mejoran constantemente y se vuelven más sofisticados, como lo demuestra el aumento actual de ataques cibernéticos automatizados a empresas, infraestructuras y gobiernos de todo el mundo. Para garantizar que AntiFake pueda mantenerse al día con el entorno en constante cambio que rodea a los deepfakes durante el mayor tiempo posible, Zhang y su estudiante de doctorado Zhiyuan Yu han desarrollado su herramienta de tal manera que esté entrenada para prevenir una amplia gama de posibles amenazas.

El laboratorio de Zhang probó la herramienta con cinco sintetizadores de voz modernos. Según los investigadores, AntiFake logró una tasa de protección del 95 por ciento, incluso contra sintetizadores comerciales desconocidos para los cuales no fue diseñado específicamente. Zhang y Yu también probaron la usabilidad de su herramienta con 24 participantes humanos de diferentes grupos de población. Serían necesarias más pruebas y un grupo de prueba más grande para un estudio comparativo representativo.

Ben Zhao, profesor de informática en la Universidad de Chicago, que no participó en el desarrollo de AntiFake, afirma que el software, como todos los sistemas de seguridad digital, nunca proporcionará una protección completa y se verá amenazado por el persistente ingenio de los estafadores. Pero, añade, puede “elevar el listón y limitar el ataque a un grupo más pequeño de personas muy motivadas y con importantes recursos”.

“Cuanto más difícil y desafiante sea el ataque, menos casos escucharemos sobre estafas de imitación de voz o clips de audio falsos utilizados como táctica de intimidación en las escuelas. Y ese es un gran resultado de la investigación”, afirma Zhao.

AntiFake ya puede proteger grabaciones de voz más cortas contra la suplantación de identidad, el medio más común de falsificación cibercriminal. Los creadores de la herramienta creen que podría ampliarse para proteger documentos de audio o música de mayor tamaño contra el uso indebido. Actualmente, los usuarios tendrían que hacerlo ellos mismos, lo que requiere conocimientos de programación.

Zhang dijo en la conferencia que la intención es proteger completamente las grabaciones de voz. Si esto se convierte en realidad, podremos explotar una deficiencia importante en el uso crítico de seguridad de la IA para luchar contra los deepfakes. Pero los métodos y herramientas que se desarrollan deben adaptarse continuamente debido a la inevitabilidad de que los ciberdelincuentes aprendan y crezcan con ellos.

Este artículo apareció originalmente en Spektrum der Wissenschaft y fue reproducido con autorización.