La confianza puede evaporarse en un instante cuando la tecnología se pone traviesa. Ese es lo último en el mundo salvaje de la IA, donde los estafadores están utilizando videos de Deepfake del difunto Dr. Michael Mosley, una cara de confianza en la transmisión de salud, para hallar suplementos como Ashwagandha y Beometroot Gommies.
Estos clips aparecen en las redes sociales, con Mosley aconsejando apasionadamente a los espectadores con afirmaciones falsas sobre la menopausia, la inflamación y otras modas de salud, nada de las cuales alguna vez respaldó.
Cuando las caras familiares venden ficción
Desplácese por Instagram o Tiktok, podría tropezar con un video y pensar: “Espera, ¿es ese Mosley?” Y estarías en lo cierto … más o menos. Estas creaciones de IA usan clips de conocidos podcasts y apariencias, reconstruidos para imitar su tono, expresiones y dudas.
Es inquietantemente convincente hasta que te detengas para pensar: espera, falleció el año pasado.
Un investigador del Instituto Turing advirtió que los avances están ocurriendo tan rápido que pronto será casi imposible detectar el contenido real real por la vista solo.
The Fallout: Health Información errónea en Overdrive
Aquí es donde las cosas se ponen pegajosas. Estos videos de Deepfake no son ilusiones inofensivas. Empujan afirmaciones no verificadas, como las gomitas de remolacha de remolacha que curan aneurismas, o hormonas de equilibrio de Moringa, que se desvían peligrosamente de la realidad.
Un dietista advirtió que ese contenido sensacional socava seriamente la comprensión pública de la nutrición. Los suplementos no son atajos, y exageraciones como estos generan confusión, no de bienestar. El regulador de medicina del Reino Unido, MHRA, está investigando estas afirmaciones, mientras que los expertos en salud pública continúan instando a las personas a confiar en fuentes creíbles, piense en NHS y su médico de cabecera, no las promociones de AI elegantes.
Plataformas en el asiento caliente
Las plataformas de redes sociales se han encontrado en la mira. A pesar de las políticas contra el contenido engañoso, los expertos dicen que los gigantes tecnológicos como la meta lucha para mantenerse al día con el gran volumen y la viralidad de estos profundos.
Según la Ley de Seguridad en línea del Reino Unido, las plataformas ahora se requieren legalmente para abordar el contenido ilegal, incluidos el fraude y la suplantación. Ofcom está vigilando la aplicación, pero hasta ahora, el contenido malo a menudo reaparece tan rápido como se elimina.
Ecos de fake real: una tendencia preocupante
Este no es un hipo aislado, es parte de un patrón de crecimiento. Un informe reciente de CBS News reveló docenas de videos de Deepfake que se hace pasar por médicos reales dando consejos médicos en todo el mundo, llegando a millones de espectadores.
En un ejemplo, un médico descubrió un impulso de defensa profunda para un producto que nunca respaldó, y la semejanza era escalofriante. Los espectadores fueron engañados, los comentarios se hicieron alabar al médico, todo basado en una fabricación.
Mi opinión: cuando la tecnología engaña
Lo que más me golpea más duro de esto no es solo que la tecnología pueda imitar la realidad, es que la gente lo cree. Hemos construido nuestra confianza en expertos, voces que suenan tranquilas y conocedores. Cuando esa confianza se armá, se mueve a la base de la comunicación científica.
La verdadera pelea aquí no es solo detectar la IA, es la confianza de la reconstrucción. Las plataformas necesitan cheques más robustos, etiquetas claras y tal vez, solo tal vez, una verificación de la realidad de los usuarios antes de presionar “compartir”.