ANÁLISIS EXPERTOS DE EBM: Eoin Shanley, director de gestión de productos, DigiCert
A principios de este año, el director del Banco de Italia fue visto en plataformas de medios respaldando lo que parecían inversiones arriesgadas. Excepto que no lo era. Era un deepfake y el banco se apresuró a compartir advertencias al respecto. Sin embargo, sigue siendo un excelente ejemplo de cómo el contenido deepfake generado por IA no solo engaña a clientes y accionistas, sino que también está socavando activamente la confianza pública en organizaciones e instituciones clave.
El contenido falso ahora parece lo suficientemente auténtico como para ser compartido por organizaciones establecidas y llegar a las redes sociales de usuarios y clientes potenciales. Según una investigación reciente, los humanos tienen un 50-50 de posibilidades de rechazar contenido falso. Esta probabilidad de lanzar una moneda al aire está dañando las relaciones entre las empresas y sus usuarios finales.
La desinformación siempre ha prevalecido a lo largo de la historia; es algo irónicamente humano. Sin embargo, un panorama geopolítico volátil combinado con la capacidad moderna de generar imágenes, videos y firmas en segundos utilizando IA generativa ha significado que la velocidad con la que la información errónea se sustenta y se difunde es devastadora. La gente no sólo se deja engañar; Se está creando una cultura escéptica en torno a la idea, si es que se puede creer en algo.
Únase al European Business Briefing
Los nuevos suscriptores de este trimestre participan en un sorteo para ganar un Rolex Submariner. Únase a más de 40.000 fundadores, inversores y ejecutivos que leen EBM todos los días.
Suscribir
Cuando la vacilación se convierte en confusión, se convierte en ambigüedad.
Tendemos a enmarcar la crisis de la información moderna como una batalla entre lo “real” y lo “falso”. Pero ese marco pasa por alto la cuestión más profunda. Ambigüedad.
Cuando el contenido parece auténtico pero no se puede verificar, la gente duda. Cuando circulan múltiples versiones de una historia con igual credibilidad visual, la confianza se erosiona. Con el tiempo, esto crea un entorno en el que los malos actores ni siquiera necesitan persuadir, sólo confundir.
Esta ambigüedad puede convertirse en un terreno fértil para narrativas manipuladas, suplantaciones y afirmaciones engañosas que pueden dañar incluso la identidad de marca más sólida.
La necesidad crítica de una verificación instantánea
Las imágenes, el vídeo y el audio generados por IA pueden ahora ser lo suficientemente buenos como para pasar un escrutinio casual pero, lo que es más importante, son baratos, rápidos y infinitamente remezclables. Esto reduce la barrera para los atacantes sofisticados y los oportunistas cotidianos que buscan atención, clics o ganancias.
Esta información errónea puede afectar casi todos los aspectos de una empresa. Desde consumidores que deciden si una promoción es legítima hasta inversores que evalúan anuncios para determinar si son reales. En este entorno, pedir a la gente que sea más escéptica no es una solución. El escepticismo sin verificación simplemente conduce a la desconexión. En cambio, las personas deben tener pruebas verificadas instantáneamente del creador de un contenido, si ha sido alterado y de dónde proviene.
Aquí es donde el concepto emergente de confianza en el contenido se vuelve esencial. En lugar de intentar identificar lo que es falso después del hecho, la autenticidad debe ser visible en el punto de consumo.
A diferencia de la verificación basada en plataforma, estas credenciales deben adjuntarse al propio archivo. Ya sea que se vuelva a publicar, se haga una captura de pantalla o se comparta en plataformas fuera del control del editor original, el contenido debe estar firmado y verificado criptográficamente, proporcionando transparencia y procedencia a prueba de manipulaciones.
La confianza es parte del ADN, no un complemento
Durante décadas, Internet se ha basado en mecanismos de confianza invisibles, como certificados, cifrado y verificación de identidad, que protegen silenciosamente a los usuarios sin exigirles que comprendan la tecnología subyacente. El contenido digital merece el mismo tratamiento.
Verificar retrospectivamente si una publicación en las redes sociales es real una vez que Internet ha debatido su legitimidad no es una forma viable de avanzar para las empresas. En cambio, las garantías criptográficas deben integrarse directamente en el contenido, permitiendo a los usuarios cotidianos distinguir entre fuentes verificadas y afirmaciones no verificadas sin convertirse en un debate.
La protección y verificación criptográficas también deben aplicarse a los sistemas de inteligencia artificial de una empresa. Todos los días, los agentes de IA se integran en funciones operativas. Es importante garantizar la confianza de los consumidores en el contenido digital. Pero también lo es mantener la confianza internamente. Una IA deshonesta tiene el potencial de alterar todos los aspectos de los procesos internos, socavando no sólo la confianza de los consumidores si se manejan mal los datos, sino también la confianza de los inversores. A medida que la IA adquiere un papel cada vez mayor como fuerza laboral digital, cada acción debe ser claramente atribuible y controlada. Esto exige una cadena de custodia verificable para que los modelos garanticen que no han sido manipulados, que se ejecutan en entornos confiables y que manejan datos confidenciales de forma segura.
Rompiendo el ciclo, desde la reconstrucción hasta la confianza del primer día
En muchos sentidos, Internet se ha convertido en su peor enemigo. Se ha vuelto demasiado complejo para proyectar confianza de una manera definible. En una época en la que la IA se utiliza en casi todos los aspectos de la vida moderna, la confianza debe convertirse en la piedra angular del contenido valioso.
A medida que los deepfakes se vuelven más frecuentes, las empresas han entrado en un círculo vicioso en el que tienen que reconstruir continuamente la confianza. Para superar esto, las organizaciones deben establecer confianza de forma proactiva desde el primer día, garantizando que su propio contenido sea verificado cuando lo vean los usuarios finales.
La realidad es que los marcos criptográficos que protegen los datos confidenciales, la identidad digital y los sitios web deben aplicarse al contenido cotidiano. Sólo entonces los consumidores podrán sentirse seguros de un negocio.