Finalmente está sucediendo. YouTube ha abierto el telón de una nueva y poderosa herramienta diseñada para ayudar a los creadores a luchar contra la creciente avalancha de deepfakes: videos en los que la IA imita tan bien la cara o la voz de alguien que resulta inquietante.
El último experimento de la plataforma, conocido como “sistema de detección de semejanza”, promete alertar a los creadores cuando su identidad se utiliza sin consentimiento en contenido generado por IA y brindarles una forma de actuar.
A primera vista, esto suena como una capa de superhéroe para identidades digitales.
Como informó The Daily Star, el sistema de YouTube escanea automáticamente las cargas y señala posibles coincidencias con la cara o voz conocida de un creador.
Los creadores que forman parte del Programa de socios pueden revisar los videos marcados en un nuevo panel de “Detección de contenido” y solicitar su eliminación si encuentran algo sospechoso.
Suena simple, ¿verdad? Pero el verdadero desafío es que la falsificación de la IA evoluciona más rápido que las reglas para detenerla.
Quiero decir, ¿quién no se ha topado con un vídeo de “Tom Cruise” en TikTok o YouTube que parecía demasiado real para ser real?
Resulta que no estabas imaginando cosas. Los creadores de deepfake han estado perfeccionando su oficio, lo que llevó a plataformas como The Verge a calificar este movimiento como un paso muy esperado.
Es una especie de juego digital del gato y el ratón, y ahora mismo los ratones tienen láseres.
El nuevo sistema de YouTube representa un inusual esfuerzo público por parte de un gigante tecnológico para brindar a los usuarios una oportunidad de luchar.
Por supuesto, no todos aplauden. A algunos creadores les preocupa que esto se convierta en otro dolor de cabeza de la “moderación automática”, donde las parodias o comentarios legítimos podrían quedar atrapados en la red.
Otros, como los expertos en políticas digitales citados en la cobertura de Reuters sobre la nueva propuesta de etiquetado de IA de la India, ven la medida de YouTube como parte de un cambio más amplio: los gobiernos y las plataformas se dan cuenta de que la transparencia de la IA ya no puede ser simplemente opcional.
La nueva norma de la India, por ejemplo, exige que todos los medios sintéticos estén claramente etiquetados como tales, un concepto que está ganando terreno a nivel mundial.
Aquí es donde se pone complicado. La tecnología de detección no es infalible. Como demostró un estudio reciente de ABC News, ni siquiera los humanos detectan los deepfakes casi un tercio de las veces. Y si nosotros (con nuestra intuición y escepticismo) estamos luchando, ¿qué dice eso de los algoritmos que intentan hacerlo a escala? Es un poco como intentar atrapar humo con una red.
Pero aquí está la parte optimista. Cada movimiento importante como este (desde el panel de detección de YouTube hasta las disposiciones de la Ley de Servicios Digitales de la UE sobre la transparencia de la IA) genera presión para una Internet más responsable.
He hablado con algunos creadores que ven esto como “ruedas de entrenamiento” para un nuevo tipo de alfabetización mediática.
Una vez que la gente comience a comprobar si un clip es real, tal vez todos dejemos de tomar el contenido viral al pie de la letra.
Aún así, no puedo quitarme la sensación de que estamos corriendo cuesta arriba. La tecnología que crea deepfakes no se está desacelerando; está corriendo.
La medida de YouTube es un comienzo sólido, una declaración de que “los vemos, imitadores de IA”.
Pero como bromeó un creador en un hilo de Discord que sigo: “Para cuando YouTube descubra a alguien que me engaña, habrá tres más haciendo entrevistas”.
Así que sí, tengo esperanzas, pero con cautela. La IA está reescribiendo las reglas de confianza en línea.
Es posible que la herramienta de YouTube no acabe con los deepfakes de la noche a la mañana, pero al menos alguien está poniendo el pie en el freno antes de que todo se caiga por un precipicio.