Algunos videos de Deepfake presentan un pulso convincente
Alamy Stock Photo
Los videos de Deepfake que cuentan con manipulaciones digitales de las expresiones y voces faciales de las personas también pueden representar latidos del corazón realistas, lo que los hace aún más difíciles de detectar.
“Ahora sabemos que solo porque una persona en un video tiene un pulso medible, no significa que podamos asumir que son reales”, dice Hany Farid en la Universidad de California, Berkeley, que no participó en la investigación.
Este desarrollo se produce como los defectos que han sido alterados o generados digitalmente por la inteligencia artificial. Enslar a celebridades y personas comunes iguales a convincentes pero falsas pornografía, estafas financieras y propaganda política. Anteriormente, los investigadores habían experimentado con detectar defensores profundos identificando cambios en el color de la piel relacionados con el flujo sanguíneo y la frecuencia cardíaca, pero esta investigación muestra que algunos videos de Deepfake aún pueden presentar un pulso pasable.
Peter Eisert En el Instituto Fraunhofer de Telecomunicaciones en Alemania y sus colegas desarrollaron un detector de Deepfake que podría analizar los pulsos de las personas en videos genuinos y profundos. También filmaron un nuevo conjunto de videos genuinos con una docena de expresiones faciales de las personas, al tiempo que grabaron las frecuencias cardíacas de los participantes para que pudieran verificar la precisión de su detector.
Luego, los investigadores insertaron caras alteradas digitalmente en sus videos genuinos, un movimiento que debería haber alertado a su detector Deepfake. En cambio, descubrieron que el detector percibía pulsos realistas tanto en las falsificaciones como en los videos originales.
“El hecho de que uno o unos pocos generadores de defake puedan reproducir esta señal fisiológica, no significa que todos los generadores de defake puedan”, dice Farid.
El equipo ya ha comenzado a experimentar con nuevas formas de detectar defensores profundos, como identificar patrones de flujo sanguíneo local en las caras de las personas. Pero tales métodos pueden tener una “vida útil limitada”, dice Siwei lyu de la universidad de Buffalo en Nueva York que no participó en el trabajo. Esto se debe a que las nuevas herramientas generativas de IA pueden imitar más convincentemente los latidos del corazón realista y otras señales fisiológicas, y puede ser difícil extraer una señal de frecuencia cardíaca de videos de baja calidad.
En cambio, las técnicas de detección más efectivas intentan identificar Diferencias más sutiles entre los videos genuinos y profundoscomo el brillo del píxel de la imagen, que no son “no intuitivos para los espectadores humanos”, dice Lyu.
Temas: