Solía ser fácil saber cuándo se generaba una cara con inteligencia artificial (IA). Ya fuera un brillo extraño y distintivo, una piel increíblemente suave, ojos que no tenían mucho sentido o una tercera oreja llamativa, los facsímiles de rostros humanos de los modelos de IA más antiguos eran fáciles de detectar y descartar. Eso ya no es cierto.
Ahora, los generadores de imágenes de IA pueden producir retratos tan convincentes que incluso los observadores cuidadosos tienen dificultades para distinguir la realidad de la ficción. Es por eso que aplicaciones como Zoom y Tinder permiten a sus usuarios enviar identificación biométrica, como escaneos de retina, para ayudar a demostrar que existe una persona real detrás de una foto de perfil. Pero un nuevo estudio sugiere que puedes entrenar tu cerebro para detectar mejor las falsificaciones.
Los intentos anteriores de enseñar a las personas a detectar rostros de IA se han centrado en entrenar a los espectadores para que busquen fallos visuales o huellas dactilares estadísticas dejadas por un generador de imágenes en particular, como una oreja torcida o un ojo con dos pupilas. El problema es que esas pistas pueden desaparecer con una actualización de software o simplemente usando un mensaje diferente. “La IA se está volviendo demasiado buena”, dijo Amy Dawel, profesora asociada de la Universidad Nacional de Australia y autora principal del estudio, en un comunicado de prensa. “Y los estafadores pueden evitar el uso de imágenes con defectos obvios de todos modos”. El resultado es una interminable carrera armamentista tecnológica que la humanidad parece destinada a perder.
Sobre el apoyo al periodismo científico
Si está disfrutando de este artículo, considere apoyar nuestro periodismo galardonado suscribiéndose. Al comprar una suscripción, ayudas a garantizar el futuro de historias impactantes sobre los descubrimientos y las ideas que dan forma a nuestro mundo actual.
En cambio, los investigadores enseñaron a los participantes cómo reconocer patrones más amplios en cómo los sistemas de inteligencia artificial generan imágenes. “Nuestra formación dirige la atención de las personas hacia las cualidades globales que difieren entre la IA y los rostros humanos”, dijo Dawel.
Los generadores de imágenes de IA actuales están entrenados en conjuntos de datos compuestos por millones de imágenes. Cuando se les pide que generen una cara, no copian caras específicas, sino que componen una nueva cara que se basa en parte en los patrones matemáticos compartidos entre las caras en ese conjunto de datos; estos permiten a la IA construir un rostro humano “típico”.
El resultado es que los rostros generados por IA a menudo se acercan a promedios estadísticos. No son demasiado irreales, sino demasiado equilibrados, demasiado genéricos y demasiado convencionales. Individualmente, ninguno de estos rasgos es necesariamente sospechoso. Pero en conjunto, el todo es más insulso que la suma de sus partes, una banalidad sutil que los humanos a menudo pueden sentir implícitamente.
“Incluso las sesiones de entrenamiento relativamente cortas ayudaron a los participantes a mejorar su precisión”, dice Tanya George, estudiante de investigación de la Universidad Nacional de Australia que capacitó a los participantes del estudio. “Investigaciones como esta pueden ayudar a las personas a navegar en entornos en línea cada vez más complejos”.
En comparación con los rostros reales, los rostros generados por IA tienden a ser más simétricos, más proporcionales y más atractivos, al mismo tiempo que son menos expresivos, menos distintivos y significativamente menos memorables. Cuando los investigadores entrenaron a los participantes para buscar estos seis marcadores en lugar de artefactos fugaces como orejas deformes o joyas que no coincidían, su capacidad para detectar la cara de la IA casi se duplicó.
En otras palabras, la IA gravita hacia el centro. La gente real no lo hace. Nuestros rostros están moldeados por innumerables pequeñas desviaciones de la norma: nuestras sutiles asimetrías, rasgos distintivos y expresiones nos hacen memorables. Esas imperfecciones no son defectos. Son nuestra firma.
Es hora de defender la ciencia
Si te ha gustado este artículo, me gustaría pedirte tu apoyo. Científico americano ha servido como defensor de la ciencia y la industria durante 180 años, y ahora mismo puede ser el momento más crítico en esos dos siglos de historia.
he sido un Científico americano suscriptor desde que tenía 12 años y me ayudó a moldear mi forma de ver el mundo. Ciencia-Am Siempre me educa y me deleita, e inspira una sensación de asombro por nuestro vasto y hermoso universo. Espero que también lo haga por ti.
Si te suscribes a Científico americanousted ayuda a garantizar que nuestra cobertura se centre en investigaciones y descubrimientos significativos; que tenemos los recursos para informar sobre las decisiones que amenazan a los laboratorios en todo Estados Unidos; y que apoyemos a los científicos tanto en ciernes como en activo en un momento en el que con demasiada frecuencia el valor de la ciencia misma pasa desapercibido.
A cambio, obtiene noticias esenciales, podcasts cautivadores, infografías brillantes, boletines informativos imperdibles, vídeos imprescindibles, juegos desafiantes y los mejores escritos e informes del mundo científico. Incluso puedes regalarle a alguien una suscripción.
Nunca ha habido un momento más importante para que nos levantemos y demostremos por qué la ciencia es importante. Espero que nos apoyes en esa misión.