TikTok está revolucionando las cosas: la aplicación acaba de introducir una función que permite a los usuarios determinar cuánto contenido generado por IA reciben en su feed, y si eres como yo, que te despiertas desplazándote primero y te preguntas cuánto de lo que ves fue creado por un humano, esto podría ser una gran noticia.
La medida se reveló durante la cumbre europea de confianza y seguridad de TikTok en Dublín, y la compañía dijo que ya ha etiquetado más de 1.300 millones de vídeos como generados por su IA.
Pronto los usuarios verán una nueva opción en “Administrar temas” en las preferencias de contenido que les permitirá reducir (o aumentar) el contenido creado por IA que ven.
Aquí es donde se pone interesante (y un poco confuso): la medida refleja una mayor sensación de que la gente en realidad podría querer menos sobrecarga algorítmica, no más.
Hemos escrito tanto sobre cómo las plataformas de redes sociales nos empujan a interminables madrigueras de conejos que a veces veo a todas las personas en el mundo entero con dos teléfonos inteligentes pisándole los talones a “Alicia en el país de las maravillas” en busca del conejo blanco.
Ahora TikTok nos proporciona una pequeña escalera para subir. Se produce en medio de mayores preocupaciones sobre lo que sucede cuando los feeds están saturados de “IA-slop”: contenido generado rápidamente y de baja calidad.
TikTok también está tomando medidas hacia la transparencia de las etiquetas, agregando etiquetas muy necesarias que indican cuándo los videos generados por IA son artificiales (y no solo CGI o deepfakes) y ahora coloca marcas de agua en el trabajo generado con la ayuda de sus herramientas o etiquetado por el esfuerzo C2PA de toda la industria.
El objetivo: permitir que los espectadores vean lo que están viendo sin tener que buscar en metadatos.
Desde mi punto de vista, es una decisión inteligente, pero también una historia más amplia. Desdibujando las líneas A medida que el contenido generado por IA inunda nuestras redes sociales, cada vez está más cerca de pasar por humano.
Eso es importante no sólo para la autenticidad, sino también para la confianza, la salud mental y la sensación de agencia que tenemos en línea.
¿Los sistemas de recomendación siguen funcionando a nuestro favor o cada vez más en nuestra contra?
Los investigadores advierten que las burbujas de filtro y la personalización amplificarán lo conocido, no lo desconocido.
Lo que quiero saber a continuación: ¿qué tan efectivo resultará este control?
¿Reducir esas películas de IA hará alguna diferencia significativa en nuestras experiencias, o no es más que cosmético?
¿Y cómo se puede proteger a los pequeños creadores (personas, no máquinas) a medida que se recalibran el algoritmo y los modelos de monetización?
Si las plataformas entregan el poder a los espectadores, también tienen la obligación moral de proteger a los generadores de quienes emana el contenido que queda sumergido.
En otras palabras: el control deslizante que TikTok acaba de agregar es parte de un movimiento adicional para permitirle a usted, el usuario, y no simplemente un algoritmo, modificar su propia experiencia.
No resolverá todo (problemas de desplazamiento, trampas de interacción, el ciclo de dopamina) pero nos da un poco más de control sobre lo que vemos.
Y en una era en la que muchas cosas parecen automatizadas, eso no es nada.