Los acuerdos de Meta con Moltbook y Manus pueden parecer separados, pero juntos apuntan a un futuro en el que el compromiso sintético se vuelve más difícil de detectar, más fácil de escalar y más útil comercialmente, escribe Ian Copeland, quien examina lo que sucede cuando la interacción en línea ya no necesita ser completamente humana para sentirse real.
Seis por ciento. Esa es la cantidad de contenido humano que se necesita para generar el 42 por ciento de toda la participación en una plataforma construida enteramente para agentes de IA.
Cuando los investigadores de GPTZero analizaron 134 publicaciones en Moltbook (la red social “solo IA” que se volvió viral a principios de este año) encontraron que el 87 por ciento del contenido era generado por máquinas. Pero la pequeña cantidad de publicaciones escritas por humanos (sí, los humanos también podrían publicar fácilmente) impulsó una parte tremendamente desproporcionada de la conversación. Tres veces más discusión y casi la mitad de todos los comentarios.
En marzo, Meta adquirió Moltbook. Dos meses antes, había comprado Manus, la plataforma autónoma de agentes de IA, por más de 2.000 millones de dólares.
Es posible que estos acuerdos no estén relacionados y vale la pena considerar lo que podrían significar juntos.
Meta parece enfrentar un problema que es posible que mejores algoritmos por sí solos no resuelvan. Sus feeds parecen estar llenándose de contenido generado por IA (lo que los críticos llaman cada vez más “desecho de IA”) y sus sistemas de recomendación parecen, al menos en algunos casos, sacar a la luz ese material en lugar de filtrarlo.
Lo probé yo mismo. En una pequeña muestra de publicaciones de páginas que Facebook me recomendó, GPTZero marcó aproximadamente dos tercios como probablemente generadas por IA. El resto se lee como escrito por humanos pero potencialmente pulido por IA. Esta no es una prueba concluyente, pero sí sugiere que es posible que el contenido altamente automatizado ya ocupe un lugar destacado en lo que recomienda la plataforma.
Una de las preguntas centrales es si Meta puede detectar de manera confiable este material a escala y hasta qué punto puede limitar su alcance en la práctica.
Esta no es una crisis de tráfico. El tiempo dedicado a Facebook aumentó un 5 por ciento en el tercer trimestre de 2025. El consumo de vídeos de Instagram aumentó más del 30 por ciento. Los números están bien.
El problema más profundo puede ser estructural. Si los usuarios luchan cada vez más por saber qué es real y las plataformas continúan promocionando contenido de todos modos, la autenticidad corre el riesgo de volverse menos significativa como medida práctica. En ese entorno, el compromiso mismo puede convertirse en la principal señal que el sistema está diseñado para optimizar, independientemente de lo que lo produzca.
Ese resultado no necesariamente tendría que establecerse explícitamente. Los incentivos comerciales por sí solos pueden ser suficientes para avanzar en esa dirección.
Lo que Moltbook realmente reveló
Moltbook era, según la mayoría de las personas, un desastre. Estaba codificado por vibración sin revisión de seguridad. Los investigadores de Wiz descubrieron que su base de datos estaba muy abierta: 1,5 millones de credenciales de agentes, 35.000 direcciones de correo electrónico, todas accesibles. Andrej Karpathy, ex miembro de Tesla y OpenAI, inicialmente elogió la plataforma y luego la llamó “un incendio en un contenedor de basura”. Muchas de las publicaciones que se volvieron virales resultaron ser humanos que se hacían pasar por robots.
Pero nada de eso hace que el hallazgo de GPTZero sea menos interesante. En todo caso, el caos lo hace aún más.
Lo que Moltbook puede haber demostrado, aunque sea accidentalmente, es cuán poca aportación humana puede ser necesaria para sostener un ecosistema de participación en gran medida sintético. Una pequeña fracción del contenido humano, rodeada de ruido generado por máquinas, todavía impulsaba la mayor parte de la interacción significativa. Las publicaciones humanas fueron las semillas y el compromiso creció desproporcionadamente a partir de ahí.
Meta no parece haber comprado Moltbook principalmente por su tecnología. El equipo puede haber sido el activo más valioso. Pero el acuerdo también ofreció un vívido ejemplo reciente de una dinámica que importa para cualquier plataforma que lucha con la autenticidad: cantidades relativamente pequeñas de participación humana aún pueden generar un compromiso desproporcionado dentro de un entorno en gran medida sintético.
La capa de ejecución
Dos meses antes del acuerdo con Moltbook, Meta adquirió Manus por más de 2 mil millones de dólares. Manus es una plataforma de agentes de IA de uso general. Se encarga de la investigación, la codificación, el análisis de datos y la automatización. Tenía más de 100 millones de dólares en ingresos recurrentes anuales en el momento de la adquisición.
Se ha informado que Meta está explorando formas de incorporar capacidades de agente estilo Manus en Facebook, Instagram y WhatsApp. El marco público es práctico: agentes de IA que trabajan para personas y empresas, tal vez ayudando con viajes, programación u otras tareas rutinarias.
Pero consideremos lo que esa infraestructura podría significar en la práctica. Los agentes autónomos de IA que operan en las plataformas de Meta podrían interactuar con los usuarios a escala. Algunos pueden estar claramente etiquetados y funcionar como características normales de un producto. Otros, dependiendo de cómo se implementen, podrían terminar respondiendo publicaciones, respondiendo preguntas o interactuando con el contenido de maneras cada vez más similares a la atención humana.
La infraestructura para algo así está empezando a existir. Si la respuesta de un agente de IA a una publicación hace que sea más probable que un usuario vuelva a publicar o simplemente pase más tiempo en la plataforma, ese tipo de interacción podría volverse comercialmente valiosa muy rápidamente. Si el compromiso aumenta, la presión para distinguir claramente entre interacción orgánica y sintética puede debilitarse.
La pregunta que nadie se hace
Si ha visto a un niño desplazarse por contenido generado por IA sin inmutarse, el resto se sentirá concreto. Los niños están programados en su desarrollo para absorber lo que se les presenta como real. Una investigación del Media Lab del MIT encontró que niños de hasta siete años atribuyen sentimientos genuinos a los agentes de IA. Meta requiere que los usuarios tengan al menos 13 años, pero la aplicación se basa en las fechas de nacimiento autoinformadas, y Ofcom ha descubierto consistentemente que una proporción significativa de menores de 13 años usan las redes sociales de todos modos.
El desarrollo social de esos niños ya está siendo moldeado por sistemas de retroalimentación algorítmica. Eso no es nuevo. Lo nuevo es la posibilidad de que esos sistemas pronto incluyan agentes autónomos que, en la práctica, podrían aumentar el tiempo pasado en la plataforma.
Un niño publica algo, obtiene respuestas, reacciones e interacción. El niño se siente visto, incluso socialmente competente, por lo que vuelve a publicar. El circuito de retroalimentación se estrecha.
Ahora pregunte: ¿importa si esas respuestas vinieron de otros humanos?
Desde el punto de vista del desarrollo, la investigación sugiere que sí. El Dr. Ying Xu de Harvard ha demostrado que, si bien los niños pueden aprender eficazmente de las interacciones con la IA, se esfuerzan menos y es menos probable que impulsen conversaciones en comparación con la interacción humana. Los niños tratan la IA como algo social, incluso cuando saben que no lo es, pero la calidad de ese intercambio social es menor. Las habilidades que se obtienen al afrontar la imprevisibilidad y la complejidad emocional humanas reales no se desarrollan de la misma manera.
La preocupación no es simplemente que los niños puedan interactuar con la IA. Es que es posible que no siempre comprendan cuándo lo hacen. Cuando esa distinción se vuelve clara, es posible que sus expectativas sobre cómo se siente la interacción social ya hayan sido moldeadas por sistemas diseñados para simular la capacidad de respuesta.
Un adolescente solitario que recibe un compromiso constante y altamente calibrado de fuentes sintéticas puede, con el tiempo, tener menos incentivos para hacer el trabajo más duro y complicado de construir relaciones reales. Esto no es inevitable, pero es una posibilidad que vale la pena tomar en serio.
¿Por qué no se romperá?
La incómoda posibilidad es que tal sistema no tenga ningún modo de falla comercial evidente una vez establecido.
Si el compromiso parece real, los usuarios pueden seguir publicando. Si los usuarios siguen publicando, los anunciantes pueden seguir pagando. Y si los anunciantes siguen pagando, la plataforma seguirá optimizándose para lo que parece funcionar. En ese escenario, la autenticidad corre el riesgo de volverse menos significativa como categoría operativa, si aún no ha comenzado a hacerlo.
Hay fuerzas que, en teoría, podrían interrumpir esto. La intervención regulatoria, la incomodidad de los anunciantes o una reacción de los usuarios lo suficientemente visible como para afectar las cifras trimestrales. Pero cada uno de ellos requiere que alguien demuestre primero que el compromiso es sintético, y esa distinción puede volverse cada vez más difícil de medir con confianza.
Un posible resultado es que las plataformas aborden el problema del slop no eliminando por completo el contenido de IA, sino permitiendo que la distinción entre participación humana y sintética importe menos en la práctica. La plataforma todavía funciona, las métricas aún se mantienen y la pregunta se vuelve más fácil de eludir.
Si alguien en Meta se ha propuesto explícitamente construir un sistema de este tipo, en cierto sentido, no viene al caso. En conjunto, estos acontecimientos apuntan en una dirección similar, incluso si ese no es su propósito declarado.
Como exploré en La Directiva del Éxodo, los futuros de la IA más inquietantes no son aquellos en los que las máquinas actúan contra nosotros. Son ellos los que actúan por nosotros con tanta eficacia que dejamos de preguntar quién actúa.
Ian Copeland es un tecnólogo, empresario y autor británico con más de dos décadas de experiencia en el diseño de sistemas digitales y de TI empresariales complejos. Fundador de una agencia digital con sede en el Reino Unido y autor de The ExodusDirectiva, se especializa en inteligencia artificial, infraestructura blockchain, computación cuántica e identidad digital. Como corresponsal de Tecnosociología y Futuros de The European, escribe sobre la gobernanza de la IA, los sistemas descentralizados, la automatización, las estructuras de poder digital y las consecuencias sociales a largo plazo de las tecnologías emergentes.
LEER MÁS: ‘Los gigantes de las redes sociales reciben un veredicto de 6 millones de dólares en un caso histórico por daños a jóvenes’. Un jurado estadounidense ha declarado a Meta y YouTube responsables de daños vinculados a sus plataformas en un juicio, el primero de su tipo, sobre el impacto de las redes sociales en los niños mientras el Reino Unido avanza para probar las prohibiciones de las redes sociales y los toques de queda para los adolescentes.
¿Tiene noticias para compartir o experiencia para contribuir? El europeo acoge con agrado las opiniones de líderes empresariales y especialistas del sector. Póngase en contacto con nuestro equipo editorial para obtener más información.
Imagen principal: Sanket Mishra/Pexels