A partir de 2017, el algoritmo de clasificación de Facebook trató un emoji de reacción como cinco veces más valioso que un Me gusta. No la cara de enojo específicamente. Todos. Amor, jaja, guau, tristeza y enojo cada uno contaba por cinco, mientras que el viejo pulgar hacia arriba contaba por uno. Este es el detalle que quedó aplanado en casi todos los lugares a lo largo de la historia, y vale la pena conservarlo.
Los informes provienen de una única fuente: el relato del Washington Post de octubre de 2021, de Jeremy Merrill y Will Oremus, de los documentos internos que la ex empleada Frances Haugen proporcionó al Congreso y a la Comisión de Bolsa y Valores. Puede leer el artículo completo distribuido en el Seattle Times. Es un informe cuidadoso extraído de memorandos de la empresa, pero es la lectura de un conjunto de documentos por parte de un medio. Este es un estudio de la vida interna de una empresa, no un consenso establecido sobre cómo se comporta la plataforma.
La lógica detrás de los cinco era mundana. En 2017, Facebook observó una disminución en la cantidad de personas que publicaban y hablaban entre sí, y el emoji de reacción le dio nuevas señales con las que trabajar. Como razonó la compañía en los documentos, reaccionar con un emoji suponía un paso más allá de un solo toque, por lo que se leyó como una señal más fuerte de que había llegado una publicación. Más esfuerzo adentro, más peso afuera. La intención era bastante razonable. Lo que seleccionó fue el problema.
El daño fue posterior a la ponderación.
Aquí la historia se divide en dos afirmaciones que a menudo se unen, y la diferencia es importante.
El primer reclamo es la ponderación en sí: las reacciones se cuentan cinco veces por Me gusta. Esta es una elección de diseño, realizada en 2017, aplicada a los cinco emoji. La segunda afirmación es la que descubrieron más tarde los propios científicos de datos de Facebook. Para 2019, según el Post, los investigadores de la compañía habían llegado a la conclusión de que las publicaciones que generaban una gran cantidad de reacciones de enojo tenían una probabilidad desproporcionada de contener información errónea, toxicidad y noticias de baja calidad. Un estudio interno de noviembre, informado por NBC News, encontró que las reacciones de enojo, jaja y sorpresa aparecían con más frecuencia en contenido cívico y de salud engañoso y de baja calidad que en otro material. El rostro enojado no tenía más peso que el amor o la tristeza. El problema fue que el contenido lleno de enojo resultó ser peor contenido y el algoritmo amplificaba todo lo que generaba reacciones.
De modo que el mecanismo era más tosco que el deliberado cultivo de indignación. Un entorno contundente impulsó todas las reacciones fuertes y se topó directamente con el hecho de que las publicaciones más confiables para generar reacciones fuertes eran a menudo aquellas diseñadas para provocar. Un miembro del personal lo había advertido tan temprano. Como señaló Nieman Lab en su resumen de los documentos, un empleado preguntó directamente si ponderar las reacciones cinco veces más fuertes que los Me gusta inclinaría el feed hacia contenido controvertido en lugar de contenido agradable. Otro reconoció que la preocupación era posible. La advertencia permaneció en el expediente durante tres años antes de que se cambiara significativamente la ponderación.
Por qué la corrección es más interesante que el mito
La versión comprimida de esta historia, la que dice que Facebook provocó la ira específicamente porque la ira mantiene a la gente desplazándose, es emocionalmente satisfactoria y un poco incorrecta. El escritor de tecnología Mike Masnick argumentó en Techdirt que la cobertura enterró el hecho de que las cinco reacciones comenzaron iguales, y que el encuadre convirtió en una máquina deliberada de indignación lo que los documentos describen como un error más crudo.
Tiene un punto que vale la pena aprovechar, aunque eso no exonera el resultado. La distinción es entre malicia y cierto tipo de descuido institucional. Nadie en los documentos parece haberse sentado a generar ira. En cambio, lo que sucedió es que una empresa optimizó para un proxy, el compromiso se midió a través de las reacciones y el proxy favoreció silenciosamente el contenido que menos valía la pena favorecer. Se trata de un fracaso más común que la manipulación deliberada, y contra el cual es más difícil legislar, porque todos los involucrados pueden decir honestamente que sólo estaban tratando de medir el interés.
El patrón debajo del patrón.
Aquí es donde el caso Facebook deja de ser sobre Facebook. Cualquier sistema que mida una cosa para recompensarla eventualmente recompensará cualquier juego que mida. La observación de Charles Goodhart, que más tarde se agudizó hasta llegar a la conclusión de que una medida que se convierte en un objetivo deja de ser una buena medida, se hizo sobre la política monetaria en 1975. Sigue reapareciendo allí donde las instituciones intentan funcionar con un solo número.
Lo que agregó el emoji de reacción fue velocidad y alcance. Una redacción que persigue clics se distorsiona lentamente, a causa de reuniones editoriales y titulares reelaborados. Un algoritmo de clasificación aplica la misma distorsión a miles de millones de feeds en una tarde, de manera invisible, sin que nadie en el circuito decida si esta publicación divisiva en particular sobre el aborto o las armas debería llegar a una audiencia más amplia hoy. El Post informó que la reacción de enojo se inclinó fuertemente hacia temas divisivos, y un medio, Fox News, provocó casi el doble de reacciones de enojo que cualquier otra página. Ningún editor eligió eso. La ponderación lo eligió.
La parte incómoda es que la impresión emocional que los emoji debían capturar era real. La gente realmente reaccionó con más fuerza a esas publicaciones. La señal era bastante real. Lo que se había desmoronado era el vínculo entre la fuerza del sentimiento y el valor del contenido, y el sistema no tenía forma de distinguir entre una publicación que conmovía a alguien y una publicación que lo inflamaba.
Lo que el expediente resuelve y lo que no
Facebook recuperó la ponderación por etapas. Redujo las reacciones a cuatro veces un Me gusta en 2018, creó un mecanismo para degradar el contenido que genera reacciones de enojo desproporcionadas en 2019, redujo todas las reacciones a una vez y media un Me gusta en 2020 y, finalmente, estableció la reacción de enojo a cero. Un portavoz de la empresa le dijo al Post que continuaba trabajando para comprender y reducir el contenido que producía experiencias negativas, incluidas publicaciones con una proporción desproporcionada de reacciones de enojo.
Lo que los documentos muestran es una secuencia específica de elecciones internas en una empresa durante aproximadamente tres años, caracterizada por un periódico que lee un caché filtrado. Lo que no muestran, y no pueden, es el contrafactual. No sabemos qué parte de la indignación que se produjo en la vida pública durante esos años fue provocada por un peso de alto rango y cuánto ya estaba allí, esperando algún amplificador. La posición honesta es que la ponderación empeoró una mala tendencia, a escala, y que las personas que la construyeron fueron advertidas y fueron lentas.
Lo que hay que vigilar no es si una sola reacción se pone a cero. Se trata de si el hábito subyacente cambia: gestionar enormes sistemas sociales basándose en un proxy para llamar la atención y luego descubrir, tres años más tarde, qué estaba realmente seleccionando el proxy.
Producido con asistencia de IA. Revisado por el equipo editorial de ScienceBlog.com antes de su publicación. Vea nuestra política editorial y nuestra página.