Como mucha gente, he usado Twitter, o X, cada vez menos durante el último año. No hay una única razón para esto: el sistema simplemente se ha vuelto menos útil y divertido. Pero cuando recientemente se supo la terrible noticia sobre los ataques en Israel, recurrí a X en busca de información. En lugar de actualizaciones de los periodistas (que es lo que solía ver durante las noticias de última hora), me enfrenté a imágenes gráficas de los ataques que fueron brutales y aterradoras. No fui el único; Algunas de estas publicaciones tuvieron millones de visitas y fueron compartidos por miles de personas.
Este no fue un episodio feo de mala moderación de contenido. Fue el uso estratégico de las redes sociales para amplificar un ataque terrorista posible gracias al diseño de productos inseguros. Este mal uso de X podría ocurrir porque, durante el año pasado, Elon Musk desmanteló sistemáticamente muchos de los sistemas que mantenían seguros a los usuarios de Twitter y despidió a casi todos los empleados que trabajaban en la confianza y la seguridad en la plataforma. Los acontecimientos en Israel y Gaza han servido como recordatorio de que las redes sociales son, antes que nada, un producto de consumo. Y como cualquier otro producto de consumo masivo, su uso conlleva grandes riesgos.
Cuando te subes a un automóvil, esperas que los frenos funcionen. Cuando recoge medicamentos en la farmacia, espera que no estén contaminados. Pero no siempre fue así. La seguridad de los automóviles, los productos farmacéuticos y decenas de otros productos era terrible cuando llegaron al mercado por primera vez. Fue necesaria mucha investigación, muchas demandas y regulaciones para descubrir cómo obtener los beneficios de estos productos sin dañar a las personas.
Al igual que los automóviles y los medicamentos, las redes sociales necesitan estándares de seguridad de los productos para mantener seguros a los usuarios. Todavía no tenemos todas las respuestas sobre cómo construir esos estándares, razón por la cual las empresas de redes sociales deben compartir más información sobre sus algoritmos y plataformas con el público. El bipartidismo Ley de Transparencia y Responsabilidad de Plataformas daría a los usuarios la información que necesitan ahora para tomar las decisiones más informadas sobre qué productos de redes sociales utilizan y también permitiría a los investigadores comenzar a descubrir cuáles podrían ser esos estándares de seguridad de los productos.
Los riesgos de las redes sociales van más allá del terrorismo amplificado. Los peligros que los algoritmos diseñados para maximizar la atención representan para los adolescentes, y particularmente para las niñas, con cerebros aún en desarrollo, se han vuelto cada vez más peligrosos. imposible de ignorar. Otros elementos de diseño de productos, a menudo llamados “patrones oscuros”, diseñados para que las personas sigan usándolos durante más tiempo, también parecen incitar a los usuarios jóvenes a hacer un uso excesivo de las redes sociales. que ha sido asociado con trastornos alimentarios e ideación suicida. Por eso 41 estados y el Distrito de Columbia están demandando a Meta, la empresa detrás de Facebook e Instagram. La denuncia contra la empresa la acusa de participar en un “plan para explotar a los usuarios jóvenes con fines de lucro” y de crear funciones de productos para mantener a los niños conectados a sus plataformas por más tiempo, sabiendo que eso era perjudicial para su salud mental.
Siempre que se las critica, las plataformas de Internet han desvió la culpa hacia sus usuarios. Dicen que, en primer lugar, es culpa de sus usuarios por interactuar con contenido dañino, incluso si esos usuarios son niños o el contenido es un fraude financiero. También afirman estar defendiendo la libertad de expresión. Es cierto, gobiernos de todo el mundo ordenar plataformas para eliminar contenidoy algunos regímenes represivos abusan de este proceso. Pero los problemas actuales que enfrentamos no tienen que ver realmente con la moderación de contenido. Las políticas de X ya prohíben las imágenes terroristas violentas. De todos modos, el contenido fue ampliamente visto sólo porque Musk eliminó las personas y los sistemas que impiden que los terroristas aprovechen la plataforma. Meta no está siendo demandada por el contenido que publican sus usuarios, sino por las decisiones de diseño de productos que tomó sabiendo supuestamente que eran peligrosas para sus usuarios. Las plataformas ya cuentan con sistemas para eliminar contenido violento o dañino. Pero si sus algoritmos de alimentación recomiendan contenido más rápido de lo que sus sistemas de seguridad pueden eliminarlo, eso es simplemente un diseño inseguro.
Se necesita desesperadamente más investigación, pero algunas cosas están quedando claras. Los patrones oscuros, como los vídeos que se reproducen automáticamente y las transmisiones interminables, son particularmente peligrosos para los niños, cuyos cerebros aún no están desarrollados y que a menudo carecen de la madurez mental para dejar sus teléfonos. Los algoritmos de recomendación basados en la participación recomiendan de manera desproporcionada contenido extremo.
En otras partes del mundo, las autoridades ya están tomando medidas para responsabilizar a las plataformas de redes sociales por su contenido. En octubre, la Comisión Europea solicitó información a X sobre la difusión de contenido terrorista y violento, así como discursos de odio en la plataforma. Según la Ley de Servicios Digitales, que entró en vigor en Europa este año, las plataformas deben tomar medidas para detener la difusión de este contenido ilegal y pueden recibir una multa de hasta el 6 por ciento de sus ingresos globales si no lo hacen. Si se aplica esta ley, mantener la seguridad de sus algoritmos y redes será la decisión financieramente más sensata que puedan tomar las plataformas, ya que la ética por sí sola no parece haber generado mucha motivación.
En Estados Unidos, el panorama legal es más turbio. El caso contra Facebook e Instagram probablemente tardará años en resolverse en nuestros tribunales. Sin embargo, hay algo que el Congreso puede hacer ahora: aprobar la ley bipartidista. Ley de Transparencia y Responsabilidad de Plataformas. Este proyecto de ley finalmente requeriría que las plataformas revelen más sobre cómo funcionan sus productos para que los usuarios puedan tomar decisiones más informadas. Además, los investigadores podrían comenzar el trabajo necesario para hacer que las redes sociales sean más seguras para todos.
Dos cosas están claras: primero, los problemas de seguridad en línea están generando sufrimiento real fuera de línea. En segundo lugar, las empresas de redes sociales no pueden, o no quieren, resolver estos problemas de seguridad por sí solas. Y esos problemas no van a desaparecer. Como nos muestra X, incluso los problemas de seguridad como la amplificación del terror que creíamos resueltos pueden volver a surgir. A medida que nuestra sociedad se mueve cada vez más en línea, la idea de que cualquiera, incluso los adolescentes, puede simplemente “mantenerse alejado de las redes sociales” se vuelve cada vez menos realista. Es hora de que exijamos que las redes sociales se tomen en serio la seguridad, por el bien de todos.
Este es un artículo de opinión y análisis, y las opiniones expresadas por el autor o autores no son necesariamente las de Científico americano.