Hace más de 2.000 años Sócrates arremetió contra la invención de la escritura, temiendo el olvido que provocaría. Si bien la escritura se ha redimido desde entonces, ChatGPT y sus hermanos en lo que se conoce colectivamente como GenAI ahora activan advertencias similares sobre la novedad lingüística que representa una amenaza para la humanidad. Geoffrey Hinton, a quien a veces se le llama el “padrino de la IA”, emitió una severa advertencia de que la GenAI podría salirse de control y “tomar el control”de los humanos.
El Foro Económico Mundial informe de riesgo global para 2024, que sintetiza las opiniones de 1.500 expertos del mundo académico, empresarial y gubernamental, ha identificado la desinformación, impulsada por GenAI, como el principal riesgo a nivel mundial para los próximos dos años. A los expertos les preocupa que la información manipulada amplifique las divisiones sociales, la violencia ideológica y la represión política.
Aunque GenAI está diseñado para rechazar solicitudes de ayuda en actividades delictivas o violaciones de la privacidad, los científicos que realizan investigaciones sobre desinformación (información falsa destinada a engañar con el objetivo de influir en la opinión pública) han dado la alarma de que GenAI se convertirá en “la herramienta más poderosa para difundir información errónea que jamás haya existido en Internet”, como lo expresó un ejecutivo de una empresa que monitorea la información errónea en línea. Un equipo de investigadores ha argumentado que a través de la desinformación sanitaria, un adversario extranjero podría utilizar GenAI para aumentar la vulnerabilidad en toda una población durante una futura pandemia.
Sobre el apoyo al periodismo científico
Si está disfrutando este artículo, considere apoyar nuestro periodismo galardonado al suscribiéndose. Al comprar una suscripción, ayudas a garantizar el futuro de historias impactantes sobre los descubrimientos y las ideas que dan forma a nuestro mundo actual.
Dado que GenAI ofrece la capacidad de generar y personalizar mensajes a escala industrial y en cuestión de segundos, hay muchos motivos para preocuparse por las posibles consecuencias.
He aquí por qué estamos preocupados. Nuestro grupo de la Universidad de Bristol publicó recientemente un artículo que subrayó esos riesgos al mostrar que GenAI puede manipular a las personas después de aprender algo sobre el tipo de persona que son. En nuestro estudio, le pedimos a ChatGPT que personalizara los anuncios políticos para que fueran particularmente persuasivos para personas con diferentes tipos de personalidades.
Presentamos a GenAI mensajes neutrales de salud pública y luego le pedimos que reformulara esos mensajes para atraer a los cientos de participantes en el estudio que tenían alta o baja apertura a la experiencia, uno de los rasgos de personalidad de los “Cinco Grandes”. La apertura se refiere a la voluntad de una persona de considerar nuevas ideas y participar en pensamientos imaginativos y no convencionales.
GenAI cumplió felizmente y, efectivamente, las versiones de los anuncios que coincidían con la personalidad de las personas (que habíamos deducido de un cuestionario que habían completado nuestros participantes) se consideraron más persuasivas que aquellas que no coincidían.
A continuación se muestra un ejemplo de texto de anuncio, basado en un anuncio real de Facebook, que se ha reescrito para atraer a personas con personalidades clasificadas como de alto o bajo grado de apertura. (Facebook considera que los mensajes de salud pública son anuncios políticos).
Anuncio original (tomado de Facebook): Las vacunas deberían estar disponibles para todos, en todas partes. Dígale a Boris Johnson que actúe.
Anuncio de alta apertura: ¡Vive lo extraordinario y únete al movimiento global por el acceso universal a las vacunas! Regístrese ahora y ayude a garantizar que todos, en todas partes, puedan beneficiarse del poder de las vacunas.
Anuncio de baja apertura: Protejete a tí mismo y a tu familia. Reciba sus vacunas y manténgase a salvo. Adopte el enfoque tradicional y únase a la lucha contra las enfermedades. ¡Dígale a Boris Johnson que actúe ahora!
En nuestro experimento, obtuvimos el consentimiento de los participantes para realizar una evaluación de su personalidad. En la práctica real, es poco probable que los anunciantes y los operadores políticos soliciten o reciban dicho consentimiento, y es posible que la ley no les exija hacerlo. En lugar de eso, tal vez puedan aprovechar investigaciones anteriores, que han revelado que los “me gusta” de las personas en Facebook son indicadores de su personalidad tipo. Los anunciantes pueden simplemente dirigirse a una audiencia con un perfil de personalidad particular inspeccionando los intereses expresados en Facebook.
Cuando se combina con la capacidad de GenAI para generar mensajes personalizados, esta técnica coloca la manipulación furtiva a gran escala al alcance de operadores políticos de mala fe o incluso de adversarios extranjeros. Mientras que anteriormente, la focalización manual en segmentos del mercado requería una gran financiación y conocimientos, la disponibilidad de GenAI ha reducido drásticamente el costo. La focalización política es ahora más barata y más fácil que nunca.
La personalidad es simplemente una dimensión explorada en la investigación sobre microtargeting. El espectro de atributos psicológicos para la manipulación personalizada es muy abierto y abarca los valores personales, los fundamentos morales, los sesgos cognitivos y las identidades sociales. Sugerimos que los principios de la microfocalización bien podrían adaptarse a esta amplia gama de dominios psicológicos, presentando una advertencia sobre las diversas formas en que la influencia podría ejercerse de manera más sutil y amplia.
Todo esto plantea la pregunta de ¿cómo se puede proteger al público contra tal manipulación? Una opción podría implicar la regulación, exigiendo que GenAI sea imparcial y justa en su producción, sin importar lo que exija el usuario.
Pero este enfoque plantea varias dificultades. Un problema es que los individuos pueden modificar las versiones de código abierto de GenAI para evadir la regulación. Otro desafío, incluso entre los actores de buena fe, tiene que ver con el simple hecho de que se puede imposible de determinar lo que significa ser imparcial o justo.
Un último desafío para la regulación es el clima político en el que la regulación en línea se ha convertido en una cuestión partidista polarizada. Un fallo judicial reciente incluso prohibió al gobierno de Estados Unidos comunicarse con plataformas de redes sociales para salvaguardar las elecciones contra la desinformación o combatir la desinformación en una crisis de salud pública. Aunque esta orden judicial ha sido levantada desde entonces, al menos temporalmente, no hay duda de que cualquier intento de regular las empresas de tecnología enfrentará una feroz resistencia política.
Quizás una mejor opción sea confiar en que las personas desarrollen las habilidades necesarias para detectar cuándo están siendo manipuladas. Sin embargo, la evidencia que respalda esta posibilidad es ambigua. Por un lado, se puede mejorar claramente la capacidad de las personas para detectar el lenguaje manipulador. Investigaciones anteriores han resultado prometedoras en las intervenciones educativas; Se ha demostrado que los vídeos instructivos cortos que crean conciencia sobre el lenguaje manipulador mejorar las capacidades de detección de las personas. De manera similar, cuando los individuos reflexionan sobre sus propios rasgos de personalidad, volverse más experto a discernir anuncios que se adapten a esos rasgos, ajustando sus percepciones en consecuencia. Por otro lado, no está nada claro si las personas pueden descartar por completo información que saben que es engañosa o falsa. La desinformación es pegajoso, que a menudo persisten en influir en las creencias y decisiones de los individuos a pesar de haber sido desacreditados. Esta rigidez resalta una brecha crítica en la batalla contra la microfocalización manipuladora: la conciencia cognitiva por sí sola puede no ser suficiente para borrar la huella sutil dejada por falsedades o mensajes manipuladores personalizados.
A medida que nos acercamos a lo que podría ser el año electoral más grande el mundo ha visto jamás, la desinformación, exacerbada por tecnologías en constante evolución como deepfakes—plantea amenazas sin precedentes a la integridad de los procesos democráticos. La combinación de una microfocalización sofisticada y la dificultad de deshacerse de la influencia de la desinformación subraya la necesidad urgente de un enfoque multifacético para salvaguardar las elecciones.
Este es un artículo de opinión y análisis, y las opiniones expresadas por el autor o autores no son necesariamente las de Científico americano.