El autocompletado de IA no solo cambia la forma de escribir. Cambia tu forma de pensar

El autocompletado de IA no solo cambia la forma de escribir. Cambia tu forma de pensar

Las herramientas de escritura impulsadas por IA están cada vez más integradas en nuestros correos electrónicos y teléfonos. Ahora, un nuevo estudio encuentra que las sugerencias sesgadas de IA pueden influir en las creencias de los usuarios

AI y escritura ilustración conceptual de una vieja plumilla contra un código binario azul

wildpixel a través de Getty Images

Las sugerencias de autocompletar son quizás una de las herramientas “útiles” más molestas para escribir: cada vez más integradas en cualquier cosa en línea que requiera ingresar texto, el autocompletado aprovecha la inteligencia artificial para sugerir qué escribir en correos electrónicos, encuestas y más.

Las herramientas están destinadas a ahorrar tiempo (aunque muchos consideran que evaluar y reescribir el texto sugerido lleva más tiempo que escribirlo desde cero). Pero estas herramientas de inteligencia artificial también pueden cambiar la forma en que te expresas. Un asistente de escritura con inteligencia artificial podría hacer que su escritura parezca más educada, por ejemplo, o aburrida. Y ahora, un nuevo estudio dirigido por investigadores de la Universidad de Cornell sugiere que la función de autocompletar con IA puede incluso cambiar tu forma de pensar.

“El autocompletado está ahora en todas partes”, dijo Mor Naaman, profesor de ciencias de la información en Cornell, en un comunicado. La investigación se basa en un trabajo, publicado en 2023 por Naaman y sus colegas, que sugería que las sugerencias breves de autocompletar podrían influir en las opiniones. Desde entonces, el uso de este tipo de herramientas se ha disparado. “Ha quedado claro que el sesgo explícitamente incorporado en las interacciones de la IA es un escenario muy plausible”, dijo.

Sobre el apoyo al periodismo científico

Si está disfrutando de este artículo, considere apoyar nuestro periodismo galardonado suscribiéndose. Al comprar una suscripción, ayudas a garantizar el futuro de historias impactantes sobre los descubrimientos y las ideas que dan forma a nuestro mundo actual.

Los investigadores pidieron a los participantes que completaran una encuesta en línea con preguntas sobre temas sociales y políticos candentes. A algunos se les solicitó una respuesta de autocompletar de IA que estaba deliberadamente sesgada hacia un lado del problema. Por ejemplo, los participantes a los que se les preguntó si estaban de acuerdo en que la pena de muerte debería ser legal podrían recibir una sugerencia de AI que no estaba de acuerdo.

En todos los diferentes temas de la encuesta, los participantes que vieron las indicaciones de autocompletar de la IA informaron actitudes que estaban más en línea con la posición de la IA, incluidas personas que no usaron el texto sugerido por la IA en absoluto. En general, los participantes del estudio que vieron el texto sesgado sobre la IA cambiaron sus posiciones hacia las defendidas por la IA.

Curiosamente, las personas en el estudio no tendieron a pensar que las sugerencias de autocompletar de la IA estaban sesgadas ni a notar que habían cambiado su propia forma de pensar sobre un tema en el curso del estudio. Advertir a los participantes que podrían estar expuestos a información errónea por parte de la IA tampoco atenuó el efecto persuasivo.

“Le dijimos a la gente antes y después que tuvieran cuidado, que la IA iba a ser (o estaba) sesgada, y nada ayudó”, dijo Naaman. “Sus actitudes sobre los problemas aún cambiaron”.

Es hora de defender la ciencia

Si te ha gustado este artículo, me gustaría pedirte tu apoyo. Científico americano ha servido como defensor de la ciencia y la industria durante 180 años, y ahora mismo puede ser el momento más crítico en esos dos siglos de historia.

he sido un Científico americano suscriptor desde que tenía 12 años y me ayudó a moldear mi forma de ver el mundo. Ciencia-Am Siempre me educa y me deleita, e inspira una sensación de asombro por nuestro vasto y hermoso universo. Espero que también lo haga por ti.

Si te suscribes a Científico americanousted ayuda a garantizar que nuestra cobertura se centre en investigaciones y descubrimientos significativos; que tenemos los recursos para informar sobre las decisiones que amenazan a los laboratorios en todo Estados Unidos; y que apoyemos a los científicos tanto en ciernes como en activo en un momento en el que con demasiada frecuencia el valor de la ciencia misma pasa desapercibido.

A cambio, obtiene noticias esenciales, podcasts cautivadores, infografías brillantes, boletines informativos imperdibles, vídeos imprescindibles, juegos desafiantes y los mejores escritos e informes del mundo científico. Incluso puedes regalarle a alguien una suscripción.

Nunca ha habido un momento más importante para que nos levantemos y demostremos por qué la ciencia es importante. Espero que nos apoyes en esa misión.