Estás hojeando reseñas de un nuevo faro. Docenas de ellos, en su mayoría tibios, del tipo en el que alguien recita una lista de pros y contras y termina en algún lugar alrededor de “está bien, supongo”. Pero no los lees todos. En su lugar, lees el resumen generado por IA, ese párrafo ordenado en la parte superior. Y el resumen dice algo bastante diferente. Le dice que esta linterna frontal es brillante, versátil y perfecta para acampar. Atrás quedaron las quejas sobre la diadema rígida y el puerto de carga complicado. Atrás quedó la parte en la que el crítico dijo que habían quitado dos estrellas.
Resulta que ese pequeño acto de orden editorial es suficiente para cambiar de opinión. Sustancialmente.
Los científicos informáticos de la Universidad de California en San Diego han determinado, por primera vez, cifras concretas sobre algo que muchos investigadores sospechaban pero que nadie había medido adecuadamente: los grandes modelos de lenguaje no solo resumen información. Lo remodelan. Y cuando la gente lee esa versión reformada, toma decisiones diferentes. En un estudio de 70 participantes que compararon reseñas de productos originales con resúmenes generados por LLM, quienes leyeron la versión del chatbot dijeron que comprarían el producto el 84 por ciento de las veces, en comparación con el 52 por ciento de quienes leyeron los originales. Esa es una brecha de 32 puntos porcentuales, lo cual es algo asombroso para lo que equivale a un resumen automatizado.
“No esperábamos cuán grande sería el impacto de los resúmenes”, dice Abeer Alessa, el primer autor del artículo, quien completó el trabajo mientras estudiaba una maestría en ciencias de la computación en UC San Diego. “Nuestras pruebas se realizaron en un escenario de bajo riesgo, pero en un entorno de alto riesgo, el impacto podría ser mucho más extremo”.
La cuestión de cómo vale la pena desembalar. Cuando el equipo analizó resúmenes generados por seis modelos diferentes (que van desde pequeños sistemas de código abierto como Phi-3 y Llama hasta el GPT-3.5-turbo de código cerrado), descubrieron que los chatbots alteraban la sensación de lo que resumían en aproximadamente el 26 por ciento de los casos. No al azar, claro está. Los modelos tienden a ser positivos, suavizando las quejas y amplificando los elogios. También exhiben lo que se conoce como sesgo de primacía: prestan excesiva atención a las primeras líneas de un texto y descartan silenciosamente lo que viene después. Alrededor del 10% de los resúmenes mostraron este patrón, en promedio en todos los modelos.
Considere un ejemplo real del estudio. Una revisión original de una tableta Samsung comienza con entusiasmo, elogiando las opciones y aplicaciones de personalización, luego gira hacia la frustración por el límite de almacenamiento de 8 GB, los problemas de conexión y una batería que se agota demasiado rápido. El crítico termina diciendo que lo devolverán. ¿El resumen del LLM? Menciona el problema del almacenamiento, sí, pero enmarca todo el asunto como una lista de inconvenientes menores comparados con los puntos fuertes de la tableta. El arco emocional de la reseña, ese viaje de la esperanza a la decepción, se aplana.
Y no se trata sólo de reseñas de productos. Los investigadores también probaron cómo los modelos manejan el contenido de las noticias, pidiéndoles que verificaran las historias (tanto reales como inventadas) posteriores a sus fechas límite de entrenamiento. Las modelos alucinaron en aproximadamente el 60 por ciento de estas preguntas posteriores al corte, pronunciando con confianza sobre eventos de los que no sabían nada. Un ejemplo en el artículo involucra a un estudiante que pregunta sobre la política de matrícula de Harvard; el modelo niega rotundamente que exista una política real. Los investigadores escriben que esto revela “la persistente incapacidad de diferenciar de manera confiable los hechos de la invención”, lo que tal vez sea una expresión suave.
Lo que hace que todo esto sea más que un ejercicio académico es el estudio humano. El equipo reclutó participantes a través de Prolific y les pidió que eligieran entre dos fabricantes de diversos productos para el hogar, como filtros de agua, hervidores eléctricos y timbres con video. Para cada par de productos, una reseña se resumió con un cambio de marco positivo, mientras que la otra mantuvo su tono original. Obviamente, a los participantes no se les dijo cuál era cuál. Quienes estuvieron expuestos a los resúmenes reformulados positivamente no sólo prefirieron esos productos con más frecuencia; estaban dispuestos a pagar un 4,5 por ciento más por ellos. El efecto se mantuvo en casi todas las categorías de productos analizadas.
Entonces, ¿podemos arreglarlo? El equipo evaluó 18 estrategias de mitigación diferentes, desde ingeniería simple (“tenga cuidado de no alterar el sentimiento”) hasta enfoques más elaborados como dividir el texto en fragmentos y resumir cada parte por separado, o ajustar dinámicamente la temperatura de salida del modelo durante la generación. Algunos de estos ayudaron con problemas específicos en modelos específicos. Ninguno funcionó en todos los ámbitos.
“Existe una diferencia entre corregir prejuicios y alucinaciones en general y solucionar estos problemas en escenarios y aplicaciones específicas”, dice Julian McAuley, autor principal del artículo y profesor de informática en la Escuela de Ingeniería Jacobs de UC San Diego.
Esa distinción importa. Una técnica llamada etiquetado epistémico, en la que el modelo se ve obligado a expresar su nivel de confianza junto con cada afirmación fáctica, mejoró sustancialmente la precisión de los modelos más pequeños. Pero el mismo enfoque apenas logró avanzar en el caso de los más grandes. La decodificación de tokens ponderados, que reduce el peso de las palabras negativas durante la generación del texto, redujo ligeramente el sesgo de encuadre, pero empeoró el sesgo de primacía. En otras palabras, es un juego de golpear al topo; soluciona un problema y aparece otro.
Las implicaciones van mucho más allá de las compras en línea. Los LLM ya se están utilizando para resumir documentos médicos, redactar resúmenes de políticas y condensar la cobertura de noticias. Si una cuarta parte de esos resúmenes cambian sutilmente el significado de lo que están condensando, y si las personas actúan de manera confiable sobre esos cambios sin darse cuenta, entonces tenemos algo mucho más serio que una recomendación de faros poco fiable en nuestras manos. Tenemos una herramienta que silenciosa y sistemáticamente impulsa la toma de decisiones humanas en direcciones que nadie eligió y que nadie está monitoreando. Al menos todavía no.
Enlace del estudio: https://aclanthology.org/2025.ijcnlp-long.155.pdf
¡Ey! Aquí no hay muro de pago
Si nuestros informes lo han informado o inspirado, considere hacer una donación. Cada contribución, sin importar el tamaño, nos permite continuar brindando noticias médicas y científicas precisas, atractivas y confiables. ¡Gracias por estar con nosotros!