Los sesgos cognitivos, que antes se consideraban defectos en la toma de decisiones humanas, ahora se reconocen por su posible impacto positivo en el aprendizaje y la toma de decisiones. Sin embargo, en el aprendizaje automático, especialmente en los sistemas de búsqueda y clasificación, el estudio de los sesgos cognitivos aún necesita mejorarse. La mayor parte del enfoque en la recuperación de información se centra en la detección de sesgos y la evaluación de su efecto en el comportamiento de búsqueda, a pesar de varias investigaciones centradas en explorar cómo estos sesgos pueden influir en el entrenamiento de modelos y el comportamiento ético de las máquinas. Esto plantea un desafío a la hora de utilizar estos sesgos cognitivos para mejorar los algoritmos de recuperación, un área en gran parte inexplorada pero que ofrece oportunidades y desafíos para los investigadores.
Los enfoques existentes, como la investigación de los sistemas de recomendación, han explorado algunos sesgos humanos de raíz psicológica, como los efectos de primacía y actualidad en las recomendaciones de pares y los sesgos de aversión al riesgo y de decisión en las recomendaciones de productos. Sin embargo, aún no se ha explorado un estudio detallado de los sesgos cognitivos en la recomendación. El campo no cuenta con ninguna investigación sistemática sobre cómo aparecen estos sesgos en las diferentes etapas del proceso de recomendación. Esta brecha es sorprendente considerando que la investigación de los sistemas de recomendación a menudo se ha visto influenciada por teorías psicológicas, modelos y evidencia empírica sobre la toma de decisiones humana. Representa una oportunidad perdida significativa de utilizar sesgos cognitivos para mejorar los algoritmos de recomendación y las experiencias de los usuarios.
Investigadores de la Universidad Johannes Kepler de Linz y del Instituto Tecnológico de Linz (Austria) han propuesto un enfoque integral para examinar los sesgos cognitivos dentro del ecosistema de recomendaciones. Esta innovadora investigación investiga la posible evidencia de estos sesgos en diferentes etapas del proceso de recomendación y desde el punto de vista de las distintas partes interesadas. Los investigadores dieron los primeros pasos hacia la comprensión de la compleja interacción entre los sesgos cognitivos y los sistemas de recomendación. Los modelos de usuario y de ítem se mejoraron mediante la evaluación y el uso de los efectos positivos de estos sesgos, lo que dio lugar a algoritmos de recomendación de mejor rendimiento y una mayor satisfacción del usuario.
Se lleva a cabo una investigación sobre los sesgos cognitivos en los sistemas de recomendación. Se analiza el efecto de característica positiva (FPE) en los sistemas de recomendación de empleo utilizando un conjunto de datos de 272 anuncios de empleo y 336 solicitantes en 6 categorías. Se utiliza un modelo de sistema de recomendación entrenado para predecir las coincidencias entre los candidatos y los anuncios de empleo, lo que da como resultado 13.607 predicciones positivas verdaderas y 1.625 falsas negativas. Este análisis tuvo como objetivo comprender cómo el FPE afecta las recomendaciones de empleo. Además, se analiza el efecto Ikea a través de una plataforma Prolific, que incluye 100 participantes estadounidenses que utilizan servicios de transmisión de música. Los participantes respondieron 4 afirmaciones en una escala Likert-5, evaluando sus hábitos en la creación, edición y consumo de colecciones de música.
Los resultados obtenidos para FPE muestran que la eliminación de adjetivos de las descripciones de puestos de trabajo aumentó las predicciones de falsos negativos, lo que destaca el papel crucial del lenguaje descriptivo en la precisión de las recomendaciones de empleo. Los puntajes de relevancia mejoran para el 52,0% de las muestras de falsos negativos, y el 12,9% se convierte en verdaderos positivos al utilizar adjetivos únicos de anuncios de trabajo de alto recuerdo. En cuanto al Efecto Ikea, 48 de los 88 participantes informaron que consumían sus listas de reproducción con más frecuencia que otros, con una diferencia promedio de 0,65 (SD = 1,52) en la frecuencia de consumo. Esta preferencia por el contenido creado por ellos mismos sugiere la presencia del Efecto Ikea en los sistemas de recomendación de música.
En resumen, los investigadores han introducido un enfoque detallado para examinar los sesgos cognitivos dentro del ecosistema de recomendación. Este artículo demuestra la presencia y el impacto de sesgos cognitivos como el efecto de característica positiva (FPE), el efecto Ikea y la homofilia cultural en los sistemas de recomendación. Estas investigaciones proporcionan la base para una mayor exploración en este prometedor campo. El estudio destaca la importancia de equipar a los investigadores y profesionales de los sistemas de recomendación para que adquieran una comprensión profunda de los sesgos cognitivos y sus posibles efectos a lo largo del proceso de recomendación.
Echa un vistazo a la Papel. Todo el crédito por esta investigación corresponde a los investigadores de este proyecto. Además, no olvides seguirnos en Gorjeo y únete a nuestro Canal de Telegram y LinkedIn Gr¡Arriba!. Si te gusta nuestro trabajo, te encantará nuestro hoja informativa..
No olvides unirte a nuestro Subreddit con más de 50 000 millones de usuarios
A continuación se muestra un seminario web muy recomendado por nuestro patrocinador: ‘Desarrollo de aplicaciones de IA de alto rendimiento con NVIDIA NIM y Haystack’
Sajjad Ansari es un estudiante de último año de la carrera de IIT Kharagpur. Como entusiasta de la tecnología, se adentra en las aplicaciones prácticas de la IA, centrándose en comprender el impacto de las tecnologías de IA y sus implicaciones en el mundo real. Su objetivo es articular conceptos complejos de IA de una manera clara y accesible.
