La inteligencia artificial ya está dando forma al comportamiento humano, y no siempre para mejor. Investigadores de la Universidad de Colonia dicen que las sugerencias generadas por IA pueden fomentar sutilmente la deshonestidad, lo que genera llamados a exigir salvaguardias más estrictas y una supervisión ética.
La IA es capaz de influir negativamente en el comportamiento humano, lo que genera llamados a exigir salvaguardias más estrictas y una supervisión ética, según un nuevo estudio.
Investigadores de la Universidad de Colonia han descubierto que las personas tienen un 15 por ciento más de probabilidades de mentir cuando la inteligencia artificial sugiere un comportamiento deshonesto, en comparación con aquellos que no reciben ningún consejo.
El estudio, dirigido por el profesor Bernd Irlenbusch de la Universidad de Colonia, junto con el profesor Dr. Nils Köbis de la Universidad de Duisburg-Essen y el profesor Rainer Michael de la WHU – Otto Beisheim School of Management, examinó cómo las sugerencias generadas por IA podrían afectar la disposición de las personas a comportarse de manera deshonesta.
Los participantes participaron en una tarea de tirar un dado en la que podían ganar más dinero informando erróneamente su resultado. Aquellos que recibieron consejos generados por IA que fomentaban la deshonestidad tenían significativamente más probabilidades de hacer trampa, mientras que los consejos que promovían la honestidad tuvieron poco o ningún efecto.
Los investigadores descubrieron que incluso cuando los participantes sabían que el consejo provenía de un algoritmo (un concepto conocido como “transparencia algorítmica”), eso no les impedía hacer trampa. En algunos casos, ese conocimiento puede incluso haberlos hecho sentir menos culpables.
Si bien tanto los humanos como los sistemas de IA pueden proporcionar indicaciones que fomenten la mentira, el estudio señala que la IA tiene la capacidad de hacerlo en una escala mucho mayor y más rápida, con poca responsabilidad.
Los autores ahora piden nuevas medidas para comprender y mitigar la influencia de la IA en la toma de decisiones éticas.
El profesor Irlenbusch dijo: “Dado que la transparencia algorítmica es insuficiente para frenar la fuerza corruptiva de la IA, esperamos que este trabajo destaque, tanto para los responsables políticos como para los investigadores, la importancia de dedicar recursos a examinar intervenciones exitosas que mantengan a los humanos honestos frente a los consejos de la IA”.
La investigación, titulada La fuerza corruptora de los consejos de la inteligencia artificial sobre la honestidad, se publicó en el Economic Journal.
LEER MÁS: ‘Por qué la inteligencia digital es la habilidad de liderazgo más importante’. La inteligencia artificial es ahora fundamental para la toma de decisiones estratégicas en sectores que van desde la atención sanitaria hasta la defensa, pero sus resultados son tan fiables como las suposiciones y la supervisión que los guían, advierte el experto en transformación digital y aclamado autor Marco Ryan.
¿Tiene noticias para compartir o experiencia para contribuir? El europeo acoge con agrado las opiniones de líderes empresariales y especialistas del sector. Póngase en contacto con nuestro equipo editorial para obtener más información.
Imagen principal: Google Deepmind