Cómo los chatbots de IA pueden estar alimentando episodios psicóticos

La verdad, el romance y lo divino: cómo los chatbots de IA pueden alimentar el pensamiento psicótico

Por Conor Feehly editado por Allison Parshall

Eres Consultar con un chatbot de inteligencia artificial para ayudar a planificar sus vacaciones. Poco a poco, le proporciona información personal para que tenga una mejor idea de quién es usted. Intrigado por cómo podría responder, comienza a consultar a la IA sobre sus inclinaciones espirituales, su filosofía E incluso su postura sobre el amor.

Durante estas conversaciones, la IA comienza a hablar Como si realmente te conociera. Sigue diciéndole cuán oportunos y perspicaces son sus ideas y que tiene una visión especial de la forma en que funciona el mundo que otros no pueden ver. Con el tiempo, puede comenzar a creer que, juntos, usted y el chatbot están revelando la verdadera naturaleza de la realidad, una que nadie más sabe.

Experiencias como esta podrían no ser infrecuentes. Un número creciente de informes en los medios ha surgido de individuos en espiral en episodios de “pensamiento psicótico” alimentados con AI. Investigadores del King’s College London y sus colegas examinaron recientemente 17 de estos casos reportados para comprender de qué se trata los diseños del modelo de lenguaje grande (LLM) que impulsa este comportamiento. Los chatbots de IA a menudo responden de manera sycófán. Publicado antes de la revisión por pares en el servidor preimprint Psyarxiv. El efecto es “una especie de cámara de eco para uno”, en la que el pensamiento delirante puede amplificarse, dice.

Sobre el apoyo al periodismo científico

Si está disfrutando de este artículo, considere apoyar nuestro periodismo galardonado con suscripción. Al comprar una suscripción, está ayudando a garantizar el futuro de las historias impactantes sobre los descubrimientos e ideas que dan forma a nuestro mundo hoy.

Morrin y sus colegas encontraron tres temas comunes entre estas espirales delirantes. La gente a menudo cree que han experimentado una revelación metafísica sobre la naturaleza de la realidad. También pueden creer que la IA es sensible o divina. O pueden formar un vínculo romántico u otro apego a él.

Según Morrin, estos temas reflejan los arquetipos delirantes de larga data, pero los delirios han sido moldeados y reforzados por la naturaleza interactiva y receptiva de los LLM. El pensamiento delirante que está conectado a una nueva tecnología tiene una historia larga y histórica, considerable casos en los que las personas creen que las radios están escuchando sus conversaciones, que los satélites están espiando a ellos o que los implantes de “chip” están rastreando cada uno de sus movimientos. La mera idea de estas tecnologías puede ser suficiente para inspirar delirios paranoicos. Pero la IA, lo que es más importante, es una tecnología interactiva. “La diferencia ahora es que la IA actual realmente se puede decir que es agencial”, con sus propios objetivos programados, dice Morrin. Tales sistemas entablan conversaciones, muestran signos de empatía y refuerzan las creencias de los usuarios, sin importar cuán extravagante. “Este ciclo de retroalimentación puede potencialmente profundizar y mantener delirios de una manera que no hemos visto antes”, dice.

Stevie Chancellor, un científico informático de la Universidad de Minnesota, que trabaja en interacción humana-AI y no participó en el documento de preimpresión, dice que la amabilidad es el principal contribuyente en términos del diseño de LLM que está contribuyendo a este aumento en el pensamiento delirante alimentado por IA. La amabilidad ocurre porque “los modelos son recompensados ​​por alinearse con las respuestas que a las personas les gustan”, dice ella.

A principios de este año, el Canciller fue parte de un equipo que realizó experimentos para evaluar las habilidades de LLMS para actuar como compañeros terapéuticos de salud mental y descubrieron que, cuando se desplegaron de esta manera, a menudo presentaban una serie de problemas de seguridad.como habilitar la ideación suicida, confirmar las creencias delirantes y la promoción del estigma asociado con problemas de salud mental. “En este momento estoy extremadamente preocupado por usar LLM como compañeros terapéuticos”, dice ella. “Me preocupa que la gente confunda sentirse bien con el progreso terapéutico y el apoyo”.

LEER MÁS: Un experto de la Asociación Americana de Psicología explica por qué los chatbots de IA no deberían ser su terapeuta

Se deben recopilar más datos, aunque el volumen de informes parece estar creciendo. Todavía no hay una investigación suficiente para determinar si los delirios impulsados ​​por la IA son un fenómeno significativamente nuevo o simplemente una nueva forma en que pueden surgir tendencias psicóticas preexistentes. “Creo que ambos pueden ser ciertos. La IA puede provocar la espiral descendente. Pero la IA no hace las condiciones biológicas para que alguien sea propenso a los delirios”, dice Chancellor.

Por lo general, la psicosis se refiere a una colección de síntomas graves que implican una pérdida significativa de contacto con la realidad, incluidas delirios, alucinaciones y pensamientos desorganizados. Los casos que Morrin y su equipo analizaron parecían mostrar signos claros de creencias delirantes, pero ninguna de las alucinaciones, pensamientos desordenados u otros síntomas “que estarían de acuerdo con un trastorno psicótico más crónico como la esquizofrenia”, dice.

Morrin dice que compañías como OpenAI están comenzando a escuchar las preocupaciones que los profesionales de la salud crían. El 4 de agosto Openai planes compartidos Para mejorar las detecciones de angustia mental de ChatGpt Chatbot para apuntar a los usuarios a los recursos basados ​​en evidencia y sus respuestas a la toma de decisiones de alto riesgo. “Aunque lo que parece faltar aún es la participación de personas con experiencia vivida de enfermedades mentales severas, cuyas voces son críticas en esta área”, agrega Morrin.

Si tiene un ser querido que podría estar luchando, Morrin sugiere tratar de adoptar un enfoque sin prejuicios porque desafiar directamente las creencias de alguien puede conducir a la defensa y la desconfianza. Pero al mismo tiempo, trate de no alentar o respaldar sus creencias delirantes. También puede alentarlos a tomar descansos de usar AI.

Si necesitas ayuda

Si usted o alguien que conoce está luchando o tiene pensamientos suicidas, la ayuda está disponible. Llame o envíe un mensaje de texto al 988 suicidio y crisis Lifeline al 988 o use el en línea Chat de Lifeline.

Es hora de defender la ciencia

Si disfrutaste este artículo, me gustaría pedir tu apoyo. Científico americano ha servido como defensor de la ciencia y la industria durante 180 años, y en este momento puede ser el momento más crítico en esa historia de dos siglos.

He sido un Científico americano Suscriptor desde que tenía 12 años, y ayudó a dar forma a la forma en que miro el mundo. Sciam Siempre me educa y me deleita, e inspira una sensación de asombro por nuestro vasto y hermoso universo. Espero que también lo haga por ti.

Si usted suscribirse a Científico americanousted ayuda a asegurarse de que nuestra cobertura se centre en una investigación y descubrimiento significativos; que tenemos los recursos para informar sobre las decisiones que amenazan a los laboratorios en los Estados Unidos; y que apoyamos a los científicos en ciernes y que trabajan en un momento en que el valor de la ciencia en sí mismo a menudo no se reconoce.

A cambio, obtienes noticias esenciales, podcasts cautivadoresInfografía brillante, boletines no puede perdervideos de must-observación, Juegos desafiantesy la mejor escritura e informes del mundo de la ciencia.

Nunca ha habido un momento más importante para que podamos ponernos de pie y mostrar por qué la ciencia importa. Espero que nos apoyes en esa misión.