Por Darius Tahir / Ilustración de Oona Zenda para KFF
Vince Lahey de Carefree, Arizona, adopta los chatbots. Desde productos de Big Tech hasta productos “turbios”, ofrecen “alguien con quien podría compartir más secretos que mi terapeuta”.
Le gustan especialmente las aplicaciones para recibir comentarios y apoyo, aunque a veces lo reprenden o lo llevan a pelear con su ex esposa. “Me siento más inclinado a compartir más”, dijo Lahey. “No me importa la percepción que tengan de mí”.
Hay mucha gente como Lahey.
La demanda de atención de salud mental ha aumentado. Los días de mala salud mental autoinformados aumentaron un 25% desde la década de 1990, según un estudio que analizó datos de encuestas. Según los Centros para el Control y la Prevención de Enfermedades, las tasas de suicidio en 2022 igualaron un máximo de 2018 que no se había visto en casi 80 años.
Hay muchos pacientes que encuentran muy atractivo a un terapeuta no humano, impulsado por inteligencia artificial, más atractivo que un humano con un sofá reclinable y modales severos. Las redes sociales están repletas de videos que piden un terapeuta que “no esté disponible”, que juzgue menos o que simplemente sea menos costoso.
Relacionados | Todas las formas en que la IA ya te está jodiendo
La mayoría de las personas que necesitan atención no la reciben, dijo Tom Insel, ex director del Instituto Nacional de Salud Mental, citando la investigación de su antigua agencia. De los que lo hacen, el 40% recibe “atención mínimamente aceptable”.
“Existe una enorme necesidad de terapia de alta calidad”, afirmó. “Estamos en un mundo en el que el status quo es realmente malo, para usar un término científico”.
Insel dijo que los ingenieros de OpenAI le dijeron el otoño pasado que alrededor del 5% al 10% de la base de usuarios de la compañía, que entonces era de aproximadamente 800 millones, depende de ChatGPT para apoyo a la salud mental.
Las encuestas sugieren que estos chatbots de IA pueden ser incluso más populares entre los adultos jóvenes. Una encuesta de KFF encontró que aproximadamente 3 de cada 10 encuestados de entre 18 y 29 años recurrieron a chatbots de IA en busca de consejos sobre salud mental o emocional durante el año pasado. Los adultos sin seguro tenían aproximadamente el doble de probabilidades que los adultos asegurados de informar que utilizaban herramientas de inteligencia artificial. Y casi el 60% de los adultos encuestados que utilizaron un chatbot para la salud mental no hicieron un seguimiento con un profesional de carne y hueso.
La aplicación te pondrá en el sofá
Una floreciente industria de aplicaciones ofrece a los terapeutas de IA avatares parecidos a los humanos, a menudo irrealmente atractivos, que sirven como caja de resonancia para quienes experimentan ansiedad, depresión y otras afecciones.
KFF Health News identificó unas 45 aplicaciones de terapia de IA en la App Store de Apple en marzo. Si bien muchos cobran precios elevados por sus servicios (uno incluye un plan anual de $690), en general siguen siendo más baratos que la psicoterapia, que puede costar cientos de dólares la hora sin cobertura de seguro.
En la App Store, “terapia” se utiliza a menudo como término de marketing, y en letra pequeña se indica que las aplicaciones no pueden diagnosticar ni tratar enfermedades. Una aplicación, con la marca OhSofia! AI Therapy Chat tuvo descargas de seis cifras, dijo OhSofia! fundador Anton Ilin en diciembre.
“La gente busca terapia”, dijo Ilin. Por un lado, el nombre del producto promete “charla terapéutica”; por otro, advierte en su política de privacidad que “no proporciona asesoramiento médico, diagnóstico, tratamiento o intervención en crisis y no sustituye los servicios profesionales de atención sanitaria”. Los ejecutivos no creen que esto sea confuso, ya que hay exenciones de responsabilidad en la aplicación.
Las aplicaciones prometen grandes resultados sin respaldo. Uno promete a sus usuarios “ayuda inmediata durante los ataques de pánico”. Otro afirma que “los investigadores han demostrado su eficacia” y que ofrece un alivio 2,3 veces más rápido para la ansiedad y el estrés. (No dice qué es más rápido que).
Hay pocas barreras legislativas o regulatorias sobre cómo los desarrolladores se refieren a sus productos, o incluso si los productos son seguros o efectivos, dijo Vaile Wright, directora senior de la oficina de innovación en atención médica de la Asociación Estadounidense de Psicología. Incluso las protecciones federales de privacidad de los pacientes no se aplican, afirmó.
“La terapia no es un término protegido legalmente”, dijo Wright. “Así que, básicamente, cualquiera puede decir que da terapia”.
Muchas de las aplicaciones “se sobrerrepresentan a sí mismas”, dijo John Torous, psiquiatra e informático clínico del Centro Médico Beth Israel Deaconess. “Engañar a las personas diciéndoles que han recibido tratamiento cuando en realidad no lo han recibido tiene muchas consecuencias negativas”, incluido el retraso de la atención real, dijo.
Estados como Nevada, Illinois y California están tratando de solucionar el desorden regulatorio, promulgando leyes que prohíben a las aplicaciones describir a sus chatbots como terapeutas de inteligencia artificial.
“Es una profesión. La gente va a la escuela. Obtienen una licencia para hacerlo”, dijo Jovan Jackson, un legislador de Nevada, coautor de un proyecto de ley promulgado que prohíbe que las aplicaciones se refieran a sí mismas como profesionales de la salud mental.
Detrás de esta exageración, investigadores externos y representantes de las propias empresas han dicho a la FDA y al Congreso que hay poca evidencia que respalde la eficacia de estos productos. Los estudios que existen dan respuestas contradictorias, y algunas investigaciones sugieren que los chatbots centrados en compañeros son “consistentemente deficientes” en la gestión de crisis.
“Cuando se trata de chatbots, no tenemos ninguna evidencia sólida de que funcionen”, dijo Charlotte Blease, profesora de la Universidad de Uppsala en Suecia que se especializa en diseño de ensayos para productos de salud digitales.
La falta de ensayos clínicos de “buena calidad” se debe a que la FDA no proporciona recomendaciones sobre cómo probar los productos, dijo. “La FDA no ofrece ningún consejo riguroso sobre cuáles deberían ser los estándares”.
La portavoz del Departamento de Salud y Servicios Humanos, Emily Hilliard, dijo, en respuesta, que “la seguridad del paciente es la máxima prioridad de la FDA” y que los productos basados en IA están sujetos a regulaciones de la agencia que exigen la demostración de “garantías razonables de seguridad y eficacia antes de que puedan comercializarse en los EE. UU.”
Las aplicaciones de lengua plateada
Preston Roche, un residente de psiquiatría que participa activamente en las redes sociales, recibe muchas preguntas sobre si la IA es un buen terapeuta. Después de probar ChatGPT él mismo, dijo que inicialmente estaba “impresionado” de que fuera capaz de utilizar técnicas de terapia cognitivo-conductual para ayudarle a poner “a prueba” los pensamientos negativos.
Pero Roche dijo que después de ver publicaciones en las redes sociales sobre personas que desarrollan psicosis o que se les anima a tomar decisiones perjudiciales, se desilusionó. Los robots, concluyó, son aduladores.
“Cuando analizo globalmente las responsabilidades de un terapeuta, todo se cae por completo”, dijo.
Esta adulación (la tendencia de las aplicaciones basadas en grandes modelos lingüísticos a empatizar, halagar o engañar a su interlocutor humano) es inherente al diseño de la aplicación, dicen los expertos en salud digital.
“Los modelos se desarrollaron para responder a una pregunta o sugerencia que usted hace y para brindarle lo que está buscando”, dijo Insel, ex director del NIMH, “y son realmente buenos básicamente para afirmar lo que siente y brindar apoyo psicológico, como un buen amigo”.
Sin embargo, eso no es lo que hace un buen terapeuta. “El objetivo de la psicoterapia es principalmente hacer que uno aborde las cosas que ha estado evitando”, dijo.
Si bien las encuestas sugieren que muchos usuarios están satisfechos con lo que obtienen de ChatGPT y otras aplicaciones, ha habido informes de alto perfil sobre el servicio que brinda consejos o estímulo para autolesionarse.
Relacionados | A medida que más estadounidenses adoptan el tratamiento para la ansiedad, MAHA se burla de los medicamentos
Y se han presentado al menos una docena de demandas alegando muerte por negligencia o daños graves contra OpenAI después de que los usuarios de ChatGPT murieran por suicidio o fueran hospitalizados. En la mayoría de esos casos, los demandantes alegan que comenzaron a usar las aplicaciones con un propósito (como hacer tareas escolares) antes de confiar en ellas. Estos casos se están consolidando en una demanda colectiva.
Google y la startup Character.ai, que ha sido financiada por Google y ha creado “avatares” que adoptan personajes específicos, como atletas, celebridades, compañeros de estudio o terapeutas, están resolviendo otras demandas por muerte por negligencia, según informes de los medios.
El director ejecutivo de OpenAI, Sam Altman, ha dicho que hasta 1.500 personas por semana pueden hablar sobre suicidio en ChatGPT.
“Hemos visto un problema en el que las personas que se encuentran en situaciones psiquiátricas frágiles que usan un modelo como 4o pueden caer en una peor”, dijo Altman en una sesión pública de preguntas y respuestas reportada por The Wall Street Journal, refiriéndose a un modelo particular de ChatGPT introducido en 2024. “No creo que esta sea la última vez que enfrentaremos desafíos como este con un modelo”.
Un portavoz de OpenAI no respondió a las solicitudes de comentarios.
La compañía ha dicho que trabaja con expertos en salud mental en materia de salvaguardias, como derivar a los usuarios al 988, la línea directa nacional contra el suicidio. Sin embargo, las demandas contra OpenAI argumentan que las salvaguardas existentes no son lo suficientemente buenas y algunas investigaciones muestran que los problemas están empeorando con el tiempo. OpenAI ha publicado sus propios datos que sugieren lo contrario.
OpenAI se está defendiendo ante los tribunales, ofreciendo, al principio de un caso, una variedad de defensas que van desde negar que su producto causó autolesiones hasta alegar que el acusado hizo un mal uso del producto al inducirlo a hablar sobre el suicidio. También ha dicho que está trabajando para mejorar sus características de seguridad.
Las aplicaciones más pequeñas también dependen de OpenAI u otros modelos de IA para impulsar sus productos, dijeron los ejecutivos a KFF Health News. En entrevistas, los fundadores de startups y otros expertos dijeron que les preocupa que si una empresa simplemente importa esos modelos a su propio servicio, podría duplicar cualquier falla de seguridad que exista en el producto original.
Riesgos de datos
La revisión de KFF Health News de la App Store encontró que las protecciones de edad enumeradas son mínimas: quince de las casi cuatro docenas de aplicaciones dicen que pueden ser descargadas por usuarios de 4 años; 11 adicionales dicen que pueden ser descargados por personas mayores de 12 años.
Los estándares de privacidad son opacos. En la App Store, se describe que varias aplicaciones no rastrean datos de identificación personal ni los comparten con anunciantes, pero en los sitios web de sus empresas, las políticas de privacidad contenían descripciones contrarias, discutiendo el uso de dichos datos y su divulgación de información a anunciantes, como AdMob.
En respuesta a una solicitud de comentarios, el portavoz de Apple, Adam Dema, envió enlaces a las políticas de la App Store de la compañía, que prohíben que las aplicaciones utilicen datos de salud para publicidad y les exigen que muestren información sobre cómo utilizan los datos en general. Dema no respondió a una solicitud de más comentarios sobre cómo Apple hace cumplir estas políticas.
Los investigadores y defensores de políticas dijeron que compartir datos psiquiátricos con empresas de redes sociales significa que se podría perfilar a los pacientes. Podrían ser atacados por empresas de tratamiento poco fiables o cobrar precios diferentes por los productos en función de su salud.
KFF Health News se puso en contacto con varios fabricantes de aplicaciones sobre estas discrepancias; dos de los que respondieron dijeron que sus políticas de privacidad se habían elaborado por error y se comprometieron a cambiarlas para reflejar sus posturas contra la publicidad. (Un tercero, el equipo de OhSofia!, dijo simplemente que no hacen publicidad, aunque la política de privacidad de su aplicación señala que los usuarios “pueden optar por no recibir comunicaciones de marketing”).
Un ejecutivo dijo a KFF Health News que existe presión empresarial para mantener el acceso a los datos.
“Mi sensación general es que un modelo de suscripción es mucho, mucho mejor que cualquier tipo de publicidad”, dijo Tim Rubin, fundador de Wellness AI, y agregó que cambiaría la descripción en la política de privacidad de su aplicación.
Un inversor le aconsejó que no renunciara a la publicidad, afirmó. “Dicen que, esencialmente, eso es lo más valioso de tener una aplicación como esta: esos datos”.
“Creo que todavía estamos en el comienzo de lo que será una revolución en la forma en que las personas buscan apoyo psicológico e, incluso en algunos casos, terapia”, dijo Insel. “Y mi preocupación es que simplemente no existe un marco para nada de esto”.