10 de noviembre de 2023: es posible que haya utilizado ChatGPT-4 o uno de los otros nuevos chatbots de inteligencia artificial para hacer una pregunta sobre su salud. O quizás su médico esté usando ChatGPT-4 para generar un resumen de lo que sucedió en su última visita. Tal vez su médico incluso tenga un chatbot para verificar el diagnóstico de su condición.
Pero en esta etapa del desarrollo de esta nueva tecnología, dijeron los expertos, tanto los consumidores como los médicos harían bien en proceder con cautela. A pesar de la confianza con la que un chatbot de IA entrega la información solicitada, no siempre es precisa.
A medida que el uso de chatbots de IA se extiende rápidamente, tanto en la atención sanitaria como en otros ámbitos, ha habido crecientes llamamientos para que el gobierno regule la tecnología para proteger al público de las posibles consecuencias no deseadas de la IA.
El gobierno federal dio recientemente un primer paso en esta dirección cuando el presidente Joe Biden emitió una orden ejecutiva eso requiere que las agencias gubernamentales encuentren formas de regular el uso de la IA. En el mundo de la atención médica, la orden ordena al Departamento de Salud y Servicios Humanos promover la innovación responsable en IA que “promueva el bienestar de los pacientes y trabajadores en el sector de la atención médica”.
Entre otras cosas, se supone que la agencia establecerá un grupo de trabajo sobre IA para el cuidado de la salud dentro de un año. Este grupo de trabajo desarrollará un plan para regular el uso de IA y aplicaciones habilitadas para IA en la prestación de atención médica, la salud pública y la investigación, el desarrollo y la seguridad de medicamentos y dispositivos médicos.
El plan estratégico también abordará “la seguridad a largo plazo y el monitoreo del desempeño en el mundo real de las tecnologías basadas en IA”. El departamento también debe desarrollar una manera de determinar si las tecnologías basadas en IA “mantienen niveles apropiados de calidad”. Y, en asociación con otras agencias y organizaciones de seguridad del paciente, Salud y Servicios Humanos deben establecer un marco para identificar errores “resultantes de la IA implementada en entornos clínicos”.
La orden ejecutiva de Biden es “un buen primer paso”, dijo Ida Sim, MD, PhD, profesora de medicina y salud de precisión computacional y directora de investigación en informática de la Universidad de California en San Francisco.
John W. Ayers, PhD, subdirector de informática del Instituto de Investigación Clínica y Traslacional Altman de la Universidad de California en San Diego, estuvo de acuerdo. Dijo que si bien la industria de la atención médica está sujeta a una supervisión estricta, no existen regulaciones específicas sobre el uso de la IA en la atención médica.
“Esta situación única surge del hecho de que la IA avanza rápidamente y los reguladores no pueden seguir el ritmo”, dijo. Sin embargo, es importante actuar con cuidado en esta área, o las nuevas regulaciones podrían obstaculizar el progreso médico, afirmó.
El problema de las ‘alucinaciones’ acecha a la IA
En el año transcurrido desde que surgió ChatGPT-4, los expertos sorprendentes con su conversación similar a la humana y su conocimiento de muchos temas, el chatbot y otros similares se han establecido firmemente en el cuidado de la salud. El catorce por ciento de los médicos, según una encuesta, ya están utilizando estos “agentes conversacionales” para ayudar a diagnosticar pacientes, crear planes de tratamiento y comunicarse con los pacientes en línea. Los chatbots también se utilizan para recopilar información de los registros de los pacientes antes de las visitas y para resumir las notas de las visitas de los pacientes.
Los consumidores también han comenzado a utilizar chatbots para buscar información sobre atención médica. comprender los avisos de beneficios del seguroy analizar números de pruebas de laboratorio.
El principal problema de todo esto es que los chatbots de IA no siempre aciertan. A veces inventan cosas que no existen: “alucinan”, como dicen algunos observadores. De acuerdo a un estudio reciente de Vectarauna startup fundada por ex empleados de Google, los chatbots generan información al menos el 3% de las veces, y hasta el 27% de las veces, dependiendo del bot. Otro informe sacó conclusiones similares.
Esto no quiere decir que los chatbots no sean muy buenos para llegar a la respuesta correcta la mayor parte del tiempo. en una prueba, 33 médicos de 17 especialidades hicieron a los chatbots 284 preguntas médicas de diversa complejidad y calificaron sus respuestas. Más de la mitad de las respuestas fueron calificadas como casi correctas o completamente correctas. Pero las respuestas a 15 preguntas fueron calificadas como completamente incorrectas.
Google ha creado un chatbot llamado Med-PaLM que se adapta al conocimiento médico. Este chatbot, que aprobó un examen de licencia médica, tiene una tasa de precisión del 92,6% al responder preguntas médicas, aproximadamente la misma que la de los médicos. según un estudio de Google.
Ayers y sus colegas hicieron un estudio comparando las respuestas de chatbots y médicos a las preguntas que los pacientes hicieron en línea. Los profesionales de la salud evaluaron las respuestas y prefirieron la respuesta del chatbot a la respuesta de los médicos en casi el 80% de los intercambios. Las respuestas de los médicos recibieron calificaciones más bajas tanto en calidad como en empatía. Los investigadores sugirieron que los médicos podrían haber sido menos empáticos debido al estrés de la práctica al que se enfrentaban.
Basura dentro basura fuera
Los chatbots se pueden utilizar para identificar diagnósticos raros o explicar síntomas inusuales, y también se puede consultarlos para asegurarse de que los médicos no pierdan posibilidades de diagnóstico obvias. Para que estén disponibles para esos fines, deben estar integrados en el sistema de registros médicos electrónicos de una clínica. Microsoft ya ha ChatGPT-4 integrado en el sistema de registro sanitario más extendido, de Epic Systems.
Un desafío para cualquier chatbot es que los registros contienen información incorrecta y, a menudo, faltan datos. Muchos errores de diagnóstico están relacionados con historiales médicos mal tomados y exámenes físicos incompletos documentados en el historial médico electrónico. Y estos registros generalmente no incluyen mucha o ninguna información de los registros de otros profesionales que han atendido al paciente. Basándose únicamente en los datos inadecuados del registro del paciente, puede ser difícil para un ser humano o para una inteligencia artificial sacar la conclusión correcta en un caso particular, dijo Ayers. Ahí es donde la experiencia y el conocimiento del paciente por parte del médico pueden ser invaluables.
Pero los chatbots son bastante buenos para comunicarse con los pacientes, como demostró el estudio de Ayers. Con supervisión humana, dijo, parece probable que estos agentes conversacionales puedan ayudar a aliviar la carga que supone para los médicos la mensajería en línea con los pacientes. Y, dijo, esto podría mejorar la calidad de la atención.
“Un agente conversacional no es sólo algo que puede manejar su bandeja de entrada o la carga de su bandeja de entrada. Puede convertir su bandeja de entrada en una bandeja de salida a través de mensajes proactivos a los pacientes”, dijo Ayers.
Los robots pueden enviar mensajes personales a los pacientes, adaptados a sus registros y a lo que los médicos creen que serán sus necesidades. “¿Qué efecto tendría eso en los pacientes?” Dijo Ayers. “Aquí existe un enorme potencial para cambiar la forma en que los pacientes interactúan con sus proveedores de atención médica”.
Ventajas y desventajas de los chatbots
Si los chatbots pueden usarse para generar mensajes a los pacientes, también pueden desempeñar un papel clave en el manejo de enfermedades crónicas, que afectan hasta 60% de todos los estadounidenses.
Sim, que también es médico de atención primaria, lo explica de esta manera: “La enfermedad crónica es algo que se tiene las 24 horas del día, los 7 días de la semana. Veo a mis pacientes más enfermos durante 20 minutos cada mes, en promedio, por lo que no soy yo quien realiza la mayor parte de la gestión de la atención crónica”.
Ella les dice a sus pacientes que hagan ejercicio, controlen su peso y tomen sus medicamentos según las indicaciones.
“Pero no brindo ningún apoyo en casa”, dijo Sim. “Los chatbots de IA, debido a su capacidad para utilizar el lenguaje natural, pueden estar presentes con los pacientes de una manera que los médicos no podemos”.
Además de asesorar a los pacientes y sus cuidadores, dijo, los agentes conversacionales también pueden analizar datos de sensores de monitoreo y pueden hacer preguntas sobre la condición de un paciente día a día. Si bien nada de esto sucederá en el futuro cercano, dijo, representa una “gran oportunidad”.
Ayers estuvo de acuerdo, pero advirtió que se deben realizar ensayos controlados aleatorios para establecer si un servicio de mensajería asistido por IA realmente puede mejorar los resultados de los pacientes.
“Si no hacemos ciencia pública rigurosa sobre estos agentes conversacionales, puedo ver escenarios en los que se implementarán y causarán daño”, dijo.
En general, dijo Ayers, la estrategia nacional sobre IA debería centrarse en el paciente, en lugar de centrarse en cómo los chatbots ayudan a los médicos o reducen los costos administrativos.
Desde la perspectiva del consumidor, Ayers dijo que le preocupaba que los programas de IA dieran “recomendaciones universales a los pacientes que podrían ser irrelevantes o incluso malas”.
Sim también enfatizó que los consumidores no deberían depender de las respuestas que dan los chatbots a las preguntas sobre atención médica.
“Es necesario tener mucha precaución al respecto. Estas cosas son muy convincentes por la forma en que utilizan el lenguaje natural. Creo que es un riesgo enorme. Como mínimo, se debería decir al público: ‘Hay un chatbot detrás y podría estar equivocado’”.