Los dispositivos portátiles, los chatbots y los asistentes digitales ahora brindan la orientación que antes provenía de enfermeras y médicos de cabecera. Millones de personas siguen este consejo a la hora de decidir si esperar, reservar una cita con el médico de cabecera o acudir a Urgencias, y esto conlleva implicaciones reales en cuanto a riesgo, coste y clasificación. La ausencia de deberes, responsabilidades y supervisión claros ha creado una nueva capa de asesoramiento que se sitúa fuera de las normas médicas en las que se basa el sistema, advierte Vendan Kumararajah.
Ahora la gente pregunta a los sistemas de IA sobre la salud de la misma manera que antes preguntaban a los médicos, enfermeras o farmacéuticos. Una madre con un niño que sigue tosiendo puede escribir los síntomas en un chatbot en la cocina mientras prepara el desayuno. Un joven preocupado por la caída del cabello podría preguntarle a un asistente de inteligencia artificial durante su viaje. Alguien que sienta molestias en el pecho a altas horas de la noche podría hablar con un agente de voz a través de un altavoz inteligente porque le resulta más fácil que molestar al NHS. Los dispositivos portátiles ya informan a las personas sobre su sueño, su estrés y su ritmo cardíaco, y muchas de estas herramientas hablan en lenguaje natural sobre qué hacer a continuación.
Los consejos de salud se han colado en hogares, oficinas y bolsillos sin necesidad de cita previa y sin largas esperas. Esto ha cambiado la estructura de la atención sanitaria porque la función de asesoramiento se ha desplazado hacia herramientas que quedan fuera de las reglas y normas que tradicionalmente han regido la medicina.
Los consejos que proporciona la IA dirigen directamente a las personas sobre cómo comportarse. Una mujer que tiene dolor pélvico y le dicen que puede desaparecer por sí solo generalmente esperará, programará una visita al médico de cabecera para la próxima semana o probará remedios caseros. Otra mujer con el mismo dolor a quien le dicen que podría ser grave puede llamar al 111 o acudir a Urgencias esa misma noche. Estas bifurcaciones en la toma de decisiones dan forma a la demanda, el costo y el riesgo dentro del sistema de salud. Los médicos y enfermeras se entrenan durante años para comprender este poder. Tienen licencias, deberes profesionales y responsabilidad porque sus consejos tienen consecuencias reales. Pero los agentes de IA influyen en las mismas decisiones, pero lo hacen sin las barreras morales, legales e institucionales que rodean la orientación clínica.
La regulación actual se centra en la privacidad de los datos, la transparencia y los procedimientos de retirada de productos inseguros. Estos esfuerzos son importantes, pero no responden a una pregunta básica sobre la responsabilidad. Cuando un chatbot o dispositivo portátil brinda consejos que alteran el comportamiento en torno al embarazo, la medicación, los síntomas psiquiátricos o el cuidado de familiares vulnerables, por ejemplo, ¿a quién pertenece ese resultado de asesoramiento? Los desarrolladores colocan descargos de responsabilidad en sus productos que devuelven el juicio al usuario. La persona promedio no interpreta los resultados probabilísticos como meras probabilidades sino como una guía experta que debe seguirse. Luego, los médicos se encuentran con pacientes cuyas decisiones han sido determinadas antes de la cita, pero no tienen idea de las vías digitales que produjeron esas decisiones. Los reguladores y los tribunales tienden a aparecer sólo después de que las fallas se hacen visibles, mucho después del momento en que una gestión temprana podría haber evitado el daño.
La buena gobernanza debe llegar al punto en que se brinde asesoramiento. En ese momento, reglas claras deberían definir qué puede manejar un agente de IA por sí solo y qué debe desencadenar una derivación a un médico humano. El dolor de pecho, las ideas suicidas, las complicaciones del embarazo, los signos de accidente cerebrovascular y el mal uso de medicamentos no son casos extremos; Aparecen a diario en atención primaria y urgencias, por lo que cualquier sistema que asesore sobre ellos debe afrontar unas obligaciones definidas. La certificación podría reconocer a estos agentes como participantes activos dentro del sistema de salud en lugar de como herramientas de información neutrales.
Otros sectores ya entienden el poder consultivo. Los bancos no pueden recomendar productos financieros complejos sin comprobar su idoneidad, por ejemplo. Las aerolíneas requieren una escalada desde los pilotos hasta el control en tierra cuando los instrumentos se comportan de manera impredecible. Las empresas farmacéuticas deben realizar una vigilancia poscomercialización con tareas de presentación de informes en tiempo real. La atención sanitaria con IA merece reglas de sofisticación similar.
Los modelos de IA cambian todo el tiempo. Las actualizaciones alteran su tono, sus niveles de confianza y sus sugerencias de clasificación. Estos cambios parecen sutiles al principio y normalmente sólo se hacen visibles cuando surgen patrones en grandes poblaciones. Los regímenes de aprobación que aprueban un producto una vez y luego lo retiran no pueden gestionar una tecnología que se reescribe cada pocas semanas.
La supervisión continua, las auditorías longitudinales y el seguimiento del desempeño proporcionarían una base realista para la seguridad. Sin tales estructuras, la sociedad termina ejecutando un vasto experimento incontrolado con millones de personas que no tienen forma de comprender los riesgos, los incentivos o la ausencia de gobernanza en torno a estas conversaciones de asesoramiento.
Europa ya cuenta con instituciones que entienden el asesoramiento, el riesgo y el interés público. Su marco de dispositivos médicos, sus normas farmacéuticas y sus sistemas de supervisión financiera ya abordan la orientación de alto riesgo y la aplicación transfronteriza. La tarea por delante no es inventar una filosofía completamente nueva de IA responsable, sino adaptar la maquinaria existente a un nuevo actor que se encuentra en una zona gris entre la atención clínica y la tecnología de consumo. La influencia necesita responsabilidad, la función necesita certificación y los pacientes necesitan protección en el punto donde se moldea el comportamiento.
Sin él, la asistencia sanitaria en toda Europa y más allá desarrollará una capa de asesoramiento oculta sin un dueño claro, sin seguimiento y sin responsabilidad. Eso erosionaría la confianza del público tanto en la medicina como en la tecnología, y supondría una carga para los pacientes que nunca aceptaron soportar.
Vendan Ananda Kumararajah es un arquitecto de transformación y pensador de sistemas reconocido internacionalmente. Creador del Modelo A3, un marco cibernético de nuevo orden que une la ética, la conciencia de la distorsión y la agencia en la IA y la gobernanza, une la antigua filosofía tamil con la ciencia de sistemas contemporánea. Miembro del Chartered Management Institute y autor de Navigating Complexity and System Challenges: Foundations for the A3 Model (2025), Vendan está redefiniendo cómo la inteligencia, la gobernanza y la ética se interconectan en una era de tecnologías autónomas.
LEER MÁS: ‘A los robots no les importa, y creer que sí les importa arruinará nuestro sistema de salud’. La inteligencia artificial está siendo aclamada como la próxima frontera en la atención sanitaria, pero, como escribe el locutor y defensor de los derechos de las personas con discapacidad Matthew Kayne, la empatía no se puede automatizar. El verdadero cuidado existe en la presencia humana, en los momentos de comprensión que sólo las personas pueden ofrecer.
¿Tiene noticias para compartir o experiencia para contribuir? El europeo acoge con agrado las opiniones de líderes empresariales y especialistas del sector. Póngase en contacto con nuestro equipo editorial para obtener más información.
Imagen principal: Karola G/Pexels