Diferentes casos de uso de la IA generativa Han surgido nuevos ámbitos en el ámbito de la atención sanitaria, desde ayudar a los proveedores con documentación clínica hasta ayudar a los investigadores a determinar diseños experimentales novedosos.
Anita Mahon, vicepresidenta ejecutiva y directora global de atención médica de EXL, se sentó con MobiSaludNoticias para analizar cómo la empresa global de análisis y soluciones digitales ayuda a los pagadores y proveedores a determinar qué datos implementar en sus LLM para garantizar las mejores prácticas en sus negocios y ofertas.
MobiHealthNoticias: ¿Puedes hablarme de EXL?
Anita Mahón: EXL trabaja con la mayoría de los planes de salud nacionales más grandes de EE. UU., así como con una amplia gama de planes regionales y de mercado medio. También PBM, sistemas de salud, grupos de proveedores y empresas de ciencias biológicas. Entonces, obtenemos una perspectiva bastante amplia del mercado. Nos hemos centrado en soluciones y servicios de análisis de datos y operaciones y soluciones digitales durante muchos años.
MNH: ¿Cómo afectará la IA generativa a los pagadores y proveedores, y cómo seguirán siendo competitivos en la atención sanitaria?
Mahón: Realmente todo se reduce a la singularidad y la variación que en realidad ya residirá en esos datos antes de que comiencen a ponerlos en modelos y crear soluciones generativas de IA a partir de ellos.
Creemos que si ha consultado un plan de salud o un proveedor, solo ha consultado un plan de salud o un proveedor. Cada uno tiene sus propias diferencias matizadas. Todos operan con diferentes carteras, diferentes partes de su población de miembros o pacientes en diferentes programas, diferentes combinaciones de intercambio de Medicaid/Medicare y comerciales, e incluso dentro de esos programas, una amplia variedad en sus diseños de productos, mercado local, regional y Todas las variaciones de práctica entran en juego.
Y cada una de estas organizaciones de atención médica se ha alineado y diseñado su aplicación interna, sus productos y sus operaciones internas para brindar soporte realmente mejor a ese segmento de la población con el que se están alineando.
Y tienen diferentes datos en los que confían hoy en diferentes operaciones. Entonces, a medida que reúnen sus propios conjuntos de datos únicos, combinados con la singularidad de su negocio (su estrategia, sus operaciones, la segmentación del mercado que han realizado), creo que lo que van a hacer está realmente bien. ajustando su propio modelo de negocio.
MNH: ¿Cómo se garantiza que los datos proporcionados a las empresas sean imparciales y no creen inequidades en salud más significativas de las que ya existen?
Mahón: Eso es parte de lo que hacemos en nuestra plataforma de soluciones de IA generativa. Realmente somos una empresa de servicios. Trabajamos en estrecha colaboración con nuestros clientes e incluso algo así como una estrategia de mitigación de prejuicios es algo que desarrollaríamos juntos. El tipo de cosas en las que trabajaríamos con ellos serían cosas como priorizar sus casos de uso y el desarrollo de su hoja de ruta, elaborar planos en torno a la IA generativa y luego, potencialmente, establecer un centro de excelencia. Y parte de lo que definiría en ese centro de excelencia serían cosas como estándares para los datos que usará en sus modelos de IA, estándares para realizar pruebas contra sesgos y todo un proceso de control de calidad en torno a eso.
Y luego también ofrecemos gestión de datos, seguridad y privacidad en el desarrollo de estas soluciones de inteligencia artificial y una plataforma que, si se desarrolla, tiene algunas de esas herramientas de detección y monitoreo de sesgos incorporadas. Por lo tanto, puede ayudarle con la detección temprana, especialmente en la puesta a prueba temprana de estas soluciones de IA generativa.
MNH: ¿Puedes hablar un poco sobre el monitoreo de sesgo que tiene EXL?
Mahón: Sé con certeza que cuando trabajamos con nuestros clientes, lo último que queremos hacer es permitir que los sesgos preexistentes en la prestación de atención médica surjan y se exacerben y perpetúen a través de las herramientas de inteligencia artificial generativa. Entonces, eso es algo que necesitamos: aplicar métodos estadísticos para identificar posibles sesgos que, por supuesto, no están relacionados con factores clínicos, sino con otros factores y resaltar si eso es lo que estamos viendo mientras probamos la IA generativa.
MNH: ¿Cuáles son algunos de los aspectos negativos que ha visto en cuanto al uso de la IA en la atención sanitaria?
Mahón: Has resaltado uno de ellos y es por eso que siempre comenzamos con los datos. Porque no quieres esas consecuencias no deseadas de trasladar algo a partir de datos que en realidad no lo son, ya sabes, todos hablamos de las alucinaciones que los LLM públicos pueden tener. Por lo tanto, un LLM tiene valor porque, ya sabes, ya ha dado varios pasos adelante en términos de su capacidad para interactuar en el idioma inglés. Pero es realmente fundamental que comprenda que tiene datos que representan lo que desea que genere el modelo y luego, incluso después de haber entrenado su modelo, continuar probándolo y evaluándolo para asegurarse de que esté generando el tipo de resultado. eso que quieres. El riesgo en la atención médica es que se pueda perder algo en ese proceso.
Creo que la mayoría de los clientes de atención médica serán muy cuidadosos y prudentes acerca de lo que están haciendo y gravitarán primero hacia aquellos casos de uso en los que tal vez, en lugar de ofrecer esa experiencia de ensueño y personalizada al paciente, el primer paso podría ser crear un sistema que permite a las personas que interactúan actualmente con los pacientes y miembros poder hacerlo con mucha mejor información frente a ellos.