Los sistemas de procesamiento del lenguaje natural (PLN) han dependido durante mucho tiempo de modelos de lenguaje preentrenados (PLM) para una variedad de tareas, incluido el reconocimiento de voz, el procesamiento de metáforas, el análisis de sentimientos, la extracción de información y la traducción automática. Con los avances recientes, los PLM están cambiando rápidamente y los nuevos desarrollos muestran que pueden funcionar como sistemas independientes. Se ha logrado un gran avance en este enfoque con el desarrollo de modelos de lenguaje grandes (LLM) por parte de OpenAI, como GPT-4, que han mostrado un rendimiento mejorado en tareas de PNL, así como en materias como biología, química y pruebas médicas. Una nueva era de posibilidades ha comenzado con Med-PaLM 2 de Google, que está diseñado específicamente para el sector médico y ha alcanzado un rendimiento de nivel “experto” en conjuntos de datos de preguntas médicas.
Los LLM tienen el poder de revolucionar la industria de la salud al mejorar la eficacia y eficiencia de numerosas aplicaciones. Estos modelos pueden ofrecer análisis profundos y respuestas a preguntas médicas, ya que tienen un conocimiento profundo de las ideas y terminologías médicas. Pueden ayudar con las interacciones con los pacientes, el apoyo a las decisiones clínicas e incluso la interpretación de imágenes médicas. Los LLM también tienen ciertos inconvenientes, incluido el requisito de cantidades sustanciales de datos de capacitación y la posibilidad de que se propaguen sesgos en esos datos.
En una investigación reciente, un equipo de investigadores encuestó sobre las capacidades de los LLM en atención médica. Es necesario contrastar estos dos tipos de modelos lingüísticos para comprender la mejora significativa de los PLM a los LLM. Aunque los PLM son componentes fundamentales, los LLM tienen una gama más amplia de capacidades que les permiten producir respuestas cohesivas y conscientes del contexto en contextos de atención médica. En el cambio de PLM a LLM se puede observar un cambio de enfoques de IA discriminativos, en los que los modelos categorizan o pronostican eventos, a enfoques de IA generativos, en los que los modelos producen respuestas basadas en el lenguaje. Este cambio resalta aún más el paso de enfoques centrados en modelos a enfoques centrados en datos.
Hay muchos modelos diferentes en el mundo LLM, cada uno de ellos adecuado para una determinada especialidad. Los modelos notables que han sido diseñados especialmente para la industria de la salud incluyen HuatuoGPT, Med-PaLM 2 y Visual Med-Alpaca. HuatuoGPT, por ejemplo, hace preguntas para involucrar activamente a los pacientes, mientras que Visual Med-Alpaca trabaja con expertos visuales para realizar tareas como la interpretación de imágenes radiológicas. Debido a su multiplicidad, los LLM pueden abordar una variedad de problemas relacionados con la atención médica.
El conjunto de capacitación, las técnicas y las estrategias de optimización utilizadas tienen un impacto significativo en el desempeño de los LLM en aplicaciones de atención médica. La encuesta explora los elementos técnicos de la creación y optimización de LLM para su uso en entornos médicos. Existen cuestiones prácticas y éticas con el uso de LLM en entornos sanitarios. Es fundamental garantizar la justicia, la responsabilidad, la apertura y la ética al utilizar LLM. Las solicitudes de atención médica deben estar libres de prejuicios, seguir pautas morales y dar justificaciones claras para sus respuestas, especialmente cuando se trata de atención al paciente.
Las principales contribuciones han sido resumidas por el equipo de la siguiente manera.
- Se ha compartido una ruta de transición de PLM a LLM, proporcionando actualizaciones sobre nuevos desarrollos.
- Se ha centrado la atención en reunir materiales de capacitación, herramientas de evaluación y recursos de datos para los LLM en la industria de la salud y en ayudar a los investigadores médicos a elegir los mejores LLM para sus necesidades individuales.
- Se han examinado cuestiones morales, incluidas la imparcialidad, la equidad y la apertura.
Revisar la Papel. Todo el crédito por esta investigación va a los investigadores de este proyecto. Además, no olvides unirte. nuestro SubReddit de 31k+ ML, Comunidad de Facebook de más de 40.000 personas, Canal de discordia, y Boletín electrónicodonde compartimos las últimas noticias sobre investigaciones de IA, interesantes proyectos de IA y más.
Si te gusta nuestro trabajo, te encantará nuestra newsletter.
También estamos en WhatsApp. Únase a nuestro canal de IA en Whatsapp.