Las proteínas, máquinas moleculares esenciales evolucionadas durante miles de millones de años, realizan funciones críticas para sustentar la vida codificadas en sus secuencias y reveladas a través de sus estructuras tridimensionales. Decodificar sus mecanismos funcionales sigue siendo un desafío central en biología a pesar de los avances en las herramientas experimentales y computacionales. Si bien AlphaFold y modelos similares han revolucionado la predicción de estructuras, la brecha entre el conocimiento estructural y la comprensión funcional persiste, agravada por el crecimiento exponencial de secuencias de proteínas no anotadas. Las herramientas tradicionales se basan en similitudes evolutivas, lo que limita su alcance. Los modelos emergentes de lenguaje de proteínas son prometedores, ya que aprovechan el aprendizaje profundo para decodificar el “lenguaje” de proteínas, pero los datos de entrenamiento limitados, diversos y ricos en contexto limitan su eficacia.
Investigadores de la Universidad de Westlake y la Universidad de Nankai desarrollaron Evola, un modelo de lenguaje de proteínas multimodal de 80 mil millones de parámetros diseñado para interpretar los mecanismos moleculares de las proteínas a través del diálogo en lenguaje natural. Evola integra un modelo de lenguaje de proteínas (PLM) como codificador, un LLM como decodificador y un módulo de alineación, lo que permite predicciones precisas de la función de las proteínas. Capacitada con un conjunto de datos sin precedentes de 546 millones de pares de proteínas, preguntas y respuestas y 150 mil millones de tokens, Evola aprovecha la generación aumentada de recuperación (RAG) y la optimización de preferencias directas (DPO) para mejorar la relevancia y la calidad de la respuesta. Evola, evaluado utilizando el novedoso marco del Espacio de Respuesta Instruccional (IRS), proporciona conocimientos a nivel de expertos, lo que promueve la investigación en proteómica.
Evola es un modelo generativo multimodal diseñado para responder preguntas sobre proteínas funcionales. Integra conocimientos específicos de proteínas con LLM para obtener respuestas precisas y conscientes del contexto. Evola cuenta con un codificador de proteínas congeladas, un compresor y alineador de secuencia entrenable y un decodificador LLM previamente entrenado. Emplea DPO para realizar ajustes según las preferencias puntuadas por GPT y RAG para mejorar la precisión de la respuesta utilizando conjuntos de datos Swiss-Prot y ProTrek. Las aplicaciones incluyen anotación de funciones de proteínas, clasificación de enzimas, ontología de genes, localización subcelular y asociación de enfermedades. Evola está disponible en dos versiones: un modelo de 10B parámetros y un modelo de 80B parámetros aún en formación.
El estudio presenta Evola, un modelo avanzado de lenguaje de proteínas multimodal de 80 mil millones de parámetros diseñado para interpretar las funciones de las proteínas a través del diálogo en lenguaje natural. Evola integra un modelo de lenguaje de proteínas como codificador, un modelo de lenguaje grande como decodificador y un módulo intermedio para compresión y alineación. Emplea RAG para incorporar conocimiento externo y DPO para mejorar la calidad de la respuesta y refinar los resultados en función de las señales de preferencia. La evaluación utilizando el marco del IRS demuestra la capacidad de Evola para generar conocimientos precisos y contextualmente relevantes sobre las funciones de las proteínas, avanzando así en la investigación de la proteómica y la genómica funcional.
Los resultados demuestran que Evola supera a los modelos existentes en la predicción de la función de las proteínas y en tareas de diálogo en lenguaje natural. Evola fue evaluado en diversos conjuntos de datos y logró un rendimiento de vanguardia en la generación de respuestas precisas y sensibles al contexto a preguntas relacionadas con las proteínas. La evaluación comparativa con el marco del IRS reveló su alta precisión, interpretabilidad y relevancia de respuesta. El análisis cualitativo destacó la capacidad de Evola para abordar consultas funcionales matizadas y generar anotaciones de proteínas comparables al conocimiento curado por expertos. Además, los estudios de ablación confirmaron la eficacia de sus estrategias de entrenamiento, incluida la generación aumentada por recuperación y la optimización de preferencias directas, para mejorar la calidad de la respuesta y la alineación con los contextos biológicos. Esto establece a Evola como una herramienta sólida para la proteómica.
En conclusión, Evola es un modelo generativo de lenguaje proteico de 80 mil millones de parámetros diseñado para decodificar el lenguaje molecular de las proteínas. Utilizando el diálogo en lenguaje natural, une secuencias de proteínas, estructuras y funciones biológicas. La innovación de Evola radica en su entrenamiento en un conjunto de datos sintetizados por IA de 546 millones de pares de preguntas y respuestas de proteínas, que abarcan 150 mil millones de tokens, una escala sin precedentes. Al emplear DPO y RAG, se refina la calidad de la respuesta e integra el conocimiento externo. Evaluado mediante el IRS, Evola ofrece conocimientos de nivel experto, avanzando en la proteómica y la genómica funcional, al tiempo que ofrece una poderosa herramienta para desentrañar la complejidad molecular de las proteínas y sus funciones biológicas.
Verificar el Papel. Todo el crédito por esta investigación va a los investigadores de este proyecto. Además, no olvides seguirnos en Gorjeo y únete a nuestro Canal de telegramas y LinkedIn Grarriba. No olvides unirte a nuestro SubReddit de más de 60.000 ml.
🚨 PRÓXIMO SEMINARIO WEB GRATUITO SOBRE IA (15 DE ENERO DE 2025): Aumente la precisión del LLM con datos sintéticos e inteligencia de evaluación–Únase a este seminario web para obtener información práctica para mejorar el rendimiento y la precisión del modelo LLM y, al mismo tiempo, proteger la privacidad de los datos..
A Sana Hassan, pasante de consultoría en Marktechpost y estudiante de doble titulación en IIT Madras, le apasiona aplicar la tecnología y la inteligencia artificial para abordar los desafíos del mundo real. Con un gran interés en resolver problemas prácticos, aporta una nueva perspectiva a la intersección de la IA y las soluciones de la vida real.