Graficar redes neuronales: detección de fraude y predicción de funciones de proteínas | de Meghan Heintz | noviembre de 2024

Los métodos tradicionales basados ​​en reglas y de aprendizaje automático a menudo operan en una sola transacción o entidad. Esta limitación no tiene en cuenta cómo se conectan las transacciones a la red más amplia. Dado que los estafadores suelen operar en múltiples transacciones o entidades, el fraude puede pasar desapercibido.

Al analizar un gráfico, podemos capturar dependencias y patrones entre vecinos directos y conexiones más distantes. Esto es crucial para detectar el lavado de dinero cuando los fondos se mueven a través de múltiples transacciones para ocultar su origen. Los GNN iluminan los densos subgrafos creados por los métodos de lavado.

Ejemplo de una red de transferencias de partes relacionadas desde Uso de GNN para detectar fraude financiero basado en la red de transacciones con partes relacionadas

Marcos de paso de mensajes

Al igual que otros métodos de aprendizaje profundo, el objetivo es crear una representación o incrustación del conjunto de datos. En las GNN, estas incorporaciones de nodos se crean utilizando un marco de paso de mensajes. Los mensajes pasan entre nodos de forma iterativa, lo que permite que el modelo aprenda la estructura local y global del gráfico. La incorporación de cada nodo se actualiza en función de la agregación de las características de sus vecinos.

Una generalización del marco funciona de la siguiente manera:

  • Inicialización: Incrustaciones hv(0) se inicializan con incrustaciones basadas en características sobre el nodo, incrustaciones aleatorias o incrustaciones previamente entrenadas (por ejemplo, la incrustación de palabras del nombre de la cuenta).
  • Paso de mensaje: En cada capa tlos nodos intercambian mensajes con sus vecinos. Los mensajes se definen como características del nodo emisor, características del nodo destinatario y características del borde que los conecta combinadas en una función. La función de combinación puede ser una concatenación simple con un esquema de peso fijo (utilizado por Graficar redes convolucionalesGCN) o ponderado por atención, donde los pesos se aprenden en función de las características del remitente y del destinatario (y, opcionalmente, características periféricas) (utilizadas por Redes de atención gráficaGAT).
  • Agregación: Después del paso de paso del mensaje, cada nodo agrega los mensajes recibidos (tan simples como media, máximo, suma).
  • Actualizar: Luego, los mensajes agregados actualizan la incrustación del nodo a través de una función de actualización (potencialmente MLP (perceptrones multicapa) como ReLU, GRU (unidades recurrentes cerradas) o mecanismos de atención).
  • Finalización: Las incrustaciones finalizan, al igual que otros métodos de aprendizaje profundo, cuando las representaciones se estabilizan o se alcanza un número máximo de iteraciones.
Actualización de la representación de nodos en una capa de red neuronal de paso de mensajes (MPNN). El nodo recibe mensajes enviados por todos sus vecinos inmediatos a . Los mensajes se calculan a través de la función de mensaje, que tiene en cuenta las características tanto del remitente como del receptor. Red neuronal gráfica. (2024, 14 de noviembre). En Wikipedia. https://en.wikipedia.org/wiki/Graph_neural_network

Una vez que se conocen las incorporaciones de nodos, se puede calcular una puntuación de fraude de diferentes maneras:

  • Clasificación: donde la incorporación final se pasa a un clasificador como un perceptrón multicapa, que requiere un conjunto de entrenamiento histórico etiquetado completo.
  • Detección de anomalías: donde la incrustación se clasifica como anómala en función de qué tan distinta es de las demás. Aquí se pueden utilizar puntuaciones basadas en la distancia o errores de reconstrucción para un enfoque no supervisado.
  • Puntuación a nivel de gráfico: donde las incrustaciones se agrupan en subgrafos y luego se introducen en clasificadores para detectar anillos de fraude. (nuevamente se requiere un conjunto de datos históricos de etiquetas)
  • Propagación de etiquetas: Un enfoque semisupervisado en el que la información de la etiqueta se propaga en función de los pesos de los bordes o la conectividad del gráfico y realiza predicciones para nodos sin etiquetar.

Ahora que tenemos una comprensión fundamental de los GNN para un problema familiar, podemos pasar a otra aplicación de los GNN: predecir las funciones de las proteínas.

Hemos visto grandes avances en la predicción del plegamiento de proteínas mediante AlphaFold 2 y 3 y diseño de proteínas mediante RFDifusión. Sin embargo, la predicción de la función de las proteínas sigue siendo un desafío. La predicción de funciones es vital por muchas razones, pero es particularmente importante en bioseguridad para predecir si el ADN será partenogénico antes de la secuenciación. Métodos tradicionales como EXPLOSIÓN Confíe en la búsqueda de similitud de secuencia y no incorpore ningún dato estructural.

Hoy en día, los GNN están comenzando a lograr avances significativos en esta área al aprovechar las representaciones gráficas de proteínas para modelar las relaciones entre los residuos y sus interacciones. Se consideran muy adecuados para la predicción de la función de las proteínas, así como para identificar sitios de unión para moléculas pequeñas u otras proteínas y clasificar familias de enzimas según la geometría del sitio activo.

En muchos ejemplos:

  • Los nodos se modelan como residuos de aminoácidos.
  • bordes como las interacciones entre ellos

La razón detrás de este enfoque es la capacidad inherente de un gráfico para capturar interacciones de largo alcance entre residuos que están distantes en la secuencia pero cercanos en la estructura plegada. Esto es similar a por qué la arquitectura del transformador fue tan útil para AlphaFold 2, que permitió el cálculo en paralelo en todos los pares de una secuencia.

Para que la información del gráfico sea densa, cada nodo se puede enriquecer con características como el tipo de residuo, las propiedades químicas o las puntuaciones de conservación evolutiva. Opcionalmente, los bordes se pueden enriquecer con atributos como el tipo de enlaces químicos, la proximidad en el espacio 3D y las interacciones electrostáticas o hidrofóbicas.

DeepFRI es un enfoque GNN para predecir funciones de proteínas a partir de la estructura (específicamente una red convolucional de gráficos (GCN)). Un GCN es un tipo específico de GNN que extiende la idea de convolución (utilizada en las CNN) para graficar datos.

Diagrama DeepFRI: modelo de lenguaje LSTM, previamente entrenado en ~2 millones de secuencias de proteínas Pfam, utilizado para extraer características a nivel de residuos de la secuencia PDB. (B) GCN con 3 capas convolucionales gráficas para aprender relaciones complejas entre estructura y función. de Predicción de funciones basada en estructuras mediante redes convolucionales gráficas

En DeepFRI, cada residuo de aminoácido es un nodo enriquecido con atributos como:

  • el tipo de aminoácido
  • propiedades fisicoquímicas
  • información evolutiva de la MSA
  • incrustaciones de secuencias de un LSTM previamente entrenado
  • contexto estructural como la accesibilidad a los disolventes.

Cada borde se define para capturar las relaciones espaciales entre los residuos de aminoácidos en la estructura de la proteína. Existe un borde entre dos nodos (residuos) si su distancia está por debajo de un cierto umbral, normalmente 10 Å. En esta aplicación, no hay atributos para los bordes, que sirven como conexiones no ponderadas.

El gráfico se inicializa con incorporaciones de secuencias generadas por LSTM de características de nodos junto con características específicas de residuos e información de bordes creada a partir de un mapa de contacto de residuos.

Una vez definido el gráfico, el paso de mensajes se produce a través de convoluciones basadas en adyacencia en cada una de las tres capas. Las características de los nodos se agregan a partir de los vecinos mediante la matriz de adyacencia del gráfico. Apilar múltiples capas de GCN permite que las incrustaciones capturen información de vecindarios cada vez más grandes, comenzando con vecinos directos y extendiéndose a vecinos de vecinos, etc.

Las incorporaciones de nodos finales se agrupan globalmente para crear una incorporación a nivel de proteína, que luego se utiliza para clasificar las proteínas en clases funcionales jerárquicamente relacionadas (términos GO). La clasificación se realiza pasando las incorporaciones a nivel de proteína a través de capas completamente conectadas (capas densas) con funciones de activación sigmoidea, optimizadas mediante una función de pérdida de entropía cruzada binaria. El modelo de clasificación se entrena con datos derivados de estructuras de proteínas (por ejemplo, del Protein Data Bank) y anotaciones funcionales de bases de datos como UniProt o Gene Ontology.

  • Los gráficos son útiles para modelar muchos sistemas no lineales.
  • Las GNN capturan relaciones y patrones que los métodos tradicionales luchan por modelar incorporando información tanto local como global.
  • Hay muchas variaciones de GNN, pero las más importantes (actualmente) son las redes convolucionales de gráficos y las redes de atención de gráficos.
  • Las GNN pueden ser eficientes y eficaces a la hora de identificar las relaciones de múltiples saltos presentes en los esquemas de lavado de dinero utilizando métodos supervisados ​​y no supervisados.
  • Los GNN pueden mejorar las herramientas de predicción de la función de proteínas basadas únicamente en secuencias, como BLAST, mediante la incorporación de datos estructurales. Esto permite a los investigadores predecir las funciones de nuevas proteínas con una similitud de secuencia mínima con las conocidas, un paso fundamental para comprender las amenazas a la bioseguridad y permitir el descubrimiento de fármacos.

Saludos y si te gustó esta publicación, mira mis otros artículos sobre Aprendizaje automático y biología.