Una vista panorámica del álgebra lineal: sistemas de ecuaciones, regresión lineal y redes neuronales |  de Rohit Pandey |  diciembre de 2023

La humilde multiplicación de matrices junto con su inversa es casi exclusivamente lo que sucede en muchos modelos simples de ML.

Imagen de mitad de viaje

Este es el cuarto capítulo del libro en progreso sobre álgebra lineal, “Una vista panorámica del álgebra lineal”. El índice hasta el momento:

  1. Capítulo-1: Los conceptos básicos
  2. Capitulo 2: La medida de un mapa: determinantes
  3. Capítulo 3: ¿Por qué la multiplicación de matrices es así?
  4. Capítulo-4 (actual): Sistemas de ecuaciones, regresión lineal y redes neuronales

Todas las imágenes de este blog, a menos que se indique lo contrario, son del autor.

Los modelos de IA modernos aprovechan espacios vectoriales de alta dimensión para codificar información. Y el La herramienta que tenemos para razonar sobre espacios de alta dimensión y asignaciones entre ellos es el álgebra lineal.

Y dentro de ese campo, la multiplicación de matrices (junto con su inversa) es literalmente todo lo que necesita para construir muchos modelos simples de aprendizaje automático de principio a fin. Por eso, dedicar tiempo a comprenderlo realmente bien es una gran inversión. Y esto es lo que hicimos en Capítulo 3.

Estos modelos simples, útiles por sí mismos, forman los componentes básicos de modelos de aprendizaje automático e inteligencia artificial más complejos con un rendimiento de última generación.

Cubriremos algunas de estas aplicaciones (desde regresión lineal hasta redes neuronales elementales) en este capítulo.

Pero primero, debemos ir al caso más simple del modelo más simple: cuando el número de puntos de datos es igual al número de parámetros del modelo. El caso de la resolución de un sistema de ecuaciones lineales.

Finalmente hemos llegado (en el contexto de este libro) al corazón del álgebra lineal. Resolver sistemas de ecuaciones lineales es como descubrimos el álgebra lineal en primer lugar y las motivaciones para la mayoría de los conceptos en este campo tienen raíces profundas en esta aplicación.

Empecemos de forma simple y unidimensional. El concepto de división tiene sus raíces en uno…