Estoy pasando estos días en el trabajo, siento que a veces se sorprenden cuando digo “construir clasificadores CatBoost” o “instalar bosques de aislamiento”. Pero esto es, de hecho, a lo que dedico gran parte de mi tiempo a hacer. El producto de mi empresa es una plataforma sofisticada de inteligencia artificial, pero no hago mucha ingeniería rápida en mi día a día.
Si me hubieran preguntado hace uno o dos años, me habría preocupado seriamente el futuro del trabajo de ML clásico en el campo del aprendizaje automático, porque nos estábamos adentrando mucho en un paradigma de uso de LLM para manejar cosas, ya sea que hicieran un buen trabajo o no. Sin embargo, resulta que la IA agente necesita el aprendizaje automático clásico mucho más de lo que probablemente pensábamos.
Para un resumen rápido en caso de que los lectores no estén familiarizados:
Un agente de IA significa combinar LLM y otras herramientas de software para crear flujos de trabajo con una intervención humana mínima o nula, orquestando cualquier cantidad de modelos o herramientas. El LLM suele ser la interfaz entre los usuarios humanos y todas las demás herramientas de software, incluidas tareas como traducir indicaciones humanas al lenguaje informático. El LLM también interpreta los resultados de las herramientas y elige qué herramientas llamar en los momentos apropiados. Esto permite muchas más funciones que un LLM por sí solo, porque como he hablado aquí muchas veces, un LLM es solo un modelo generador de tokens, que predice la siguiente palabra o frase en un pasaje según su contexto. Aparte de los agentes autónomos, se requiere combinar una interfaz LLM con otras herramientas para hacer una gran cantidad de cosas que coloquialmente pensamos que hacen los chatbots LLM. ChatGPT, Gemini y Claude hacen este tipo de cosas, encadenando la interfaz LLM con cosas como recuperación de datos, búsqueda web, calculadoras matemáticas, etc.
Como puede ver, un aspecto clave de todo el ecosistema de IA agente son las herramientas: su agente necesita tener acceso a herramientas para completar de manera efectiva tareas fuera de las funciones principales de LLM.
Estas herramientas pueden tomar todo tipo de formas; muchas de ellas hoy en día en el entorno empresarial son herramientas de organización y recuperación de datos, bases de datos de gráficos, bases de conocimiento RAG, construcción y validación de consultas, etc.
Por qué el aprendizaje automático clásico
Sin embargo, quiero recordarle que los modelos clásicos de ML también pueden ser herramientas realmente valiosas para su agente. ¡Vaya un paso más allá de simplemente llamar a herramientas rudimentarias y brinde a sus agentes de IA modelos para usar! Por ejemplo, considere un agente diseñado para el análisis inmobiliario. Si desea conocer el precio de mercado adecuado para una propiedad, proporcione la dirección a su agente. Puede utilizar una herramienta de recuperación API para recuperar detalles sobre la propiedad y luego pasar esos detalles formateados a un modelo de regresión que genera una estimación de precio.
Por supuesto, en teoría se podría pedirle al LLM que simplemente estime los valores por sí mismo. Sin embargo, esto es cuestionable e incluso arriesgado por varias razones.
Precisión: un LLM es particularmente malo para cualquier tarea en la que necesite calcular un número significativo: es adivinar, no hacer un cálculo empírico basado en evidencia. Un modelo de ML clásico bien entrenado será mucho más preciso y confiable. Interpretabilidad: tiene una interpretabilidad y explicabilidad mínimas a partir de las adivinanzas del LLM. Sabemos que los LLM tienden a ser una caja negra, y esto restringe severamente su capacidad para evaluar el camino que tomó para llegar a la estimación que recibió. Con un modelo de ML clásico, puede identificar las decisiones tomadas para llegar a su inferencia y validarlas con su experiencia en la materia. Costo: ejecutar un LLM se vuelve costoso muy rápidamente (consulte mis artículos de los últimos meses sobre los costos de los tokens). Si tiene muchos casos en los que trabajar, los precios de los tokens se volverán significativos rápidamente. Ejecutar un clasificador o un modelo de regresión es increíblemente liviano y económico, incluso en grandes volúmenes. Además, en un LLM no se controla el costo de cada llamada, y el uso y el gasto de tokens pueden aumentar; ya lo estamos viendo en toda la industria tecnológica. Precisión: usted no controla la capacitación o el ajuste del LLM (a menos que esté ajustando un modelo básico). Puede confiar en el LLM genérico para hacer el trabajo, pero está asumiendo un gran riesgo y, como se mencionó anteriormente, validar el trabajo es extremadamente difícil. Por otro lado, ajustar un modelo básico podría ser efectivo, pero requiere muchos más datos y habilidades más especializadas que simplemente entrenar una regresión o un clasificador, y al mismo tiempo deja problemas de interpretabilidad. Control de sus datos: sus datos pueden salir de su entorno controlado y ser accedidos por un proveedor externo de modelos LLM, lo que puede generar riesgos. Control de la infraestructura: con un LLM, no tienes ninguna autoridad sobre la gestión de la infraestructura, por lo que el tiempo de inactividad de terceros crea un riesgo para tu negocio.
Por supuesto, construir un modelo clásico requiere habilidades diferentes a las de simplemente asignar a un LLM una tarea. Debe comprender bien sus datos, estar preparado para completar la ingeniería de funciones con experiencia en la materia y tener suficiente computación y datos para entrenar el modelo. Si no tiene datos etiquetados, estará limitado al aprendizaje no supervisado o quizás a iniciar sus propias etiquetas. Afortunadamente, existe una gran cantidad de contenido sobre cómo construir estos modelos, así como también sobre cómo evaluarlos rigurosamente y monitorearlos después de su implementación.
Conectando su modelo a su agente
Es posible que esté convencido de intentarlo, pero antes de comenzar, también hay algunas opciones arquitectónicas a considerar. ¿Cómo interactuarán su modelo y su agente?
Llamadas Directas
Quizás la forma más rápida de comenzar a ejecutarlo sea simplemente dejar que el agente tenga el modelo como herramienta para llamar directamente. Esta es la forma de mi ejemplo de herramienta de investigación inmobiliaria: el agente puede seleccionar un modelo para realizar una inferencia justo a tiempo basándose en un mensaje. Para configurar esto, su agente de IA debe estar equipado para formatear correctamente sus solicitudes según el modelo clásico. Su agente debe comprender para qué sirve este modelo, cuándo llamarlo y cuándo usar otra cosa. Esto significa documentar claramente el propósito y las capacidades del modelo, pero si ya está creando IA agente, esta es una tarea familiar.
En el resultado, la respuesta de su modelo debe estructurarse de tal manera que el agente de IA pueda procesarla de manera efectiva. Es posible que simplemente devolver un resultado numérico no funcione, porque el agente necesitará información contextual para interpretarlo y aprovecharlo al máximo. Para mis modelos, suelo utilizar cadenas f para construir descripciones de texto como parte de la inferencia, indicando, por ejemplo, cuáles fueron las características más importantes del modelo, cuál es la probabilidad del resultado, etc. Simplemente devolver una probabilidad limita la capacidad de su agente para interpretar el resultado y producir una respuesta útil para el usuario final.
Acceso a la base de datos
Otra opción es hacer que el modelo no sea una herramienta directa del agente, sino un proveedor de datos contextuales. Puede precalcular las inferencias ejecutando su modelo de aprendizaje automático clásico como un trabajo programado y almacenar estas inferencias en cualquier solución de almacenamiento de datos a la que tenga acceso su agente. En lugar de que el agente realice una llamada de inferencia inicial directamente a una API modelo, escribe una consulta y la pasa a su base de datos.
Si tiene un conjunto finito de casos para los que podría necesitar completar la inferencia, esta puede ser una buena solución. Por ejemplo, si tiene 500 personas en su base de datos y su agente debe recuperar información sobre su salud financiera, puede usar un modelo de calificación crediticia y calcular previamente su solvencia para que el agente la recupere en tiempo de ejecución junto con cualquier otro dato que recopile. Dependiendo de la infraestructura de su modelo, esto puede reducir la latencia y la repetición al almacenar en caché los resultados de manera efectiva.
Este enfoque crea requisitos diferentes para la llamada y recuperación que la llamada directa a la herramienta. Si está calculando previamente las inferencias y simplemente poniéndolas a disposición de su agente a través de la base de datos, su agente necesitará saber que estos resultados existen. Si desconoce que la tabla o el contenido están disponibles, no los utilizará cuando sea apropiado. Es posible que ya tenga la infraestructura para decirle al agente qué contiene la base de datos en su solicitud de ingeniería, si su agente llama a la base de datos para obtener otra información, por lo que reutilizarla puede evitar duplicar esfuerzos. De lo contrario, es posible que su agente necesite herramientas específicas que pueda utilizar para revisar los metadatos de la base de datos.
En lo que respecta al formato de los resultados, los requisitos son similares a los del caso del acceso directo a la herramienta. Tener una descripción de los resultados basada en texto es una buena opción, porque el agente debe poder interpretar lo que recupera, independientemente de la fuente.
Conclusión
Los modelos de aprendizaje automático clásicos fueron capacidades de vanguardia en muchas industrias diferentes durante más de una década antes de que aparecieran los LLM, brindando a las personas información sobre los datos que de otro modo no podrían haber obtenido. Esta facultad no debe descartarse, sino que puede combinarse con las capacidades de los LLM. Podemos aprovechar las fortalezas del LLM, convirtiendo el lenguaje humano en lenguaje de computadora, uniendo diferentes llamadas a herramientas y recuperando resultados de esas herramientas, y aún usar modelos clásicos dentro de este marco para hacer el trabajo para el cual un LLM no es apropiado.
La barrera de entrada es el conjunto de habilidades para crear modelos de ML clásicos de alta calidad, que desafortunadamente no es tan glamoroso como algunos de los trabajos relacionados con la IA en estos días. Sin embargo, vale la pena el esfuerzo debido a las ventajas: exactitud, precisión, interpretabilidad, costo y control. Recomiendo que los profesionales mejoren sus habilidades con herramientas como XGBoost, LightGBM y scikit-learn para que vean estos resultados por sí mismos.
Lea más de mi trabajo en www.stephaniekirmer.com.
Lectura adicional
https://arxiv.org/pdf/2602.14295
https://github.com/Tejas-TA/predikit
https://arxiv.org/pdf/2506.20430
Introducción al paquete Python: documentación de xgboost 3.3.0
Este documento ofrece un tutorial básico del paquete xgboost para Python. El paquete Python consta de 3…xgboost.readthedocs.io
Introducción al paquete Python: documentación de LightGBM 4.6.0.99
Este documento ofrece un recorrido básico del paquete LightGBM Python. Lista de otros enlaces útiles La forma preferida de…lightgbm.readthedocs.io
Tutoriales |
CatBoost está bien cubierto con materiales educativos para estudiantes de máquinas y científicos de datos tanto principiantes como avanzados… catboost.ai
Empezando
Scikit-learn es una biblioteca de aprendizaje automático de código abierto que admite el aprendizaje supervisado y no supervisado. También…scikit-learn.org
Aprenda tutoriales intermedios de aprendizaje automático
Maneje valores faltantes, valores no numéricos, fuga de datos y más.www.kaggle.com
forwarddatascience.com/tool-calling-explained-how-ai-agents-decide-what-to-do-next/
forwarddatascience.com/ai-agents-explained-what-is-a-react-loop-and-how-does-it-work/