¿Hasta qué punto puede ser racional un sistema artificial?
Un nuevo curso del MIT, 6.S044/24.S00 (IA y racionalidad), no busca responder a esta pregunta. En cambio, desafía a los estudiantes a explorar este y otros problemas filosóficos a través de la lente de la investigación de la IA. Para la próxima generación de académicos, los conceptos de racionalidad y agencia podrían resultar integrales en la toma de decisiones de la IA, especialmente cuando están influenciados por la forma en que los humanos entienden sus propios límites cognitivos y sus puntos de vista subjetivos y restringidos sobre lo que es o no es racional.
Esta investigación tiene sus raíces en una profunda relación entre la informática y la filosofía, que han colaborado durante mucho tiempo para formalizar lo que significa formar creencias racionales, aprender de la experiencia y tomar decisiones racionales en pos de los propios objetivos.
“Se podría imaginar que la informática y la filosofía están bastante alejadas, pero siempre se han cruzado. Las partes técnicas de la filosofía realmente se superponen con la IA, especialmente la IA temprana”, dice la instructora del curso Leslie Kaelbling, profesora Panasonic de Ciencias de la Computación e Ingeniería en el MIT, recordando a Alan Turing, que era a la vez científico informático y filósofo. La propia Kaelbling tiene una licenciatura en filosofía de la Universidad de Stanford y señaló que la informática no estaba disponible como especialidad en ese momento.
Brian Hedden, profesor del Departamento de Lingüística y Filosofía, que ocupa un puesto compartido en la Facultad de Computación Schwarzman del MIT con el Departamento de Ingeniería Eléctrica y Ciencias de la Computación (EECS), que imparte la clase con Kaelbling, señala que las dos disciplinas están más alineadas de lo que la gente podría imaginar, y agrega que las “diferencias están en el énfasis y la perspectiva”.
Herramientas para un mayor pensamiento teórico
Ofrecido por primera vez en el otoño de 2025, Kaelbling y Hedden crearon AI and Rationality como parte de Common Ground for Computing Education, una iniciativa transversal del MIT Schwarzman College of Computing que reúne a varios departamentos para desarrollar e impartir nuevos cursos y lanzar nuevos programas que combinan la informática con otras disciplinas.
Con más de dos docenas de estudiantes registrados, IA y Racionalidad es una de las dos clases de Common Ground con una base en filosofía, la otra es 6.C40/24.C40 (Ética de la Computación).
Mientras que Ética de la Computación explora las preocupaciones sobre los impactos sociales del rápido avance de la tecnología, IA y Racionalidad examina la definición controvertida de racionalidad considerando varios componentes: la naturaleza de la agencia racional, el concepto de un agente completamente autónomo e inteligente, y la adscripción de creencias y deseos a estos sistemas.
Debido a que la IA es extremadamente amplia en su implementación y cada caso de uso plantea diferentes cuestiones, Kaelbling y Hedden intercambiaron ideas sobre temas que podrían proporcionar una discusión y un compromiso fructíferos entre las dos perspectivas de la informática y la filosofía.
“Cuando trabajo con estudiantes que estudian aprendizaje automático o robótica, es importante que retrocedan un poco y examinen las suposiciones que están haciendo”, dice Kaelbling. “Pensar las cosas desde una perspectiva filosófica ayuda a las personas a retroceder y comprender mejor cómo situar su trabajo en el contexto real”.
Ambos instructores enfatizan que este no es un curso que brinde respuestas concretas a preguntas sobre lo que significa diseñar un agente racional.
Hedden dice: “Considero que el curso construye sus cimientos. No les estamos dando un cuerpo de doctrina para aprender, memorizar y luego aplicar. Los estamos equipando con herramientas para pensar sobre las cosas de manera crítica a medida que inician las carreras que han elegido, ya sea en investigación, industria o gobierno”.
El rápido progreso de la IA también presenta una nueva serie de desafíos en el mundo académico. Predecir lo que los estudiantes necesitarán saber dentro de cinco años es algo que Kaelbling considera una tarea imposible. “Lo que tenemos que hacer es darles las herramientas a un nivel superior (los hábitos mentales, las formas de pensar) que les ayudarán a abordar las cosas que realmente no podemos anticipar en este momento”, dice.
Combinando disciplinas y cuestionando suposiciones
Hasta ahora, la clase ha atraído a estudiantes de una amplia gama de disciplinas, desde aquellos firmemente arraigados en la informática hasta otros interesados en explorar cómo la IA se cruza con sus propios campos de estudio.
A lo largo de las lecturas y debates del semestre, los estudiantes lidiaron con diferentes definiciones de racionalidad y cómo rechazaban los supuestos en sus campos.
Sobre lo que la sorprendió del curso, Amanda Paredes Rioboo, estudiante de último año en EECS, dice: “Nos enseñan que las matemáticas y la lógica son el estándar de oro o la verdad. Esta clase nos mostró una variedad de ejemplos de cómo los humanos actúan de manera inconsistente con estos marcos matemáticos y lógicos. Abrimos toda esta lata de gusanos en cuanto a si son los humanos los que son irracionales? ¿Son los sistemas de aprendizaje automático que diseñamos los que son irracionales? ¿Son las matemáticas y la lógica en sí?”.
Junior Okoroafor, estudiante de doctorado en el Departamento de Ciencias Cognitivas y del Cerebro, apreció los desafíos de la clase y las formas en que la definición de agente racional podría cambiar según la disciplina. “Representar lo que cada campo entiende por racionalidad en un marco formal deja claro exactamente qué supuestos deben compartirse y cuáles fueron diferentes en todos los campos”.
La estructura colaborativa y de enseñanza conjunta del curso, como ocurre con todos los esfuerzos de Common Ground, brindó a los estudiantes y a los instructores oportunidades de escuchar diferentes perspectivas en tiempo real.
Para Paredes Rioboo, este es su tercer curso Common Ground. Ella dice: “Me gusta mucho el aspecto interdisciplinario. Siempre me han parecido una buena combinación de teoría y aplicación, por el hecho de que necesitan abarcar campos”.
Según Okoroafor, Kaelbling y Hedden demostraron una sinergia obvia entre campos y dijeron que sentían como si estuvieran participando y aprendiendo junto con la clase. La forma en que se pueden utilizar la informática y la filosofía para informarse mutuamente le permitió comprender sus puntos en común y sus invaluables perspectivas sobre temas que se cruzan.
Y añade: “la filosofía también tiene una manera de sorprenderte”.