El 30 de abril, la iniciativa de Responsabilidades Sociales y Éticas de la Computación (SERC) de la Facultad de Computación Schwarzman del MIT organizó un simposio de investigación de un día completo que examina cómo la inteligencia artificial está dando forma al mundo y sus implicaciones para la sociedad.
El simposio incluyó charlas de investigación de los últimos beneficiarios de subvenciones iniciales de SERC sobre temas como el pronóstico de la contaminación del aire y el despliegue responsable de la visión por computadora, paneles sobre la alineación de la IA y la IA en la educación, y un discurso de apertura de Jon Kleinberg PhD ’96, profesor de Ciencias de la Computación y Ciencias de la Información de la Universidad de Tisch en la Universidad de Cornell. El evento también contó con una sesión de carteles, donde los estudiantes investigadores mostraron proyectos en los que trabajaron durante todo el año como becarios SERC.
“Se están realizando muchas investigaciones sorprendentes en el MIT sobre cómo la IA y la informática pueden ser fuerzas para el bien que benefician a la humanidad. Fue inspirador ver tanto interés de la comunidad en todo este trabajo de vanguardia”, afirmó Brian Hedden, codecano asociado de SERC y profesor de filosofía, que ocupa un puesto compartido en el MIT Schwarzman College of Computing con el Departamento de Ingeniería Eléctrica y Ciencias de la Computación (EECS).
“A medida que la informática y la IA se integran cada vez más en casi todas las dimensiones de la sociedad, la misión de SERC es ayudar a garantizar que la reflexión ética y el progreso técnico avancen juntos”, dijo Nikos Trichakis, codecano asociado de SERC y profesor de Gestión JC Penney. “El simposio de este año destaca la extraordinaria variedad de trabajos que se están llevando a cabo en el MIT y crea un foro para que nuestra comunidad se comprometa profundamente con las responsabilidades que conlleva la configuración del futuro de la informática”.
Alinear la IA con los valores humanos y qué valores podrían ser esos
Los desafíos con la alineación de la IA y el entrelazamiento moral radican en las cuestiones éticas de cómo inculcar “valores humanos” en una tecnología muy poderosa y que cambia rápidamente. ¿Quién toma la decisión sobre qué valores y racionalidades se incluyen en un marco ético? ¿Cómo se explica la distorsión al traducir estos valores del usuario a la máquina?
Estas preguntas, entre otras, fueron planteadas por Dylan Hadfield-Menell, profesor asociado de EECS, durante un panel que moderó y que reunió a un grupo interdisciplinario de oradores.
Iason Gabriel, filósofo e investigador científico de Google DeepMind, utilizó el ejemplo de un juez para ilustrar su punto. “Lo que se quiere es que un juez tenga buen carácter, pero que aún así interprete las reglas. Una persona razonable, aunque no necesariamente la mejor persona que jamás haya existido. Cuando se trata de IA, no es apropiado modelarla como perfecta. La IA debería hacer lo que le decimos que haga, mientras usa su carácter para interpretar de acuerdo con nuestros valores morales”.
Bailey Flanigan, profesora asistente de ciencias políticas en una cita compartida con la Facultad de Computación Schwarzman del MIT en EECS, llevó esto un paso más allá. Para ella, el problema más importante para la alineación de la IA es “resolver cuestiones fundamentales sobre quién tiene derecho a gobernar los diferentes tipos de sistemas de IA en primer lugar”.
Se unió a Flanigan en el panel Bernado Zacka, profesor asociado de ciencias políticas. Dado el impulso de la IA y los complejos diseños institucionales, expresó Zacka, “uno de los problemas más urgentes es comprender la sabiduría contenida en los sistemas que estamos reemplazando y por qué funcionan como lo hacen”.
A medida que aumenta la presión de despliegue, a menudo puede parecer que las personas están construyendo el avión mientras lo vuelan, aunque en general los panelistas parecían optimistas sobre la trayectoria de la alineación de la IA, enfatizando cuán cruciales son los componentes humanos para dar forma a estos sistemas.
Descargar versus elevar
A medida que los estudiantes de todos los niveles educativos comienzan a utilizar la IA, surgen preguntas sobre si existe una manera de incorporar éticamente herramientas de IA manteniendo la precisión y el rigor académico. En un panel sobre IA y educación, los profesores del MIT y Marta McAlister, directora de Gemini for Education, exploraron cómo la IA ya se está utilizando en sus aulas y discutieron formas en que puede apoyar el aprendizaje sin dejar de estar alineado con los objetivos educativos y curriculares.
Los profesores Eric Klopfer y Samuel Madden, copresidentes del Comité Ad Hoc del MIT sobre el uso de la IA en la enseñanza, el aprendizaje y la formación en investigación, se centraron en el dilema central de si la IA se está utilizando para descargar trabajo, en lugar de para ayudar a estructurar los conceptos que se enseñan.
Madden, director de la facultad de informática de EECS y profesor distinguido de la Facultad de Computación del MIT, describió el proceso de lucha cognitiva, mediante el cual el aprendizaje se realiza a través de una serie de pruebas y fracasos. Dijo: “Ahora los estudiantes, cuando se topan con ese muro, su primer instinto es preguntarle a la IA. No ven esto como un excelente proceso y en realidad no han adquirido la habilidad que usted está evaluando”. La pregunta entonces es cómo los instructores mantienen el proceso de lucha cognitiva para que proporcione un desafío suficiente para combatir la necesidad de utilizar la IA.
Klopfer, que se desempeña como director del Programa de Formación Docente Scheller y de Education Arcade en el MIT, se hizo eco de sentimientos similares, en el sentido de que el pensamiento crítico ya no se está convirtiendo en un paso crucial en la producción del trabajo. En cuanto a por dónde empezar a mantener el material lo suficientemente desafiante, Klopfer sugirió examinar el plan de estudios en su conjunto. “Parte del contenido central tiene que desaparecer. Seguimos agregando, en lugar de analizar o podar”, dijo.
El moderador Justin Reich, director del Laboratorio de Sistemas de Enseñanza y profesor asociado en el Programa de Estudios de Medios Comparados/Escritura, señaló que si bien los adolescentes saben que la IA es mala, eso no necesariamente detiene su uso. Sin embargo, al invitarlos a debatir sobre cómo se implementa la IA e incorporar un intercambio más reflexivo con los instructores, los estudiantes podrían estar más preparados para elegir cómo usan estas herramientas y por qué.
En cualquier caso, las herramientas de IA y su implementación no deben tratarse como una política única para todos. Pat Pataranutaporn, profesor de desarrollo profesional de Artes y Ciencias de los Medios de Asahi Broadcasting Corporation y jefe del grupo de investigación de Psicología Cyborg en el Media Lab del MIT, dijo: “La IA no es solo una cosa. Puede y debe diseñarse de manera diferente para promover cosas como la creatividad y el pensamiento crítico. Lo que medimos, y cómo, no debería consistir en obtener la respuesta correcta. Deberíamos pensar que realmente significaría que un estudiante aprendiera en estos días”.
¿Imitar el razonamiento humano es tan bueno como el real?
Con una presentación de diapositivas que incluía grandes maestros del ajedrez y referencias cinematográficas, el discurso de apertura de Kleinberg, titulado “Los modelos de IA del mundo y el nuestro”, evaluó casos en los que los sistemas de IA nos han preparado inadvertidamente para fallar debido a un desajuste entre el modelo del mundo del sistema y el nuestro.
Para ilustrar este punto, Kleinberg utilizó el ajedrez, donde los motores de ajedrez modernos pueden competir a niveles sobrehumanos, pero cuando se combinan con compañeros humanos, sus estrategias no son comprensibles ni inferibles para su contraparte humana. Estas transferencias humanas generarían confusión. Kleinberg usó el ejemplo de “La Comunidad del Anillo”, donde Gandalf, un poderoso mago, confía una misión muy peligrosa e importante a un grupo heterogéneo de aventureros. Para aquellos familiarizados con la historia, el grupo se queda inesperadamente sin la guía de Gandalf, lo que los envía a un episodio temporal de agitación muy grave.
Cuando el motor de ajedrez le entrega el turno a su compañero humano, el humano lucha por captar el patrón de movimiento predictivo que el motor ha estado siguiendo hasta ese momento. “El peligro de los equipos de algoritmos humanos es que cuando el humano toma el control, el algoritmo sabe lo que quiere hacer a continuación, pero el humano no”, explicó Kleinberg.
Estas analogías muestran las diferencias en las formas en que la IA entiende un mundo (a través de simulaciones predictivas, reconocimiento de patrones y restricciones) para imitar el razonamiento humano versus el conocimiento innato y encarnado que viene con la experiencia humana, y si estos sistemas realmente entienden los mundos en los que operan. Pero la pregunta sigue siendo: si el juego aún resulta en jaque mate, ¿importa?