En medio de los beneficios que ofrecen la toma de decisiones algorítmicas y la inteligencia artificial, incluida la velocidad de revolucionar, la eficiencia y la capacidad predictiva en una amplia gama de campos, Manish Raghavan está trabajando para mitigar los riesgos asociados, al tiempo que busca oportunidades para aplicar las tecnologías para ayudar a prexistir preocupaciones sociales.
“En última instancia, quiero que mi investigación impulse hacia mejores soluciones a problemas sociales de larga data”, dice Raghavan, el profesor de desarrollo profesional de Drew Houston que es un miembro de la facultad compartida entre la MIT Sloan School of Management y la Facultad de Computación del MIT Schwarzman en la computación en el Departamento de Ingeniería Eléctrica e Ciencias de la Computación, así como un investigador principal en el Laboratorio de Sistemas de Información y Decisión (LIDS).
Un buen ejemplo de la intención de Raghavan se puede encontrar en su exploración del uso de IA en la contratación.
Raghavan dice: “Es difícil argumentar que las prácticas de contratación históricamente han sido particularmente buenas o que valen la pena preservar, y las herramientas que aprenden de los datos históricos heredan todos los sesgos y errores que los humanos han cometido en el pasado”.
Aquí, sin embargo, Raghavan cita una oportunidad potencial.
“Siempre ha sido difícil medir la discriminación”, dice, y agrega, “los sistemas impulsados por la IA a veces son más fáciles de observar y medir que los humanos, y un objetivo de mi trabajo es comprender cómo podríamos aprovechar esta visibilidad mejorada para encontrar Nuevas formas de averiguar cuándo los sistemas se comportan mal “.
Al crecer en el área de la Bahía de San Francisco con padres que tienen títulos en informática, Raghavan dice que originalmente quería ser médico. Sin embargo, justo antes de comenzar la universidad, su amor por las matemáticas y la informática lo llamó para seguir su ejemplo de su familia en ciencias de la computación. Después de pasar un verano como estudiante universitario que investiga en la Universidad de Cornell con Jon Kleinberg, profesor de informática y ciencias de la información, decidió que quería ganar su doctorado allí, escribiendo su tesis sobre “los impactos sociales de la toma de decisiones algorítmicas”.
Raghavan ganó premios por su trabajo, incluido un Premio al Programa de Becas de Investigación de Graduados de la Fundación Nacional de Ciencias, una beca de doctorado de Microsoft Research y el Premio al Doctorado del Departamento de Ciencias de la Computación de la Universidad de Cornell.
En 2022, se unió a la facultad del MIT.
Tal vez escuchando su interés temprano en la medicina, Raghavan ha investigado sobre si las determinaciones de una herramienta de detección algorítmica altamente precisa utilizada en el triaje de pacientes con sangrado gastrointestinal, conocida como el puntaje (GBS) de Glasgow-Blatchford, se mejoran con expertos complementarios con expertos complementarios. consejo médico.
“El GBS es más o menos tan bueno como los humanos en promedio, pero eso no significa que no haya pacientes individuales, o pequeños grupos de pacientes, donde el GBS está equivocado y es probable que los médicos tengan razón”, dice. “Nuestra esperanza es que podamos identificar a estos pacientes con anticipación para que los comentarios de los médicos sean particularmente valiosos allí”.
Raghavan también ha trabajado en cómo las plataformas en línea afectan a sus usuarios, considerando cómo los algoritmos de redes sociales observan el contenido que el usuario elige y luego les muestran más de ese mismo tipo de contenido. La dificultad, dice Raghavan, es que los usuarios pueden estar eligiendo lo que ven de la misma manera que podrían tomar una bolsa de papas fritas, que, por supuesto, son deliciosas pero no tan nutritivas. La experiencia puede ser satisfactoria en el momento, pero puede hacer que el usuario se sienta ligeramente enfermo.
Raghavan y sus colegas han desarrollado un modelo de cómo un usuario con deseos conflictivos, para una satisfacción inmediata versus un deseo de satisfacción a más largo plazo, interactúa con una plataforma. El modelo demuestra cómo se puede cambiar el diseño de una plataforma para alentar una experiencia más saludable. El modelo ganó el Premio al Documento de Track de Modelado Aplicado en la Conferencia de la Asociación de Machinería de Machinería de 2022 sobre Economía y Computación.
“La satisfacción a largo plazo es en última instancia importante, incluso si todo lo que le importa es los intereses de una empresa”, dice Raghavan. “Si podemos comenzar a generar evidencia de que los intereses de los usuarios y las corporativas están más alineados, espero que podamos presionar por plataformas más saludables sin necesidad de resolver conflictos de intereses entre usuarios y plataformas. Por supuesto, esto es idealista. Pero mi sentido es que suficientes personas en estas compañías creen que hay espacio para que todos sean más felices, y simplemente carecen de las herramientas conceptuales y técnicas para que esto suceda “.
Con respecto a su proceso de idear ideas para tales herramientas y conceptos sobre cómo aplicar mejor las técnicas computacionales, Raghavan dice que sus mejores ideas llegan a él cuando ha estado pensando en un problema de vez en cuando por un tiempo. Aconsejaría a sus alumnos, dice, que sigan su ejemplo de poner un problema muy difícil durante un día y luego volver a él.
“Las cosas a menudo son mejores al día siguiente”, dice.
Cuando no está desconcertando un problema o enseñanza, Raghavan a menudo se puede encontrar al aire libre en un campo de fútbol, como entrenador del Harvard Men’s Soccer Club, un puesto que aprecia.
“No puedo postergar si sé que tendré que pasar la noche en el campo, y me da algo que esperar al final del día”, dice. “Trato de tener cosas en mi horario que parezcan al menos tan importantes para mí como el trabajo para poner esos desafíos y contratiempos en contexto”.
Como Raghavan considera cómo aplicar tecnologías computacionales para servir mejor a nuestro mundo, dice que encuentra lo más emocionante que va en su campo es la idea de que AI abrirá nuevas ideas sobre los “humanos y la sociedad humana”.
“Espero”, dice, “que podemos usarlo para entendernos mejor a nosotros mismos”.