La vida en DeepMind
Avishkar Bhoopchand, ingeniero de investigación del equipo de Teoría de juegos y agentes múltiples, comparte su viaje hacia DeepMind y cómo está trabajando para elevar el perfil del aprendizaje profundo en África.
Encuentra mas sobre Aprendizaje profundo Indaba 2022la reunión anual de la comunidad africana de IA, que tendrá lugar en Túnez en agosto.
¿Cómo es un día típico en el trabajo?
Como ingeniero de investigación y líder técnico, ningún día es igual. Normalmente comienzo el día escuchando un podcast o un audiolibro mientras camino a la oficina. Después del desayuno, me concentro en los correos electrónicos y en la administración antes de comenzar mi primera reunión. Estos varían desde reuniones individuales con miembros del equipo y actualizaciones de proyectos hasta grupos de trabajo de diversidad, equidad e inclusión (DE&I).
Intento sacar tiempo para mi lista de tareas pendientes por la tarde. Estas tareas podrían implicar preparar una presentación, leer artículos de investigación, escribir o revisar código, diseñar y ejecutar experimentos o analizar resultados.
Cuando trabajo desde casa, ¡mi perro Finn me mantiene ocupada! Enseñarle es muy parecido al aprendizaje por refuerzo (RL), como entrenar agentes artificiales en el trabajo. Entonces, paso gran parte de mi tiempo pensando en el aprendizaje profundo o el aprendizaje automático de una forma u otra.
¿Cómo te interesaste por la IA?
Durante un curso sobre agentes inteligentes en la Universidad de Ciudad del Cabo, mi profesor hizo una demostración de un robot de seis patas que había aprendido a caminar desde cero usando RL. A partir de ese momento no pude dejar de pensar en la posibilidad de utilizar mecanismos humanos y animales para construir sistemas capaces de aprender.
En ese momento, la aplicación y la investigación del aprendizaje automático no eran realmente una opción profesional viable en Sudáfrica. Como muchos de mis compañeros de estudios, terminé trabajando en la industria financiera como ingeniero de software. Aprendí mucho, especialmente sobre el diseño de sistemas robustos a gran escala que cumplan con los requisitos del usuario. Pero después de seis años quería algo más.
Por entonces, el aprendizaje profundo comenzó a despegar. Primero comencé a hacer cursos en línea como el de Andrew Ng. conferencias de aprendizaje automático en Coursera. Poco después, tuve la suerte de conseguir una beca para el University College London, donde obtuve mi maestría en estadística computacional y aprendizaje automático.
¿Cuál es su participación en Deep Learning Indaba?
Más allá de DeepMind, también soy un orgulloso organizador y miembro del comité directivo de Aprendizaje profundo Indaba, un movimiento para fortalecer el aprendizaje automático y la inteligencia artificial en África. Comenzó en 2017 como una escuela de verano en Sudáfrica. Esperábamos que unos 30 estudiantes se reunieran para aprender sobre el aprendizaje automático, pero para nuestra sorpresa, ¡recibimos más de 700 solicitudes! Fue sorprendente verlo y mostró claramente la necesidad de conexión entre investigadores y profesionales en África.
Desde entonces, la organización se ha convertido en una celebración anual de la IA africana con más de 600 asistentes y eventos locales de IndabaX celebrados en casi 30 países africanos. También contamos con becas de investigación, premios de tesis y programas complementarios, incluido un programa de tutoría, que comencé durante la pandemia para mantener a la comunidad comprometida.
En 2017, no hubo publicaciones con un autor africano, basadas en una institución africana, presentadas en NeurIPS, la conferencia líder en aprendizaje automático. Los investigadores de IA en todo el continente africano trabajaban en silos; algunos incluso tenían colegas trabajando en el mismo tema en otra institución más adelante y no lo sabían. A través de Indaba, hemos construido una comunidad próspera en el continente y nuestros alumnos han formado nuevas colaboraciones, publicando artículos en NeurIPS y en todas las conferencias importantes.
Muchos miembros consiguieron trabajos en las principales empresas de tecnología, formaron nuevas empresas emergentes en el continente y lanzaron otros increíbles proyectos de inteligencia artificial de base en África. Aunque organizar la Indaba requiere mucho trabajo duro, vale la pena ver los logros y el crecimiento de la comunidad. Siempre salgo de nuestro evento anual sintiéndome inspirado y listo para afrontar el futuro.
¿Qué te trajo a DeepMind?
DeepMind era la empresa de mis sueños para trabajar, pero no creía que tuviera ninguna posibilidad. De vez en cuando he luchado contra el síndrome del impostor: cuando estoy rodeado de personas inteligentes y capaces, es fácil compararse en un solo eje y sentirse como un impostor. Afortunadamente, mi maravillosa esposa me dijo que no tenía nada que perder al presentar la solicitud, así que envié mi CV y finalmente recibí una oferta para un puesto de ingeniero de investigación.
Mi experiencia previa en ingeniería de software realmente me ayudó a prepararme para este puesto, ya que podía apoyarme en mis habilidades de ingeniería para el trabajo diario mientras desarrollaba mis habilidades de investigación. No conseguir el trabajo soñado de inmediato no significa que la puerta a esa carrera esté cerrada para siempre.
¿De qué proyectos estás más orgulloso?
Recientemente trabajé en un proyecto sobre cómo dar a los agentes artificiales la capacidad de transmisión cultural en tiempo real. La transmisión cultural es una habilidad social que poseen los humanos y ciertos animales, que nos da la capacidad de aprender información al observar a otros. Es la base de la evolución cultural acumulativa y el proceso responsable de expandir nuestras habilidades, herramientas y conocimientos a través de múltiples generaciones.
En este proyecto, entrenamos agentes artificiales en un entorno simulado en 3D para observar a un experto realizando una nueva tarea, luego copiar ese patrón y recordarlo. Ahora que hemos demostrado que la transmisión cultural es posible en agentes artificiales, es posible utilizar la evolución cultural para ayudar a generar inteligencia artificial general (AGI).
Esta fue la primera vez que trabajé en RL a gran escala. Este trabajo combina el aprendizaje automático y las ciencias sociales, y tenía mucho que aprender en el ámbito de la investigación. A veces, el progreso hacia nuestro objetivo también fue lento, ¡pero al final lo logramos! Pero realmente estoy muy orgulloso de la cultura increíblemente inclusiva que teníamos como equipo de proyecto. Incluso cuando las cosas eran difíciles, sabía que podía contar con el apoyo de mis colegas.
¿Formas parte de algún grupo de pares en DeepMind?
He estado muy involucrado en una serie de iniciativas de diversidad, equidad e inclusión (DE&I). Creo firmemente que la DE&I en el lugar de trabajo conduce a mejores resultados y, para crear IA para todos, debemos tener representación de un conjunto diverso de voces.
Soy facilitador de un taller interno sobre el concepto de alianza, que consiste en utilizar la propia posición de privilegio y poder para desafiar el status quo en apoyo de personas de grupos marginados. Participo en varios grupos de trabajo que tienen como objetivo mejorar la inclusión comunitaria entre los ingenieros de investigación y la diversidad en la contratación. También soy mentor en el Programa de becas DeepMindque tiene asociaciones en África y otras partes del mundo.
¿Qué impacto espera que pueda tener el trabajo de DeepMind?
Estoy particularmente entusiasmado con las posibilidades de que la IA tenga un impacto positivo en la medicina, especialmente para comprender y tratar mejor las enfermedades. Por ejemplo, las afecciones de salud mental como la depresión afectan a cientos de millones de personas en todo el mundo, pero parece que tenemos una comprensión limitada de los mecanismos causales detrás de ellas y, por lo tanto, opciones de tratamiento limitadas. Espero que en un futuro no muy lejano, los sistemas generales de IA puedan trabajar en conjunto con expertos humanos para desbloquear los secretos de nuestras mentes y ayudarnos a comprender y curar estas enfermedades.