Cómo garantizar que beneficiemos a la sociedad con la tecnología de mayor impacto que se está desarrollando actualmente
Como director de operaciones de uno de los laboratorios de inteligencia artificial más importantes del mundo, dedico mucho tiempo a pensar en cómo nuestras tecnologías impactan la vida de las personas y en cómo podemos garantizar que nuestros esfuerzos tengan un resultado positivo. Este es el foco de mi trabajo y el mensaje fundamental que transmito cuando me reúno con líderes mundiales y figuras clave de nuestra industria. Por ejemplo, estuvo al frente del panel de discusión sobre ‘Equidad a través de la tecnología’ que organicé esta semana en la foro Economico Mundial en Davos, Suiza.
Inspirado por las importantes conversaciones que tuvieron lugar en Davos sobre la construcción de un mundo mejor, más justo y más verde, quería compartir algunas reflexiones sobre mi propio viaje como líder tecnológico, junto con algunas ideas sobre cómo en DeepMind estamos abordando el desafío de construir tecnología que realmente beneficie a la comunidad global.
En 2000, me tomé un año sabático de mi trabajo en Intel para visitar el orfanato en el Líbano donde se crió mi padre. Durante dos meses, trabajé para instalar 20 PC en el primer laboratorio de computación del orfanato y para capacitar a los estudiantes y profesores en su uso. El viaje comenzó como una forma de honrar a mi papá. Pero estar en un lugar con una infraestructura técnica tan limitada también me dio una nueva perspectiva de mi propio trabajo. Me di cuenta de que sin un esfuerzo real por parte de la comunidad tecnológica, muchos de los productos que estaba creando en Intel serían inaccesibles para millones de personas. Me volví muy consciente de cómo esa brecha en el acceso estaba exacerbando la desigualdad; aun cuando las computadoras resolvían problemas y aceleraban el progreso en algunas partes del mundo, otras se estaban quedando aún más rezagadas.
Después de ese primer viaje al Líbano, comencé a reevaluar mis prioridades profesionales. Siempre quise ser parte de la construcción de tecnología innovadora. Pero cuando regresé a los EE. UU., mi atención se centró en ayudar a desarrollar tecnología que pudiera tener un impacto positivo y duradero en la sociedad. Eso me llevó a desempeñar una variedad de funciones en la intersección de la educación y la tecnología, incluida la cofundación Equipo4Techuna organización sin fines de lucro que trabaja para mejorar el acceso a la tecnología para estudiantes en países en desarrollo.
Cuando me uní a DeepMind como director de operaciones en 2018, lo hice en gran parte porque me di cuenta de que los fundadores y el equipo tenían el mismo enfoque en el impacto social positivo. De hecho, en DeepMind ahora defendemos un término que captura perfectamente mis propios valores y esperanzas de integrar la tecnología en la vida diaria de las personas: pionero responsablemente.
Creo que ser pionero de manera responsable debería ser una prioridad para cualquiera que trabaje en tecnología. Pero también reconozco que es especialmente importante cuando se trata de tecnologías poderosas y generalizadas como la inteligencia artificial. Podría decirse que la IA es la tecnología de mayor impacto que se está desarrollando en la actualidad. tiene el potencial para beneficiar a la humanidad de innumerables maneras: desde combatir el cambio climático hasta prevenir y tratar enfermedades. Pero es esencial que tengamos en cuenta sus impactos posteriores positivos y negativos. Por ejemplo, necesitamos diseñar sistemas de IA cuidadosa y cuidadosamente para evitar amplificar los prejuicios humanoscomo en los contextos de contratación y vigilancia.
La buena noticia es que si cuestionamos continuamente nuestras propias suposiciones sobre cómo se puede y se debe construir y utilizar la IA, podemos construir esta tecnología de una manera que realmente beneficie a todos. Esto requiere invitar a la discusión y el debate, iterar a medida que aprendemos, incorporar salvaguardias sociales y técnicas y buscar perspectivas diversas. En DeepMind, todo lo que hacemos surge de la misión de nuestra empresa de resolver inteligencia para hacer avanzar la sociedad y beneficiar a la humanidad, y construir una cultura de pioneros de manera responsable es esencial para hacer realidad esta misión.
¿Cómo se ve en la práctica ser pionero de forma responsable? Creo que comienza con la creación de espacios para conversaciones abiertas y honestas sobre la responsabilidad dentro de una organización. Un lugar donde hemos hecho esto en DeepMind es en nuestro grupo de liderazgo multidisciplinario, que asesora sobre los riesgos potenciales y el impacto social de nuestra investigación.
Desarrollar nuestra gobernanza ética y formalizar este grupo fue una de mis primeras iniciativas cuando me uní a la empresa y, en un movimiento algo poco convencional, no le di un nombre ni siquiera un objetivo específico hasta que nos reunimos varias veces. Quería que nos centráramos en los aspectos operativos y prácticos de la responsabilidad, comenzando con un espacio libre de expectativas en el que todos pudieran hablar con franqueza sobre lo que significaba para ellos ser pionero y responsable. Esas conversaciones fueron fundamentales para establecer una visión compartida y una confianza mutua, lo que nos permitió tener debates más abiertos en el futuro.
Otro elemento de ser pionero de manera responsable es adoptar una kaizen Filosofía y enfoque. Conocí el término kaizen en la década de 1990, cuando me mudé a Tokio para trabajar en estándares de tecnología de DVD para Intel. Es una palabra japonesa que se traduce como “mejora continua” y, en el sentido más simple, un proceso kaizen es aquel en el que pequeñas mejoras incrementales, realizadas continuamente a lo largo del tiempo, conducen a un sistema más eficiente e ideal. Pero lo que realmente importa es la mentalidad detrás del proceso. Para que el kaizen funcione, todos los que tocan el sistema deben estar atentos a las debilidades y oportunidades de mejora. Eso significa que todos deben tener la humildad para admitir que algo podría estar roto y el optimismo para creer que pueden cambiarlo para mejor.
Durante mi tiempo como director de operaciones de la empresa de aprendizaje en línea Coursera, utilizamos un enfoque kaizen para optimizar la estructura de nuestros cursos. Cuando me uní a Coursera en 2013, los cursos en la plataforma tenían plazos estrictos y cada curso se ofrecía solo unas pocas veces al año. Rápidamente aprendimos que esto no proporcionaba suficiente flexibilidad, por lo que cambiamos a un formato completamente bajo demanda y a su propio ritmo. La inscripción aumentó, pero las tasas de finalización disminuyeron; resulta que, si bien demasiada estructura es estresante e inconveniente, muy poca lleva a que las personas pierdan la motivación. Así que volvimos a cambiar a un formato en el que las sesiones del curso comienzan varias veces al mes y los alumnos trabajan para alcanzar los objetivos semanales sugeridos. Llevó tiempo y esfuerzo llegar allí, pero la mejora continua finalmente condujo a una solución que permitió a las personas beneficiarse plenamente de su experiencia de aprendizaje.
En el ejemplo anterior, nuestro enfoque kaizen fue en gran medida efectivo porque pedimos comentarios a nuestra comunidad de estudiantes y escuchamos sus inquietudes. Esta es otra parte crucial de ser pionero de manera responsable: reconocer que no tenemos todas las respuestas y construir relaciones que nos permitan aprovechar continuamente los aportes externos.
Para DeepMind, eso a veces significa consultar con expertos en temas como seguridad, privacidad, bioética y psicología. También puede significar llegar a diversas comunidades de personas que se ven directamente afectadas por nuestra tecnología e invitarlas a debatir sobre lo que quieren y necesitan. Y a veces, significa simplemente escuchar a las personas en nuestras vidas –independientemente de su formación técnica o científica– cuando hablan de sus esperanzas para el futuro de la IA.
Fundamentalmente, ser pionero de manera responsable significa priorizar iniciativas centradas en la ética y el impacto social. Un área de interés cada vez mayor en nuestra investigación en DeepMind es cómo podemos hacer que los sistemas de IA sean más equitativos e inclusivos. En los últimos dos años, hemos publicado investigaciones sobre IA descolonial, justicia queer en la IA, mitigar los riesgos éticos y sociales en los modelos de lenguaje de IA, y más. Al mismo tiempo, también estamos trabajando para aumentar la diversidad en el campo de la IA a través de nuestro dedicado programas de becas. Internamente, recientemente comenzamos a organizar sesiones de la Comunidad de IA Responsable que reúnen a diferentes equipos y esfuerzos que trabajan en seguridad, ética y gobernanza, y varios cientos de personas se han inscrito para participar.
Me inspira el entusiasmo por este trabajo entre nuestros empleados y estoy profundamente orgulloso de todos mis colegas de DeepMind que mantienen el impacto social en primer plano. Si nos aseguramos de que la tecnología beneficie a quienes más la necesitan, creo que podemos lograr avances reales en los desafíos que enfrenta nuestra sociedad hoy. En ese sentido, ser pionero de manera responsable es un imperativo moral y, personalmente, no se me ocurre una mejor manera de avanzar.