ROMA – En las salas decoradas con frescos donde los teólogos han debatido durante siglos, una pregunta claramente moderna resonó en todo el Vaticano esta semana: si las máquinas son cada vez más capaces de pensar, ¿quién las instruirá en ética?
Es una cita de un seminario que tuvo lugar dentro de los muros de la Ciudad del Vaticano, donde representantes de la Iglesia, tecnólogos y especialistas en ética se reunieron para discutir los posibles beneficios y riesgos de la inteligencia artificial. Al informar sobre el evento, Vatican News escribe que el seminario se centró en cómo crear “sistemas éticos” desde el principio, en lugar de tratar de abordar los problemas después del hecho. Informa que el obispo Paul Tighe, un veterano en cuestiones de ética digital, dijo a los desarrolladores que la dignidad de la persona humana debe incorporarse en la etapa de diseño. En otras palabras, no intentemos modernizar la moralidad como una ocurrencia tardía.
Vale la pena señalar, sin embargo, que el Vaticano no es ajeno a la IA. La Santa Sede se ha convertido en una defensora habitual de la necesidad de regular la IA –a medida que el contenido generado por ella llega a más y más aspectos de la vida– y los debates sobre lo que realmente podría ser factible en ese frente han ganado más fuerza en los últimos 12 meses, desde los pasillos de Silicon Valley hasta las legislaturas.
Tomemos como ejemplo las regulaciones de gran alcance de Europa. La muy promocionada Ley de IA de la Unión Europea clasificaría los sistemas de IA según su riesgo y prohibiría algunos, mientras que restringiría fuertemente otros. La propuesta es “una extralimitación masiva” o una base necesaria, dependiendo de a quién se le pregunte. Pero está motivado por el mismo temor que la Santa Sede acaba de resaltar: si implementamos estas cosas, no se podrán deshacer.
No son sólo los políticos y burócratas los que están preocupados. Los titanes de la tecnología también se han manifestado. El año pasado, líderes de la industria y científicos firmaron cartas abiertas diciendo que si no se gestiona, la IA podría ser mala para la sociedad, una idea impulsada en parte por el Centro para la Seguridad de la IA. Bien, tal vez eso fue hiperbólico. Pero cuando quienes toman las decisiones comienzan a gritar “fuego”, es natural levantar una ceja.
Pero el mensaje del Vaticano fue diferente. Menos fin del mundo, más centrado en lo humano. Los presentadores enfatizaron que la IA debe beneficiar a las personas, no cambiarlas silenciosamente. Lo cual es una distinción que puede perderse en la emoción de todo esto. Estamos tan ocupados mirando boquiabiertos lo que la IA puede hacer (escribir informes legales, detectar enfermedades, hacer películas enteras) que pasamos por alto si debería hacer estas cosas en primer lugar.
Luego está el impacto económico. El Foro Económico Mundial ha debatido en varias ocasiones cómo la IA puede no solo impactar en millones de empleos, sino también generar nuevos tipos de empleo, como los que aparecen en nuestro podcast habitual sobre IA y robótica. El futuro del trabajo no es sólo una idea, está a nuestras puertas. A veces patalea y a menudo pide que le dejen entrar.
En el evento de Roma, se dice que los asistentes debatieron los aspectos filosóficos del tema. ¿Cómo puede una máquina “tomar una decisión”? ¿Puede un algoritmo preservar la dignidad o debe ser un acto consciente? Profundo, hombre, pero requerido. Si la IA va a ser parte de la decisión de otorgarle un préstamo, llamarlo para una entrevista de trabajo o ponerlo en libertad condicional, entonces la ética no puede ser una ocurrencia tardía.
Diré esto: hay algo hermoso en este telón de fondo. El Vaticano, frecuentemente ridiculizado como la antítesis de la modernidad, quedó atrapado en medio de una de las transiciones tecnológicas más inherentemente desestabilizadoras que el mundo haya visto jamás. Es una señal de que las cuestiones de ética no pertenecen sólo a los tecnólogos. Nos pertenecen a todos.
Y tal vez esa sea la conclusión silenciosa del seminario de esta semana. El futuro de la IA se escribirá no sólo con código, no sólo con capital, no sólo con leyes y regulaciones, sino también con valores. Se hablará de ellos en las salas de reuniones, en las salas de conferencias y en las mesas. En lugares humanos y desordenados.
Las computadoras están aprendiendo. La pregunta es, ¿lo somos?