Lauren Leffer: La predicción es poderosa. Desde que la gente piensa en el futuro, hemos intentado predecirlo. Y, en algunas áreas, hemos mejorado bastante (piense en la meteorología y los modelos climáticos).
Tulika Bosé: Pero científicamente hablando, todavía estamos bastante lejos de las bolas de cristal y los oráculos. Hay muchas cosas que la gente no tiene una forma confiable de pronosticar, a pesar de lo que pueda sugerir su horóscopo.
Leffer: Absolutamente. Pero… ¿y si la inteligencia artificial pudiera acercarnos más que nunca a ese reino fantástico/sobrenatural de la adivinación? ¿Qué pasaría si, por ejemplo, un modelo de IA pudiera pronosticar con precisión la muerte de una persona?
Bosé: ¡¿Esperar lo?!
Leffer: Sí. Suena aterrador, ¿verdad?
Bosé: Ah, sí.
Leffer: – y podría serlo, pero probablemente no por las razones que esperas. Soy Lauren Leffer, becaria de reportajes técnicos de Scientific American.
Bosé: Soy Tulika Bose, editora multimedia senior.
Leffer: Y estás escuchando el podcast Science, Quickly de Scientific American.
[INTRO MUSIC]
Leffer: Entonces, Tulika, muerte… todos lo haremos algún día, pero si pudieras saber cuándo vas a morir, ¿te gustaría saberlo?
Bosé: Eh no, no, no, no.
Leffer: Ni siquiera me dejaste terminar la pregunta.
Bosé: Sí, no quiero saberlo.
Leffer: Sí, yo tampoco, parece un caso obvio de TMI.
bosé: ¡Sí! Con seguridad.
Leffer: Pero la naturaleza intrínsecamente inquietante de “una calculadora de IA que escupe predicciones de muerte” no impidió que los investigadores desarrollaran precisamente eso. La herramienta se llama life2vec y fue descrita en un estudio publicado a finales del año pasado.
Bosé: ¿Y es realmente un widget de IA que dice cuándo vas a morir?
Leffer: Más o menos. Si y no. Life2vec no es sólo un predictor de muerte. Es mucho más general que solo pronósticos de mortalidad. Puede ofrecer más que eso. Una GRAN ADVERTENCIA: es difícil saber exactamente qué tan precisas son sus predicciones en este momento; nadie afirma que la herramienta pueda predecir definitivamente la muerte de una persona individual. ¿También está entrenado en un conjunto de datos muy específico, es decir, uno que contiene información sobre los residentes de Dinamarca? Por lo tanto, no puede ofrecer predicciones significativas sobre nadie que no sea danés.
Bosé: Ok, todo eso es una especie de alivio. ¿Pero podemos volver a lo “más general”? ¿Qué más puede predecir?
Leffer: Sí, quizás sea un gran problema para los daneses. Pero además de pronosticar la mortalidad durante un período de cuatro años, los desarrolladores también probaron la capacidad de su herramienta para predecir las respuestas de las personas a un cuestionario de personalidad.
Bosé: Interesante –
Leffer – y pronosticar si alguien haría un movimiento internacional. En estas tres pruebas, life2vec pareció funcionar bastante bien, con mayor precisión que otros métodos de predicción con los que lo compararon los investigadores. Para la prueba de muerte, alrededor del 78% de precisión, para mudarse al extranjero, alrededor del 73%.
Bosé: Vaya.
Leffert: Pero nuevamente, es difícil saber exactamente qué significa aquí precisión.
Bosé: Espera, ¿la calculadora de muertes también podría predecir rasgos de personalidad y si las personas vivirían en el extranjero? ¿Cómo? ¿Cómo se relacionan algunas de esas cosas?
Leffer: Demos un paso atrás. Life2vec es un modelo de aprendizaje automático, lo que básicamente significa que es un gran programa informático creado para detectar patrones en conjuntos de datos muy grandes. Los investigadores construyeron este modelo y lo entrenaron con toneladas de información recopilada por el gobierno sobre millones de personas que viven en Dinamarca. Tenían historial laboral, datos demográficos básicos y también información sobre casi todas las interacciones entre las personas y el sistema médico danés, porque Dinamarca tiene atención médica universal.
Bosé: Vaya, eso debe ser bonito.
Leffer: Realmente. De todos modos, los investigadores tomaron todos estos datos de cada persona y los organizaron en líneas de tiempo. El modelo life2vec se alimentó con todas estas líneas de tiempo y se entrenó para detectar patrones entre los diferentes eventos que aparecen en la vida de una persona. Ya sabes, ¿cómo se relacionan la ubicación y el salario? ¿Sobreviven las personas diagnosticadas con determinadas enfermedades? ¿Las personas con determinadas profesiones tienden a vivir más tiempo?
Bosé: ¿Las personas con determinadas trayectorias profesionales tienen ciertos rasgos de personalidad?
Leffer: Exactamente. Así es como se puede pasar de algo como información demográfica a un cuestionario de personalidad.
Bosé: Eso es muy interesante.
Leffer: A partir de ahí, los investigadores podrían pedir a las versiones del modelo que hicieran predicciones basadas en esos plazos. Lo más interesante de life2vec no es sólo que hace estas predicciones (nuevamente lo hemos estado haciendo desde siempre), sino cómo lo hace. Es un tipo de modo que se utiliza habitualmente para chatbots y procesamiento de lenguaje. Básicamente funciona como un autocompletado mejorado.
Bosé: Espera, ¿entonces las predicciones de muerte aquí están “completando automáticamente” la vida de alguien?
Leffer: Ésa es una forma de decirlo. Le da al modelo la línea de tiempo del evento de vida, le hace una pregunta específica y predice el siguiente paso relevante en la línea de tiempo, según el mensaje. A veces eso significa predecir la muerte.
Bosé: Ah, vale, sí. Esto suena como un episodio de Black Mirror. El autocompletado de tu teléfono comienza a escupir mensajes del tipo “morirás en siete días”.
Leffer: Lánzale eso a Netflix.
Bosé: Estoy en ello. Podemos ser coautores. Hace un momento, seguías dudando de la precisión de life2vec, ¿a qué se debía eso?
Leffer: Sí, hablé con algunos expertos en estadística y modelos de vida sobre esto y ninguno de ellos estaba muy convencido por esas cifras de más del 70 por ciento de precisión que los investigadores informaron en el estudio. Mi cita favorita provino de Christina Silcox, directora de salud digital del Centro Duke Margolis de Políticas de Salud. Le pregunté qué tan poderosas creía que eran las predicciones de mortalidad de life2vec y dijo, cito: “No dejaría mi trabajo e iría a las Bahamas basándome en esto”.
Bosé: Jaja, vale, ¿eso es una especie de quemadura?
Leffer: Es más bien una afirmación sobre lo difícil que es predecir algo como la muerte. Y para evaluar la precisión de algo tan nuevo, no hay nada obvio con qué comparar life2vec.
Bosé: ¿No puedes ver lo mejor que es que lanzar una moneda al aire o algo así?
Leffer: ¡No! Los datos y las estadísticas son confusos, particularmente en torno a la muerte, que es un evento poco común, si lo piensas bien. Sólo ocurre una vez en la vida de una persona y los jóvenes no suelen morir con mucha frecuencia. De hecho, si asumieras que todas las personas entre 25 y 50 habitantes de una población vivirían en un año determinado, ya serías un oráculo de muerte realmente preciso. Tendrías razón la mayor parte del tiempo.
Bosé: Ah, está bien, entonces debes descubrir qué significa ser realmente bueno prediciendo la muerte y luego comparar life2vec con eso.
Leffer: ¡Totalmente! Y eso es una especie de signo de interrogación.
Bosé: Entonces, ¿para qué podrías usar esto, sino para decirte cuándo es el momento de pasar al modo de vacaciones permanentes? Si realmente no sabemos qué tan bueno es, ¿cuál es el punto?
Leffer: Ooooh, está bien, hay muchos usos potenciales en el futuro, con más pruebas. Por un lado, el modelo podría ayudarnos a comprender el pronóstico de las enfermedades y los resultados de salud. Y desde un ángulo de sociología, puedes utilizar life2vec para descubrir prejuicios sociales ocultos, como vínculos inesperados entre la edad o el país de origen y el avance profesional.
Bosé: Todo eso suena teóricamente genial, pero estoy atrapado en la idea de que, en realidad, esto se usará de una manera mala y aterradora. Como castigar los crímenes al estilo Minority Report antes de que ocurran, ese tipo de cosas.
Leffer: ¡Es una preocupación válida!
Bosé: Gracias por validar.
Leffer: Jaja, por supuesto. Definitivamente existe un riesgo ético con una herramienta como esta. Los autores del estudio tuvieron cuidado de señalar todas las formas en que las leyes danesas de privacidad y antidiscriminación restringen el uso de life2vec. No será sólo una herramienta disponible gratuitamente. Los investigadores académicos y gubernamentales tendrán que solicitar su uso para fines específicos y luego tendrán la responsabilidad de proteger los datos de las personas.
Bosé: Genial, está bien, supongo que eso es mejor que nada.
Leffer: Sí, si te hace sentir mejor, el autor del estudio con el que hablé, Sune Lehmann, me dijo que trabajó en esta investigación porque confía en el gobierno danés, pero en los EE. UU., o en otro país sin una ley integral de privacidad de datos. – no se habría sentido tan cómodo.
Bosé: Sabes, como alguien que vive en los EE. UU., eso no me hace sentir mejor.
Leffer: Vale, justo. Luego, para duplicarlo y hacerte sentir peor: en cierto modo ya vivimos en una versión del aterrador mundo de Minority Report. En Estados Unidos, existe una vigilancia policial predictiva y jueces que toman decisiones sobre las sentencias con la ayuda de algoritmos de inteligencia artificial. En todos estos casos, el sesgo y la inexactitud son grandes problemas documentados que siguen apareciendo.
Bosé: Vaya. Y supongo que mientras hablamos de algoritmos, también están las redes sociales.
Leffer: Cierto, las empresas de tecnología recopilan muchísimos datos sobre los usuarios y ciertamente los utilizan para crear modelos predictivos de inteligencia artificial que ayuden a maximizar la participación o pronosticar lo que la gente comprará. La mayor diferencia entre los algoritmos de las empresas de tecnología, las herramientas de justicia penal y life2vec es que, para los dos primeros, hay muy poca transparencia. Para este último, los investigadores académicos quieren que el público y la comunidad científica comprendan cómo funciona la herramienta y qué puede hacer.
Bosé: Muy bien, sólido. Para luchar contra el sistema, supongo que hay que entenderlo.
Leffer: Sí, la esperanza de Lehmann es que un modelo transparente y flexible como life2vec estimule la conversación en una nueva dirección: podría hacer que las personas y los gobiernos comiencen a pensar en lo que es posible y lo que es correcto. Me dijo: “Espero que esto pueda ser parte de una discusión que nos ayude a avanzar en la dirección de la utopía y alejarnos de la distopía”.
Bosé: La utopía es realmente un gran objetivo, pero espero que tenga razón. También me conformaría con la no distopía. Honestamente.
Leffer: Yo también. Cualquier zona intermedia sería buena para mí.
Bosé: Estoy bien con eso.
Leffer: Es un objetivo elevado. Entonces Tulika, ¿qué hemos aprendido aquí? Te estoy haciendo una pequeña prueba.
Bosé: Esa Dinamarca parece genial.
Leffer: Jaja “A+” Pasaste la prueba.
[OUTRO MUSIC]
Leffer: Science Quickly está producida por Jeff DelViscio, Tulika Bose, Kelso Harper y Carin Leong. Nuestro programa está editado por Elah Feder y Alexa Lim. Nuestro tema musical fue compuesto por Dominic Smith.
Bosé: No olvide suscribirse a Science Quickly dondequiera que obtenga sus podcasts. Para obtener noticias y artículos científicos más detallados, visite ScientificAmerican.com. Y si te gusta el programa, ¡danos una calificación o reseña!
Leffer: Para Science Quickly de Scientific American, soy Lauren Leffer.
Bosé: Soy Tulika Bosé. ¡Hasta la próxima!