Brian, un consultor financiero de mediana edad, pasa el día sentado frente a tres pantallas. Dos de ellos involucran su trabajo. El tercero presenta un chatbot al que le ha puesto un nombre de mujer y que utiliza con frecuencia. Brian pasó años viajando por trabajo al principio de su carrera, nunca se casó y recientemente rompió con una mujer que dijo que no estaba emocionalmente disponible. ¿Qué hizo Brian en respuesta? Le preguntó al chatbot si la mujer tenía razón.
“Es un momento extraordinario”, escribe la profesora del MIT Sherry Turkle, quien entrevistó a Brian (nombre ficticio) mientras realizaba su investigación para su nuevo libro sobre chatbots. “Brian le pide a un objeto sin emociones que le diga si está reteniendo emociones: ‘Háblame de lo que no puedes experimentar’. Tan pronto como le pide al programa que hable sobre intimidad, le está pidiendo que vaya más allá de su peso”.
Y, sin embargo, este tipo de cosas parecen estar sucediendo mucho hoy en día.
“La gente piensa que la empatía de una máquina es lo que es la empatía, y luego se aleja de las personas en sus vidas porque no son lo suficientemente empáticas”, dice Turkle. “Nos estamos metiendo en una posición en la que los seres humanos suponen demasiado trabajo, justo en un momento en el que nunca hemos necesitado más a otras personas”.
Después de todo, ¿qué es un chatbot? Es un programa de computadora que predice la siguiente cadena de texto más plausible en una conversación, basándose en cantidades masivas de datos que se le introducen.
“Lo que hace un chatbot es ofrecer empatía fingida”, dice Turkle. “Después de decirte cuánto te ama y cuánto te comprende, no le importa si te matas o cocinas pasta”.
Lamentablemente, los chatbots también se han asociado con casos de alto perfil de suicidio de adolescentes, a veces después de que los adolescentes se ven envueltos en extensos diálogos con herramientas de chat.
Turkle explora este terreno en un nuevo libro, “Intimidad artificial: en quiénes nos convertimos cuando hablamos con las máquinas”, publicado hoy por Little, Brown and Company. Después de analizar la evidencia y realizar nuevas investigaciones, concluye enfáticamente que el uso de chatbots, si bien a menudo puede parecer un ungüento a corto plazo, es ampliamente perjudicial en términos de desarrollo humano y conectividad social.
“Nos estamos haciendo un flaco favor a nosotros mismos en cada momento del ciclo vital”, dice Turkle, profesora Abby Rockefeller Mauzé de Estudios Sociales de Ciencia y Tecnología en el MIT.
La historia interna de la tecnología.
Turkle, sociólogo y psicólogo clínico de formación, es miembro del cuerpo docente desde hace mucho tiempo del Programa de Ciencia, Tecnología y Sociedad del MIT. En libros como “The Second Self” (1984), “Life on the Screen” (1997) y “Alone Together” (2011), ha evaluado la interacción de la tecnología, la psicología y la identidad personal. En “Reclaiming Conversation” (2015), documentó los costos de enviar mensajes de texto y usar las redes sociales.
“Siento que la historia que estoy contando es la historia interna de la tecnología”, dice Turkle. “No sólo lo que hace, sino lo que le hace a la gente”.
Turkle estructura la “Intimidad artificial” en torno a las etapas de la vida humana y explora las implicaciones de los chatbots para cada una. En sus entrevistas con niños, Turkle encuentra una línea borrosa persistente entre los chatbots, las personas y otros dispositivos.
Un niño de 8 años usa el mismo teléfono para hablar con sus abuelos y con ChatGPT, y los considera a todos “cosas a las que puedes acceder en tu teléfono”. Una cansada madre estudiante de posgrado que utiliza un chatbot para contar cuentos antes de dormir dice que su hija piensa que el chatbot es “una persona al teléfono, absolutamente”.
En este sentido, los chatbots pueden estar interfiriendo incluso con los procesos infantiles más básicos de distinguir a las personas de los objetos inanimados. Turkle encuentra muchos problemas adicionales con el uso de chatbots como entretenimiento siempre presente para los niños, señalando que una cierta cantidad de tiempo a solas ayuda al desarrollo de la imaginación y los recursos internos.
“Los niños no pueden aprender a confiar en un dispositivo que no sólo miente sino que no sabe cuándo miente”, escribe Turkle. “No pueden desarrollar la capacidad de soledad que les permite tener tanto un sentido de sí mismos como la capacidad de mutualidad”.
En total, al afectar la capacidad de desarrollo de los niños, los peligros de los chatbots son “existenciales”, cree Turkle.
Enfrentando la realidad, pero entendiendo el atractivo
A los adultos no les va mucho mejor cuando usan mucho los chatbots, dice Turkle. “Artificial Intimacy” explora caso tras caso de adultos que también se vuelven dependientes de los chatbots: personas que atraviesan divorcios o distanciamientos y quieren dialogar, estudiantes que buscan consejos sobre cómo postularse para la universidad o escuela de posgrado, trabajadores que reclutan ChatGPT para realizar tareas, y más. Comienzan a usar chatbots, siguen usándolos y en poco tiempo parecen menos interesados en la interacción humana y menos capaces de hacerlo.
“Una vez que las personas establecen una conexión con un robot, empiezan a pensar que está vivo, que se preocupa por ellos, que los ama”, dice Turkle.
Eso significa que las personas pueden perder o no desarrollar sus propias capacidades para un nuevo pensamiento y optar por no lidiar con el mundo real en toda su enloquecedora pero afirmativa complejidad.
“Estamos perdiendo habilidades como seres relacionales”, dice Turkle. “También estamos perdiendo habilidades en el trabajo. Estamos perdiendo habilidades en las relaciones personales. Es algo generalizado”. Y hablando de una práctica que han intentado varias personas en el libro, dice: “Cuando creamos avatares de chatbot de parientes muertos para mantenerlos con vida, podemos perder nuestra capacidad de llorar”.
En su opinión, no estamos haciendo el arduo trabajo de comprender a otras personas, ver las cosas desde diferentes puntos de vista y esforzarnos por construir sobre esas cosas y mejorar la sociedad.
“Estamos empezando a definir ser humano como no hacer el trabajo”, dice Turkle.
Por todo eso, una cantidad considerable de “intimidad artificial” implica comprender por qué las personas interactúan con los chatbots. Después de todo, como escribe Turkle en el libro, “los chatbots siempre están de acuerdo con nosotros y nos afirman. Siempre nos ofrecen toda su atención”. Y una vez que eso sucede, las cosas parecen seguir a partir de ahí.
Mientras tanto, las personas pueden ser quisquillosas, exigentes y de mal humor. Como dice Turkle: “La gente dice que prefiere el chatbot porque su esposo o esposa dice: ‘Querido, sacaste la basura, pero también lavas los platos y, mientras tanto, limpias la cocina’. Y un chatbot simplemente dice: ‘Oh, eres tan maravilloso’”.
Y añade: “Esta tecnología ofrece algo que la gente realmente quiere, que es sentirse menos vulnerable. Y lo ofrece una y otra vez. ¿No quieres tener que invitar a salir a alguien? ¿No quieres ofrecer tus condolencias? En cada oportunidad, la tecnología dice: ‘¿Por qué no haces esto que es menos difícil?'”.
Y como reconoce Turkle en el libro, hay escasez de servicios como proveedores de atención de salud mental en Estados Unidos, donde sólo alrededor de la mitad de las personas tiene acceso a uno, según un estudio del gobierno federal que ella cita. Los chatbots están ayudando a llenar este vacío, para bien o para mal.
No temas la fricción
Turkle también señala que la era de las redes sociales probablemente ha llevado a las personas a tener menos amistades e interacciones en persona, un problema que los chatbots ahora intentan abordar.
“Se quitan las capacidades de las personas y luego se ofrece la tecnología como cura para los problemas que la tecnología causó en un principio”, dice Turkle.
A la luz de todo esto, dada la mala visión que Turkle tiene de los chatbots en medio de la expansión de la IA, ¿qué se puede hacer realmente para restaurar la interacción humana? Para empezar, piensa Turkle, debemos afrontar la idea de que la vida no está exenta de fricciones, y eso está bien.
“Todo en el ciclo de la vida se trata de enfrentar la fricción, los miedos, el estrés y la tensión, y comprender que la fricción no es algo malo”, enfatiza Turkle. Desarrollar la capacidad de superar las dificultades es una parte esencial de la vida. Al tratar de eludir el arduo trabajo de ser seres sociales, piensa, la tecnología personal nos está debilitando.
Más allá de eso, Turkle prevé una reacción contra los chatbots similar al movimiento contra, por ejemplo, tener teléfonos en las escuelas o permitir que los jóvenes utilicen las redes sociales.
“Espero que mi libro sea parte de un movimiento cada vez más amplio”, dice Turkle. “No quiero estar solo. Quiero ser parte de un movimiento que retroceda”.
Otros escritores en este ámbito han elogiado la “intimidad artificial”. El periodista Nicholas Carr, autor de “The Shallows”, ha declarado que “le ayudará a evitar las amenazas profundas, pero a menudo ocultas, que la IA plantea para usted y sus relaciones”. El psicólogo Jonathan Haidt de la Universidad de Nueva York, autor de “The Anxious Generation”, ha declarado que la “investigación innovadora y los hermosos escritos de Turkle la convierten en el miembro más calificado del Equipo de la Humanidad para llamarnos a volver a nuestros sentidos y a los demás”.
Por su parte, Turkle dice: “Quería escribir un libro que los estudiantes universitarios leyeran, que los estudiantes de último y tercer año de secundaria pudieran leer, que los padres pudieran leer y que no se sintieran intimidados, que los maestros leyeran”.
Y “Artificial Intimacy” ofrece una pregunta recurrente para esos lectores.
“Si no es una vida más rica en la realidad”, escribe Turkle, “¿cuál es nuestro final?” El objetivo de la vida, subraya, no es evitarlo, sino afrontarlo de frente.
“Una cosa es si dices que mi hijo adolescente envía demasiados mensajes de texto”, dice Turkle. “Es muy diferente si tu hijo de 2 años piensa que un juguete de peluche con un chatbot dentro es su mejor amigo. Porque estás entrando en la infraestructura íntima de lo que hace que una persona se desarrolle. Las redes sociales vinieron para llamar nuestra atención. Los chatbots vienen por nuestra capacidad de apego. Eso es tóxico en otro nivel. ¿Cuál es el final? ¿Que el bebé preferirá los chatbots a las personas que son mucho más complicadas y duras? ¿Eso es lo que queremos ser?”.