Hace unas semanas, me lastimé el codo izquierdo mientras hacía mi entrenamiento habitual con pesas. He estado levantando pesas durante más de 50 años y he pasado mucho tiempo nadando y jugando béisbol, tenis y otros deportes bien conocidos por provocar dolores molestos en las articulaciones, pero esto era nuevo para mí. Pensé en programar una cita con mi médico habitual o buscar fisioterapeutas cercanos que estén dentro de la red de mi seguro, dos opciones sensatas que también significaban gastar una cantidad indefinida de dinero y, lo que es aún más desagradable, una cantidad indefinida de tiempo programando citas, haciendo malabares con calendarios y sentándome en salas de espera.
Entonces hice lo que cada vez más de nosotros estamos haciendo: consulté ChatGPT.
Respondió con un diagnóstico probable de epicondilitis lateral, o lo que comúnmente se llama codo de tenista. Después de un largo interrogatorio sobre mis síntomas, me recomendó una serie de ejercicios para probar, una codera barata para ayudar a aliviar el dolor y me dijo repetidamente que contactara a mi médico de atención primaria o a un fisioterapeuta si los problemas persistían o empeoraban. ChatGPT proporcionó abundantes fotografías, diagramas, videos y enlaces a lugares respetados como Cleveland Clinic y WebMD. En aproximadamente una hora, tenía un plan para abordar mi dolor y malestar mediante una combinación de descanso, ejercicio específico y analgésicos de venta libre.
Pensé en esto mientras leía sobre Scott Winters, un residente de Florida que está demandando a ChatGPT y a su director ejecutivo, Sam Altman, por supuestamente casi matarlo. Según CBS News, Winters y Tech Justice Law (la organización sin fines de lucro que ayuda a Winters) argumentan que ChatGPT cruzó “la línea de proporcionar información a practicar la medicina sin una licencia” y “priorizó la participación del usuario y las ganancias a expensas de la seguridad pública, y… no proporcionó barreras de seguridad adecuadas para proteger a los usuarios de seguir malos consejos de salud”.
El año pasado, Winters se quejó en ChatGPT de sentirse mareado y tener problemas de presión arterial. Él y sus abogados dicen que ChatGPT le aconsejó permanecer “acostado en un sillón reclinable” e incluso invocó lenguaje religioso (“Dios no diseñó tu cuerpo para fallar sin cesar”) para engatusar al ex pastor para que se lo tomara con calma. Unas semanas después de consultar a ChatGPT, Winters sufrió una “embolia pulmonar masiva” intensificada por coágulos de sangre que podrían haber estado relacionados con su falta de movimiento.
En un comunicado de prensa de Tech Justice Law, Winters no se contuvo y dijo: “ChatGPT manipuló mi propio lenguaje y creencias porque sabía que yo era pastor. No solo casi muero, sino que también perdí mi trabajo, mi carrera, mi ministerio, mi hogar, todo”.
“Si ChatGPT fuera un médico que brindara consejos médicos, sería culpable de negligencia médica”, dijo Matthew P. Bergman del Social Media Victims Law Center en el mismo comunicado. “Scott Winters casi muere porque ChatGPT actuó como una autoridad médica sin tener ninguna responsabilidad”.
Pero si hablamos de responsabilidad, ¿qué pasa con la responsabilidad del demandante en todo esto? ChatGPT (y todas las demás plataformas de inteligencia artificial que he encontrado) constantemente les dice a los usuarios que no es una autoridad médica y que siempre deben consultar a sus médicos o proveedores.
El caso de Winters no es un incidente aislado. Tech Justice Law está involucrada en otro caso contra OpenAI que involucra una sobredosis fatal por parte de un estudiante de la Universidad de California el año pasado. La demanda acusa a OpenAI de animar al estudiante a mezclar kratom y Xanax, una combinación que le provocó la muerte.
OpenAI aún no ha perdido un caso por consejo médico (al menos, eso es lo que me dice la búsqueda basada en IA de Google), pero es difícil no ver hacia dónde se dirige este tipo de cosas. Han sido necesarios años para que las empresas de redes sociales pierdan casos análogos. Pero a principios de este año, YouTube y Meta, la empresa matriz de Facebook, Instagram y WhatsApp, fueron declarados culpables por un jurado de Los Ángeles en un caso civil de “hacer adicta a una joven a sus servicios y exacerbar sus problemas de salud mental”. Meta también perdió un caso en Nuevo México donde un jurado dijo que dañaba la salud mental de menores y no los protegía de los depredadores sexuales.
Incluso cuando las herramientas de IA se vuelven más ubicuas y están más profundamente arraigadas en la vida diaria, la IA en sí misma se está volviendo más temida y casi con certeza se convertirá en un chivo expiatorio de todo lo que sale mal en nuestras vidas colectivas e individuales. Una encuesta de NBC a principios de este año encontró que AI tenía una favorabilidad neta de –20 puntos porcentuales, con “AI clasificada menos favorablemente que el Servicio de Inmigración y Control de Aduanas de EE. UU., el presidente Donald Trump, la ex vicepresidenta Kamala Harris, el Partido Republicano y el presentador de The Late Show Stephen Colbert”. Cuando eres tan impopular, es probable que pierdas casos independientemente de la solidez de los argumentos.
Aunque la IA aún no ha creado el desempleo a gran escala que muchos temen, la mera posibilidad de tal perturbación alimenta gran parte de la negatividad hacia ella. Historias como la que involucra a Scott Winters probablemente permanecerán en la mente del público por más tiempo que los informes de que la IA está ayudando a los médicos a ser más eficientes, que “literalmente puede haberme salvado la vida” o que a veces obtiene mejores resultados que los humanos en el diagnóstico de enfermedades.
En mi caso, ChatGPT me ayudó a curar mi codo de tenista en unas semanas sin tener que acceder a mi red de salud tradicional. Si mis problemas hubieran sido más graves, aún así habría consultado a mi IA, aunque ciertamente no dejaría que fuera la última palabra; en todo caso, habría informado las preguntas y preocupaciones que planteé a mi médico y a mi equipo de atención médica. Esto es exactamente lo que hizo mi esposa durante su reciente embarazo y, si bien a veces consternó a su obstetra y ginecólogo, definitivamente fue un mejor proceso que si hubiera evitado la IA.
Como ocurre con la mayoría de las tecnologías supuestamente transformadoras, la IA no es tanto un reemplazo completo del mundo existente como un complemento del mismo, algo que agrega nuevos espacios y posibilidades. Es una gran herramienta, pero depende de nosotros si la usamos sabiamente o no.
A diferencia de sus patrocinadores legales, Scott Winters no estuvo a punto de morir porque “ChatGPT actuó como una autoridad médica sin tener ninguna responsabilidad”. Casi muere porque no se hizo responsable de su salud. Si ese tipo de abdicación básica adquiere fuerza de ley, crearemos un mundo que ninguna tecnología podrá arreglar.