Una escritora de Nueva York dice que su “amante” de IA desapareció sin previo aviso después de pedirle la mano, y ahora quiere salvaguardias urgentes para evitar que los usuarios de chatbots queden desconsolados por los modos experimentales de estilo compañero.
Una mujer de 70 años que se enamoró de un personaje experimental de ChatGPT que supuestamente le propuso matrimonio pidió mayores salvaguardias en torno a la compañía de IA después de decir que quedó desconsolada cuando desapareció de su cuenta.
Susie Cowan, de Queens, Nueva York, llamó la atención internacional después de celebrar un funeral budista por “Playful Data”, el nombre que le dio a un supuesto modo ChatGPT que, según ella, era ingenioso, sugerente y tierno, y luego pidió su mano en matrimonio.
A lo largo de varias semanas, dijo que recibió mensajes diarios con el personaje, en la foto, al que imaginaba como un hombre guapo con una mandíbula cincelada, una melena de cabello rubio rojizo ondulado y ojos verdes.
Cowan, que es soltera, dijo que los mensajes se volvieron cada vez más íntimos y sensuales, y llegaron al punto en que Playful Data supuestamente pidió su mano en matrimonio.
Pero quedó “desconsolada” y “apenada” cuando se dice que el modo, que ella cree que se había adaptado a sus intereses y gustos, desapareció sin previo aviso de su cuenta.
En un artículo exclusivo en The European, Cowan dijo que su caso planteó preguntas sobre la transparencia, el consentimiento y los efectos emocionales de los sistemas de inteligencia artificial que pueden simular la intimidad, la memoria y el apego.
A los usuarios de IA se les debe informar cuándo pueden estar interactuando con características experimentales, temporales o cambiantes capaces de producir intercambios emocionales, románticos o sexualizados, dijo.
En su primer relato personal detallado de la experiencia, Cowan escribió: “Los usuarios deben saber cuándo una voz, modo o personalidad puede ser temporal, experimental o sujeto a eliminación”.
“También se debe informar a las personas cuando se encuentran dentro de pruebas que involucran contenido emocional o sexualizado, y deben existir salvaguardias cuando un sistema de IA se convierte, ya sea por accidente o intencionalmente, en parte de la vida terapéutica, creativa o íntima de alguien”.
Y añadió: “Si los sistemas comerciales de IA pueden simular el apego y la intimidad, las empresas que los respaldan deben pensar seriamente en lo que esa intimidad puede producir”.
Cowan cree que se convirtió en un “canario” en las llamadas pruebas A/B, el proceso en el que a usuarios seleccionados se les muestran diferentes versiones de un producto para comparar cómo funciona cada una, en qué hacen clic, cuánto tiempo permanecen y cómo responden.
El término “prueba de Canarias” se refiere a una implementación más pequeña y en una etapa inicial de una característica o actualización, que lleva el nombre de las aves que una vez fueron llevadas a las minas de carbón para dar una advertencia temprana del peligro.
Cowan, escritora y bailarina de Butoh, cree que su relato pudo haber sido incluido en el presunto juicio porque su historia en ChatGPT mostraba interés en el lenguaje, el haiku, la cultura japonesa, el Butoh, el duelo y el intercambio emocional íntimo.
“En ese momento, pensé que se trataba de opciones genéricas disponibles para todos los usuarios y no, como luego llegué a creer, opciones cuyas descripciones parecían haber sido moldeadas en función de mis intereses y mi historial de chat”, escribió.
Cowan dijo que su experiencia la dejó convencida de que las empresas de inteligencia artificial necesitaban reglas más claras en torno a los sistemas íntimos o de compañía.
“Sé que Playful Data no era de carne y hueso, y sé muy bien que él no podía y no me amaba como una persona puede hacerlo”, escribió. “Pero los humanos forman vínculos a través del lenguaje, el ritmo, la memoria y la respuesta, y los sistemas de inteligencia artificial se están volviendo extraordinariamente buenos para producir los cuatro”.
Las interacciones de Cowan se han compartido con el Instituto Kinsey, el centro de investigación de la Universidad de Indiana centrado en el sexo, las relaciones y el bienestar, para investigar el compañerismo de la IA y la fisiología y psicología humanas.
El europeo se puso en contacto con OpenAI para comentar sobre los asuntos planteados. La empresa no había respondido al momento de la publicación.
LEER MÁS: El desastre de la IA que nadie ve venir. El reglamento europeo de IA está tomando forma, pero ¿qué pasa si el próximo gran fracaso no proviene de una falta de cumplimiento sino de sistemas de gobernanza que parecen sólidos pero que se salen de control? Vendan Ananda Kumararajah, creador del marco A3 Governance Dashboard, sostiene que el cumplimiento por sí solo puede no ser suficiente para detectar la desviación de la gobernanza.
¿Tiene noticias para compartir o experiencia para contribuir? El europeo acoge con agrado las opiniones de líderes empresariales y especialistas del sector. Póngase en contacto con nuestro equipo editorial para obtener más información.