Cómo el error humano se convirtió en un arma contra los grandes modelos lingüísticos

Los errores tipográficos son una señal de que un escritor humano… por ahora

Marc De Simone/Alamy

Recientemente, una amiga me contó mientras tomaba un café algunos comentarios desalentadores que había recibido. “Dijeron que era bueno”, dijo, “pero que se leía como si hubiera sido escrito por IA”. Conociéndola, comprendí inmediatamente lo que había sucedido. Su credibilidad estaba siendo cuestionada no porque su trabajo fuera deficiente, sino porque era demasiado bueno: demasiado claro, demasiado fluido, demasiado pulido.

La rápida aceleración de las herramientas de inteligencia artificial está cambiando nuestra forma de pensar sobre la buena escritura. En la era digital, es cada vez más importante señalar que detrás de las palabras está una persona real, no un gran modelo lingüístico sin rostro. Una forma paradójica de hacerlo es, sorprendentemente, dañar la calidad de su propia escritura.

Alan Turing incluso hizo esa sugerencia en la década de 1950: agregue algunos errores tipográficos deliberados para parecer más convincentemente humano. La ironía, por supuesto, es que Turing estaba dirigiendo ese consejo a las máquinas.

La experiencia de mi amigo no es aislada. Escribir bien, que alguna vez fue una muestra de habilidad, se ha convertido, para un número creciente de lectores, críticos y gerentes de contratación, en una fuente de sospecha moral. Las habilidades que alguna vez utilizamos para señalar inteligencia y esfuerzo (claridad, precisión, una oración bien redactada) están comenzando a perder su significado.

El problema radica en nuestra incapacidad para detectar fácilmente contenido escrito por IA, lo que hace que los falsos positivos (es decir, acusar erróneamente a alguien de usar herramientas de IA) sean una preocupación grave. Los estudios han demostrado que ni los humanos ni las IA pueden distinguir de manera confiable entre la escritura generada por humanos y por máquinas. Cuando se mezcla la escritura generada por humanos y por IA, el rendimiento empeora aún más. Como resultado, muchas universidades que habían estado utilizando herramientas de detección de plagio para la detección de IA han dejado de hacerlo debido a preocupaciones sobre su confiabilidad.

En este clima de incertidumbre, algunos escritores han recurrido a la única señal que aún les queda: el acertadamente llamado error humano. Una palabra repetida, un pequeño error gramatical, una frase ligeramente torpe: todo esto ha comenzado a funcionar menos como signos de descuido y más como prueba de una genuina mano humana. El defecto se ha convertido en la credencial.

Los errores ya se están desplegando estratégicamente en contextos competitivos: presentaciones universitarias, solicitudes de empleo, correspondencia profesional. Los reclutadores han comenzado a aconsejar a los solicitantes que dejen un solo error tipográfico deliberado en una carta de presentación, precisamente para indicar que la escribió una persona interesada.

Por supuesto, nada de esto es estable y la moneda de la señal de error es el tiempo prestado. Una vez que la imperfección se convierte en un signo reconocido de autenticidad, inmediatamente queda disponible para la imitación. Los usuarios pedirán a los sistemas de IA que suenen más toscos, menos pulidos y más humanos. Los sistemas cumplirán y pronto se volverán expertos en realizar incompetencias calibradas.

El camino a seguir para recuperar la autenticidad no está claro. Quizás algunas situaciones exijan pruebas de autoría más directas sin la ayuda de la IA: evaluaciones cara a cara, sin mediación, presentaciones escritas a mano y explicaciones en tiempo real. O, en un mundo cada vez más saturado de herramientas de IA, tal vez la habilidad decisiva sea simplemente saber cómo utilizarlas bien. Algunas universidades han permitido a los estudiantes usar IA en los exámenes, siempre que presenten sus indicaciones como parte de la evaluación.

Lo que parece seguro, sin embargo, es que los viejos rastros de autenticidad y autoría se han vuelto más difíciles de definir y localizar, e incluso cuando existen, llegan ensombrecidos por la sospecha.

Temas: