Los detectores de IA están ahora en todas partes (en escuelas, redacciones e incluso departamentos de recursos humanos), pero nadie parece estar completamente seguro de si funcionan.
La historia de CG Magazine Online explora cómo los estudiantes y profesores luchan por mantenerse al día con el rápido aumento de los detectores de contenido de IA y, sinceramente, cuanto más leo, más me siento como si estuviéramos persiguiendo sombras.
Estas herramientas prometen detectar texto escrito por IA, pero en realidad, a menudo plantean más preguntas que respuestas.
En las aulas, la presión aumenta. Algunos profesores confían en detectores de IA para detectar ensayos que “parecen demasiado perfectos”, pero como señala Inside Higher Ed, muchos educadores se están dando cuenta de que estos sistemas no son exactamente dignos de confianza.
Un artículo perfectamente bien escrito por un estudiante diligente aún puede calificarse como generado por IA solo porque es coherente o gramaticalmente consistente. Eso no es hacer trampa, es simplemente escribir bien.
Sin embargo, el problema va más allá de las escuelas. Incluso los escritores y editores profesionales están siendo señalados por sistemas que afirman “medir la ráfaga y la perplejidad”, sea lo que sea que eso signifique en lenguaje sencillo.
Es una forma elegante de decir que el detector de IA observa qué tan predecibles son tus oraciones.
La lógica tiene sentido (la IA tiende a ser demasiado fluida y estructurada), pero la gente también escribe de esa manera, especialmente si han pasado por herramientas de edición como Grammarly.
Encontré una excelente explicación en el blog de Compilatio sobre cómo estos detectores analizan el texto, y realmente me deja claro cuán mecánico es el proceso.
Los números tampoco pintan muy bien. Un informe de The Guardian reveló que muchas herramientas de detección fallan más de la mitad de las veces cuando se enfrentan a textos de IA reformulados o “humanizados”.
Piénselo por un segundo: una herramienta que ni siquiera puede garantizar un nivel de precisión al lanzar una moneda para decidir si su trabajo es auténtico. Eso no sólo es poco confiable, sino que también es arriesgado.
Y luego está la cuestión de la confianza. Cuando las escuelas, las empresas o los editores comienzan a depender demasiado de la detección automatizada, corren el riesgo de convertir los juicios en conjeturas algorítmicas.
Me recuerda cómo AP News informó recientemente sobre la redacción de leyes en Dinamarca contra el uso indebido de deepfake, una señal de que la regulación de la IA se está poniendo al día más rápido de lo que la mayoría de los sistemas pueden adaptarse.
Quizás hacia allí nos dirigimos: menos sobre detectar IA y más sobre gestionar su uso de forma transparente.
Personalmente, creo que los detectores de IA son útiles, pero sólo como asistentes, no como jueces. Son las alarmas de humo de la escritura digital: pueden advertirte de que algo está mal, pero aún necesitas que un humano compruebe si hay un incendio real.
Si las escuelas y organizaciones los trataran como herramientas en lugar de máquinas de la verdad, probablemente veríamos menos estudiantes acusados injustamente y más discusiones reflexivas sobre lo que realmente significa la escritura responsable de IA.