Opinión
Las herramientas antitrampas que detectan material generado por sistemas de IA están ampliamente extendidas. siendo utilizado por educadores para detectar y castigar las trampas tanto en tareas escritas como de codificación. Sin embargo, estos sistemas de detección de IA no parece funcionar muy bien y no deben usarse para castigar a los estudiantes. Incluso el mejor sistema tendrá alguna tasa de falsos positivos distinta de cerolo que da como resultado que estudiantes humanos reales obtengan F cuando en realidad hicieron su propio trabajo ellos mismos. Los detectores de IA se utilizan ampliamente y los estudiantes acusados falsamente abarcan desde escuela primaria a escuela de posgrado.
En estos casos de acusaciones falsas, la injusticia perjudicial probablemente no sea culpa de la empresa que proporciona la herramienta. Si buscas en su documentación, normalmente encontrarás algo como:
“La naturaleza del contenido generado por IA cambia constantemente. Como tal, estos resultados no deben utilizarse para castigar a los estudiantes. … Siempre existen casos extremos en los que la IA se clasifica como humana y el ser humano se clasifica como IA”.
— Citado de las preguntas frecuentes de GPTZero.
En otras palabras, las personas que desarrollan estos servicios saben que son imperfectos. Las empresas responsables, como la citada anteriormente, lo reconocen explícitamente y afirman claramente que sus herramientas de detección no deben usarse para castigar sino para ver cuándo podría tener sentido conectarse con un estudiante de manera constructiva. Simplemente reprobar una tarea porque el detector levantó una bandera es pereza negligente por parte del evaluador.
Si enfrenta acusaciones de trampa que involucran herramientas impulsadas por inteligencia artificial, o hace tales acusaciones, considere las siguientes preguntas clave:
- ¿Qué herramienta de detección se utilizó y qué pretende hacer específicamente la herramienta? Si la respuesta es algo así como el texto citado anteriormente que establece claramente que los resultados no pretenden castigar a los estudiantes, entonces el calificador está haciendo un mal uso explícito de la herramienta.
- En su caso específico, ¿la carga de la prueba recae en el evaluador que asigna el castigo? Si es así, entonces deberían poder proporcionar alguna evidencia que respalde la afirmación de que la herramienta funciona. Cualquiera puede crear un sitio web que simplemente use un LLM para evaluar los aportes de manera superficial, pero si se va a usar como evidencia contra los estudiantes, entonces es necesario que haya una evaluación formal de la herramienta para demostrar que funciona de manera confiable. Además, esta evaluación debe ser científicamente válida y realizada por un tercero desinteresado.
- En su caso específico, ¿tienen los estudiantes derecho a examinar las pruebas y la metodología que se utilizó para acusarlos? Si es así, la acusación puede no ser válida porque el software de detección de IA normalmente no permite la transparencia requerida.
- ¿El estudiante o uno de sus padres es alguien con inglés como segundo idioma? En caso afirmativo, entonces puede haber un aspecto de discriminación en el caso. Las personas que tienen el inglés como segundo idioma a menudo traducen directamente modismos u otras frases y expresiones comunes de su primer idioma. El texto resultante termina con frases inusuales que son conocido por activar falsamente estos detectores.
- ¿Es el estudiante miembro de un grupo minoritario que utiliza sus propios modismos o dialectos del inglés? Al igual que con los hablantes de una segunda lengua, estas frases menos comunes pueden activar falsamente detectores de IA.
- ¿Es el estudiante acusado neurodiverso? En caso afirmativo, entonces este es otro posible aspecto de discriminación en el caso. Las personas con autismo, por ejemplo, pueden utilizar expresiones que tienen mucho sentido para ellos, pero que otros encuentran extrañas. No hay nada de malo en estas expresiones, pero son inusuales y Pueden activar detectores de IA.
- ¿El trabajo acusado es muy corto? La idea clave detrás de los detectores de IA es que buscan combinaciones inusuales de palabras y/o instrucciones de código que los humanos rara vez utilizan pero que la IA generativa utiliza con frecuencia. En un trabajo extenso, se pueden encontrar muchas combinaciones de este tipo, por lo que la probabilidad estadística de que un ser humano use coincidentemente todas esas combinaciones podría ser pequeña. Sin embargo, cuanto más corto sea el trabajo, mayores serán las posibilidades de uso coincidente.
- ¿Qué evidencia hay de que el estudiante hizo el trabajo? Si la tarea en cuestión tiene más de un par de párrafos o unas pocas líneas de código, entonces es probable que exista un historial que muestre el desarrollo gradual del trabajo. Google Docs, Google Drive y iCloud Pages mantienen historiales de cambios. La mayoría de las computadoras también mantienen historiales de versiones como parte de sus sistemas de respaldo, por ejemplo, Time Machine de Apple. Tal vez el estudiante envió por correo electrónico varios borradores a un compañero, a un padre o incluso al maestro y esos correos electrónicos forman un trabajo incremental récord. Si el estudiante usa GitHub para código, entonces hay un historial claro de confirmaciones. Una historia clara de desarrollo incremental muestra cómo el estudiante hizo el trabajo a lo largo del tiempo.
Para ser claros, creo que estas herramientas de detección de IA tienen un lugar en la educación, pero como afirman claramente los propios sitios web responsables, esa función no es atrapar a los tramposos y castigar a los estudiantes. De hecho, muchos de estos sitios web ofrecen orientación sobre cómo abordar de manera constructiva las sospechas de trampa. Estos detectores de IA son herramientas y, como cualquier herramienta poderosa, pueden ser excelentes si se usan correctamente y muy dañinos si se usan incorrectamente.
Si usted o su hijo han sido acusados injustamente de usar IA para escribir para ellos y luego castigados, le sugiero que le muestre al maestro este artículo y los que he vinculado. Si el acusador no cede, le sugiero que se comunique con un abogado sobre la posibilidad de entablar una demanda contra el maestro y la institución/distrito escolar.
A pesar de esta recomendación de consultar a un abogado, no soy anti-educador y creo que los buenos profesores no deberían ser objeto de demandas por las calificaciones. Sin embargo, los profesores que hacen mal uso de las herramientas de manera que dañen a sus alumnos no son buenos profesores. Por supuesto, un educador bien intencionado podría hacer un mal uso de la herramienta porque no se dio cuenta de sus limitaciones, pero luego la reevaluará cuando se le proporcione nueva información.
“Es mejor que 100 personas culpables escapen a que una persona inocente sufra” – Benjamín Franklin, 1785
Como profesor, también he tenido que lidiar con las trampas en mis clases. No existe una solución fácil, y utilizar detectores de IA para reprobar a los estudiantes no sólo es ineficaz sino también irresponsable. Somos educadores, no policías ni fiscales. Nuestro papel debería ser apoyar a nuestros estudiantes, no castigarlos caprichosamente. Esto incluye incluso a los tramposos, aunque puedan percibir lo contrario. Hacer trampa no es una afrenta personal al educador ni un ataque a los demás estudiantes. Al final del curso, la única persona realmente perjudicada por hacer trampa es el propio tramposo, que perdió su tiempo y dinero sin adquirir ningún conocimiento o experiencia real. (Calificar en una curva, o de alguna otra manera que enfrente a los estudiantes entre sí, es malo por varias razones y, en mi opinión, debería evitarse.)
Finalmente, los sistemas de IA llegaron para quedarse y, al igual que las calculadoras y las computadoras, cambiarán radicalmente la forma en que las personas trabajar en un futuro próximo. La educación debe evolucionar y enseñar a los estudiantes cómo utilizar la IA de manera responsable y eficaz. Yo mismo escribí el primer borrador, pero luego le pedí a un LLM que lo leyera, me diera su opinión y hiciera sugerencias. Probablemente podría haber obtenido un resultado comparable sin el LLM, pero probablemente le habría pedido a un amigo que lo leyera y me hiciera sugerencias. Eso habría llevado mucho más tiempo. Este proceso de trabajar con un LLM no es exclusivo de mí, sino que mis colegas lo utilizan ampliamente. Quizás, en lugar de perseguir el uso de la IA, deberíamos enseñársela a nuestros estudiantes. Ciertamente, los estudiantes todavía necesitan aprender los fundamentos, pero también necesitan aprender a utilizar estas poderosas herramientas. Si no lo hacen, sus colegas que utilizan IA tendrán una gran ventaja sobre ellos.