En mi columna anteriorestablecí cómo el contenido generado por IA se está expandiendo en línea y describí escenarios para ilustrar por qué está ocurriendo. (Por favor lea eso ¡antes de continuar aquí!) Pasemos ahora a hablar sobre cuál es el impacto y qué posibilidades podría deparar el futuro.
Los seres humanos son criaturas sociales y también visuales. Aprendemos sobre nuestro mundo a través de imágenes y lenguaje, y utilizamos información visual para moldear nuestra forma de pensar y comprender conceptos. Estamos moldeados por nuestro entorno, lo queramos o no.
En consecuencia, no importa cuánto seamos conscientes de la existencia de contenido generado por IA en nuestros propios ecosistemas de consumo de medios, nuestra respuesta y reacción subconsciente a ese contenido no estarán completamente bajo nuestro control. Como dice la perogrullada, todo el mundo piensa que es inmune a la publicidad: son demasiado inteligentes para dejarse llevar por la nariz por algún ejecutivo de publicidad. ¡Pero la publicidad continúa! ¿Por qué? Porque funciona. Inclina a las personas a tomar decisiones de compra que de otro modo no tomarían, ya sea simplemente aumentando la visibilidad de la marca, apelando a las emociones o cualquier otra técnica publicitaria.
El contenido generado por IA puede acabar siendo similar, aunque de forma menos controlada. Todos nos inclinamos a creer que no estamos siendo engañados por algún robot con un LLM que genera texto en un cuadro de chat, pero de manera sutil o abierta, estamos siendo afectados por la exposición continua. Por mucho que pueda ser alarmante que la publicidad realmente funcione en nosotros, considere que con la publicidad los efectos subconscientes o sutiles están siendo diseñados e impulsados intencionalmente por los creadores de anuncios. En el caso de la IA generativa, gran parte de lo que implica la creación del contenido, sin importar cuál sea su propósito, se basa en un algoritmo que utiliza información histórica para elegir las características con mayor probabilidad de resultar atractivas, en función de su entrenamiento, y los actores humanos son menos en control de lo que genera ese modelo.
Quiero decir que los resultados de la IA generativa nos sorprenden habitualmente, porque no estamos muy en sintonía con lo que realmente dice nuestra historia y, a menudo, no pensamos en casos extremos o interpretaciones de las indicaciones que escribimos. Los patrones que la IA descubre en los datos a veces son completamente invisibles para los seres humanos y no podemos controlar cómo estos patrones influyen en el resultado. Como resultado, nuestro pensamiento y nuestra comprensión están influenciados por modelos que no entendemos completamente y que no siempre podemos controlar.
Más allá de eso, como he mencionado, El pensamiento crítico del público y las habilidades críticas de consumo de medios luchan por seguir el ritmo del contenido generado por IA.para darnos la capacidad de ser tan perspicaces y reflexivos como lo requiera la situación. De manera similar al desarrollo de Photoshop, necesitamos adaptarnos, pero no está claro si tenemos la capacidad para hacerlo.
Todos estamos aprendiendo señales reveladoras del contenido generado por IA, como ciertas pistas visuales en imágenes o opciones de redacción en el texto. El usuario medio de Internet actual ha aprendido muchísimo en tan solo unos pocos años sobre qué es el contenido generado por IA y cómo se ve. Sin embargo, los proveedores de los modelos utilizados para crear este contenido están tratando de mejorar su rendimiento para hacer que esas pistas sean más sutiles, intentando cerrar la brecha entre los medios obviamente generados por IA y los medios obviamente producidos por humanos. Estamos en una carrera con las empresas de inteligencia artificial para ver si pueden fabricar modelos más sofisticados más rápido de lo que nosotros podemos aprender a detectar su producción.
Estamos en una carrera con las empresas de inteligencia artificial para ver si pueden fabricar modelos más sofisticados más rápido de lo que nosotros podemos aprender a detectar su producción.
En esta carrera, no está claro si nos pondremos al día, ya que las percepciones de las personas sobre los patrones y los datos estéticos tienen limitaciones. (Si es escéptico, intente detectar texto generado por IA: https://roft.io/) No podemos examinar imágenes hasta el nivel de píxeles como lo hace un modelo. No podemos analizar de forma independiente las opciones y frecuencias de palabras en un documento de un vistazo. Podemos y debemos crear herramientas que nos ayuden a hacer este trabajo, y existen algunos enfoques prometedores para esto, pero cuando solo somos nosotros frente a una imagen, un video o un párrafo, son solo nuestros ojos y cerebro versus el contenido. ¿Podemos ganar? Ahora mismo, nosotros a menudo no. La gente se deja engañar todos los días por el contenido generado por IA, y por cada pieza que se desacredita o se revela, debe haber muchas que pasan desapercibidas.
Una conclusión a tener en cuenta es que no se trata solo de que “la gente necesita ser más exigente”; no es tan simple como eso, y si no detectas materiales generados por IA o falsificaciones profundas cuando se cruzan en tu camino cada vez, no es todo tu culpa. Esto se hace cada vez más difícil a propósito.
Entonces, viviendo en esta realidad, tenemos que afrontar un hecho inquietante. No podemos confiar en lo que vemos, al menos no en la forma a la que nos hemos acostumbrado. Sin embargo, en muchos sentidos esto no es tan nuevo. Como describí en mi primera parte de esta serie, en el fondo sabemos que las fotografías pueden manipularse para cambiar la forma en que las interpretamos y cómo percibimos los eventos. Los engaños también se han perpetuado en los periódicos y la radio desde su invención. Pero es un poco diferente debido a la raza: los engaños llegan rápido y furioso, volviéndose siempre un poco más sofisticados y un poco más difíciles de detectar.
Nosotros No podemos confiar en lo que vemos, al menos no en la forma a la que nos hemos acostumbrado.
También hay una capa adicional de complejidad en el hecho de que una gran cantidad del contenido generado por IA que vemos, particularmente en las redes sociales, está siendo creado y publicado por bots (o agentes, en el nuevo lenguaje generativo de IA), para generar compromiso/ clickbait/estafas y otros propósitos como mencioné en la parte 1 de esta serie. Frecuentemente estamos a bastantes pasos desconectados de un responsable del contenido que estamos viendo, quien utilizó modelos y automatización como herramientas para producirlo. Esto confunde los orígenes del contenido y puede hacer que sea más difícil inferir la artificialidad del contenido a partir de pistas contextuales. Si, por ejemplo, una publicación o una imagen parece demasiado buena (o extraña) para ser verdad, podría investigar los motivos del cartel para ayudarme a determinar si debo ser escéptico. ¿Tiene el usuario un historial creíble o afiliaciones institucionales que inspiren confianza? Pero, ¿qué pasa si el autor es una cuenta falsa, con una imagen de perfil generada por IA y un nombre falso? Solo aumenta el desafío para una persona común intentar detectar la artificialidad y evitar una estafa, un deepfake o un fraude.
Aparte, también creo que hay un daño general por nuestra exposición continua al contenido de bots sin etiquetar. Cuando tenemos cada vez más redes sociales falsas frente a nosotros y los “usuarios” son robots convincentes, podemos terminar deshumanizando toda participación en las redes sociales fuera de las personas que conocemos en la vida analógica. Las personas ya luchan por humanizarse y sentir empatía a través de las pantallas de las computadoras, de ahí los problemas de larga data con el abuso y el maltrato en línea en las secciones de comentarios, en los hilos de las redes sociales, etc. ¿Existe el riesgo de que el entumecimiento de las personas ante la humanidad en línea empeore y degrade la forma en que responden a las personas y a los modelos/bots/computadoras?
¿Cómo respondemos nosotros, como sociedad, para tratar de evitar ser engañados por ficciones generadas por la IA? No existe ningún esfuerzo individual o “hacer los deberes” que necesariamente pueda sacarnos de esto. Los patrones y pistas en el contenido generado por IA pueden ser indetectables para el ojo humano, e incluso indetectables para la persona que construyó el modelo. Mientras que normalmente se realizan búsquedas en línea para validar lo que se ve o lee, esas búsquedas están repletas de contenido generado por IA, por lo que cada vez no son más confiables que cualquier otra cosa. Necesitamos absolutamente fotografías, videos, textos y música para aprender sobre el mundo que nos rodea, así como para conectarnos unos con otros y comprender la experiencia humana más amplia. Aunque esta reserva de material se está envenenando, no podemos dejar de utilizarla.
Hay varias posibilidades de lo que creo que podría suceder a continuación y que podrían ayudar con este dilema.
- La IA pierde popularidad o falla debido a problemas de recursos. Hay muchos factores que amenazan el crecimiento y la expansión comercial de la IA generativa y, en su mayoría, no son mutuamente excluyentes. Es muy posible que la IA generativa sufra cierto grado de colapso debido a que el contenido generado por la IA se infiltra en los conjuntos de datos de entrenamiento. Económico y/o ambiental Los desafíos (energía insuficiente, recursos naturales o capital para inversión) podrían ralentizar u obstaculizar la expansión de los sistemas de generación de IA. Incluso si estos problemas no afectan la comercialización de la IA generativa, podrían crear barreras para que la tecnología avance más allá del punto de fácil detección humana.
- El contenido orgánico se vuelve premium y gana un nuevo atractivo en el mercado. Si estamos inundados de contenido generado por IA, se vuelve barato y de baja calidad, pero la escasez de contenido orgánico producido por humanos puede impulsar su demanda. Además, ya hay un crecimiento significativo de la reacción contra la IA. Cuando los clientes y consumidores encuentren desagradable el material generado por IA, las empresas tomarán medidas para adaptarse. Esto se alinea con algunos argumentos de que la IA está en una burbuja y que el entusiasmo excesivo desaparecerá con el tiempo.
- El trabajo tecnológico desafía los efectos negativos de la IA. Se necesitarán modelos y algoritmos de detección para diferenciar el contenido orgánico del generado cuando no podamos hacerlo nosotros mismos, y ya se está trabajando en esta dirección. A medida que la IA generativa se vuelve más sofisticada, lo que la hace necesaria, puede desarrollarse un mercado comercial y social para estos modelos de detectores. Estos modelos deben ser mucho más precisos de lo que son hoy. para que esto sea posible, no queremos depender de Modelos notablemente malos como los que se utilizan hoy en día para identificar contenido de IA generativa en ensayos de estudiantes en instituciones educativas.. Pero se está trabajando mucho en este espacio, por lo que hay motivos para tener esperanza. (He incluido algunos artículos de investigación sobre estos temas en las notas al final de este artículo).
- Los esfuerzos regulatorios se expanden y ganan en sofisticación. Los marcos regulatorios pueden desarrollarse lo suficiente como para ser útiles para controlar los excesos y abusos que permite la IA generativa. Establecer la responsabilidad y la procedencia de los agentes y robots de IA sería un paso enormemente positivo. Sin embargo, todo esto depende de la eficacia de los gobiernos de todo el mundo, que siempre es incierta. Sabemos que las grandes empresas tecnológicas están decididas a luchar contra las obligaciones regulatorias y cuentan con inmensos recursos para hacerlo.
Creo que es muy poco probable que la IA generativa siga ganando sofisticación al ritmo observado en 2022-2023, a menos que se desarrolle una metodología de formación significativamente diferente. Nos estamos quedando sin datos de capacitación orgánica y arrojar más datos al problema muestra rendimientos decrecientes, a cambio de costos exorbitantes. Me preocupa la ubicuidad del contenido generado por IA, pero (con optimismo) no creo que estas tecnologías vayan a avanzar más que a un ritmo incremental lento en el futuro, por razones sobre las que he escrito antes.
Esto significa que nuestros esfuerzos por moderar las externalidades negativas de la IA generativa tienen un objetivo bastante claro. Si bien seguimos luchando contra la dificultad para detectar contenido generado por IA, tenemos la oportunidad de ponernos al día si los tecnólogos y reguladores se esfuerzan. También creo que es vital que trabajemos para contrarrestar el cinismo que inspira esta “derrota” de IA. Me encanta el aprendizaje automático y estoy muy contento de ser parte de este campo, pero también soy sociólogo y ciudadano, y debemos cuidar de nuestras comunidades y nuestro mundo, además de perseguir el progreso técnico.