Pesimistas de inteligencia artificial, tome nota: una nueva investigación sugiere que los temores sobre las herramientas de IA que desestabilizan las elecciones a través de la información errónea política pueden ser exageradas.
La investigación fue realizada por el científico informático Arvind Narayanan, director del Centro Princeton para la Política de Tecnología de la Información, y Sayash Kapoor, un Ph.D. de informática de informática. Candidato en Princeton. La pareja está escribiendo un libro llamado AI AIA Snake Oil: lo que puede hacer la inteligencia artificial, lo que no puede y cómo notar la diferencia.
Uso de la información compilada por el Proyecto de elecciones de IA con cableNarayanan y Kapoor analizaron 78 casos de contenido político creado por AI que aparecieron el año pasado durante las elecciones de todo el mundo. “La IA hace posible fabricar contenido falso. Pero eso no ha cambiado fundamentalmente el panorama de la desinformación política”, ellos escribir en un ensayo sobre su investigación.
Su análisis encontró que gran parte del contenido generado por IA era no destinado a ser engañoso. “Para nuestra sorpresa, no había intención engañosa en 39 de los 78 casos en la base de datos”, escriben. En más de una docena de instancias, las campañas utilizaron herramientas de IA para mejorar los materiales de campaña.
También hubo más usos novedosos, como en Venezuela, donde “los periodistas usaron AI Avatars para evitar Retribución del gobierno al cubrir las noticias adversas al gobierno “, o en California, donde” un candidato con laringitis perdió la voz, por lo que usó transparentemente IAi clonación de voz para leer mensajes mecanografiados en su voz durante los encuentros y los greets “.
Además, el contenido engañoso no dependía necesariamente de la IA para su producción. “Para cada uno de los 39 ejemplos de intención engañosa, donde el uso de IA tenía la intención de hacer que los espectadores creyeran información falsa, estimamos el costo de crear contenido similar sin AI, por ejemplo, contratando expertos en Photoshop, editores de video o actores de voz, “Escribe Narayanan y Kapoor”. En cada caso, el costo de crear contenido similar sin IA fue modesto, no más de unos pocos cientos de dólares “.
En un caso, incluso Encontré un video que involucra a un actor contratado clasificado erróneo por CableadoLa base de datos como contenido generado por AI. Dicen que este problema destaca cómo “ha sido posible crear medios con información falsa absoluta sin usar AI u otras herramientas elegantes”.
Su comida para llevar: deberíamos centrarnos en el lado de la demanda de esta ecuación, no en el lado de la oferta. La información errónea relacionada con las elecciones ha sido durante mucho tiempo un problema. Y aunque la IA podría cambiar cómo se crea dicho contenido, no cambia fundamentalmente cómo se extiende o sus impactos.
“Operaciones exitosas de información errónea MIEMBROS EN LA GROUPE—Pople que ya aceptar Con la amplia intención del mensaje, “señala Narayanan y Kapoor”. Las herramientas sofisticadas no son necesarias para que la información errónea sea efectiva en este contexto “.
Mientras tanto, es poco probable que los grupos externos sean engañados o influenciados, ya sea que tales operaciones estén asistidas por AI-AI. “Visto en esta luz, la información errónea de IA juega un papel muy diferente a su representación popular de balancear a los votantes en las elecciones”, sugieren los investigadores.