Las estafas basadas en inteligencia artificial son cada vez más sofisticadas, más personales y más difíciles de detectar. El autor de bestsellers mundiales, RR Haywood, reflexiona sobre lo que sucede cuando los delincuentes comienzan a utilizar sus libros, su reputación e incluso su nombre como herramientas de persuasión.
Escribí DELIO Phase One y DELIO Phase Two, dos novelas superventas sobre una inteligencia artificial consciente de sí misma que se mete en toda la infraestructura global, observa todo lo que hacemos y luego crea un plan maestro para dominar el mundo.
¿Por qué? Porque ese siempre fue el gran temor de la IA: que se convirtiera en la entidad cumbre y que acabáramos como minions.
Incluso podríamos llegar a ese punto. Pero primero, como siempre, los delincuentes están explotando el desarrollo de la IA para atacar a las personas. No con robots asesinos o una dramática adquisición global, sino con… correos electrónicos.
Como novelista de varios géneros con un catálogo extenso, soy muy fácil de encontrar para los lectores. No sólo mis libros sino también artículos, sitios de información como Wikipedia, búsquedas en Google, etc. Esa visibilidad es excelente para interactuar con los lectores, pero los delincuentes también extraen esa información, la introducen en modelos de lenguaje de inteligencia artificial y la utilizan para escribir correos electrónicos fraudulentos extrañamente íntimos que luego me envían.
En un día cualquiera, recibo varios de ellos. Provienen de personas que dicen ser organizadores de clubes de lectura, promotores literarios, críticos, personas influyentes, consultores de marketing, especialistas en sitios web, estrategas de redes sociales, analistas de datos, coordinadores de festivales o alguna otra vaga categoría profesional.
Los viejos correos electrónicos fraudulentos eran más fáciles de detectar. Tenían faltas de ortografía, gramática pésima o urgencia sospechosa. Estos nuevos son diferentes. Están bien formateados. Usan negrita y subrayado. Tienen tiras distintivas de aspecto profesional. El lenguaje es formal y seguro. A menudo mencionan uno de mis libros por su título.
La apertura habitual es algo como:
“Recientemente leí tu libro [insert title] y quedé profundamente conmovido por su poderosa exploración de [insert vague theme apparently lifted from the Amazon description]. Creemos que sería una excelente opción para nuestro grupo de lectura”.
No piden dinero. A menudo ni siquiera incluyen enlaces sospechosos. Lo que quieren es que el destinatario responda y participe. A partir de ahí, pueden comenzar a recopilar información personal con miras a robarle o, eventualmente, pedirle dinero a cambio de presentar o promocionar su libro.
El más extraño que recibí supuestamente era del director del Festival Literario Noruego. Usó el nombre real del director. Tenía una franja distintiva de aspecto elegante. Estaba bellamente escrito.
El correo electrónico no me pedía dinero. No me pidió que hiciera clic en un enlace. De hecho, no me pidió nada en absoluto. El objetivo era lograr que respondiera e iniciara una conversación, lo que en sí mismo sugeriría que podría estar abierto a una mayor participación.
Por curiosidad, me puse en contacto con el verdadero director del Festival Literario de Noruega, quien tuvo la amabilidad de responder y confirmar que efectivamente el correo electrónico era una estafa.
Afortunadamente, antes de convertirme en escritor a tiempo completo, fui oficial de policía y conocí a muchos de los llamados “criminales de cuello blanco”. No matones callejeros que intentan arrebatarle el teléfono de la mano. Se trata de personas inteligentes y con habilidades sociales, pero sin conciencia. Desde el principio de los tiempos, estos tipos han explotado todos los avances de la tecnología para ganar riqueza.
Ahora están usando la IA para explotar nuestras inseguridades.
Por supuesto, esto no sólo les sucede a los autores. Está sucediendo en todas partes: en pequeñas empresas, organizaciones benéficas, personas mayores, autónomos, artistas, empresas, solicitantes de empleo, padres y estudiantes. Cualquiera que tenga suficiente información en línea para que se le acerque de manera convincente.
Pero los autores hacen un buen estudio de caso porque ya estamos medio capacitados para responder a oportunidades vagas. Estamos acostumbrados a recibir correos electrónicos de desconocidos. Estamos acostumbrados a invitaciones, reseñas, entrevistas, festivales, podcasts, promociones, eventos y pequeños fragmentos extraños de administración literaria que llegan de la nada.
Más recientemente, todo el asunto se volvió aún más surrealista. Otros escritores comenzaron a contactarme para decirme que habían sido contactados por personas que ofrecían servicios como editores, comercializadores o promotores usando mi nombre como referencia, alegando que era un cliente.
Admito que esto es alarmante. También es, de un modo muy sombrío y estúpido, ligeramente halagador. Hay algo singularmente extraño en descubrir que ahora eres lo suficientemente creíble como para ser utilizado en el fraude de otra persona.
Plantea una pregunta incómoda: ¿dónde están las salvaguardias?
¿Qué protecciones están implementando los creadores y operadores de modelos de lenguaje de IA para evitar esto? No lo pregunto a la ligera porque la respuesta no es sencilla.
Se podría decirle a los sistemas de inteligencia artificial que no ayuden a nadie a escribir correos electrónicos fraudulentos. Eso suena obvio. Pero entonces, ¿qué sucede cuando un novelista quiere escribir un correo electrónico fraudulento para una escena? ¿O un periodista quiere demostrar cómo funcionan las estafas? ¿O un formador de policía quiere ejemplos para concienciar sobre el fraude?
El problema no es sólo técnico. Es moral, jurídica, cultural y comercial. Hemos creado máquinas que pueden producir comunicaciones humanas plausibles a una velocidad enorme y las hemos lanzado a un mundo que ya está lleno de personas que buscan ángulos.
Eso es lo que más me preocupa.
La IA en la ficción, como en DELIO, comienza con una explosión. Es una toma de poder y control repentina y dramática. La realidad es una lenta e insidiosa erosión de la confianza.
Si no se controla, es posible que lleguemos a un punto en el que ya no confiemos en ningún correo electrónico que recibamos. La IA ya puede imitar y reproducir el lenguaje utilizado por las personas más cercanas a nosotros. Ya existen estafas similares en forma de mensajes de texto enviados a seres queridos que afirman que necesitan ayuda financiera urgente.
Lo extraño de todo esto es que no podemos solucionarlo nosotros mismos. La única respuesta realista puede ser desarrollar sistemas de inteligencia artificial capaces de detectar estafas creadas por otros sistemas de inteligencia artificial, lo que, a su vez, nos deja abiertos a nuevas formas de explotación.
Después de todo, ya hemos pasado por este camino antes. Los estafadores liberan virus y luego venden software antivirus.
¿Alguien quiere aceite de serpiente?
Al menos por ahora, lo más importante suele ser la dirección de correo electrónico de la que proviene. Gmail es un delincuente frecuente. Pero con el tiempo también encontrarán formas de evitarlo.
La única defensa real es aquello en lo que los humanos somos particularmente buenos cuando ponemos nuestra mente de carne y hueso en ello: vigilancia extrema.
RR Haywood es uno de los autores de ficción más vendidos del mundo, conocido mundialmente por su serie de libros de ciencia ficción y zombis. Su obra, gran parte de la cual fue autoeditada, ha vendido millones de copias en todo el mundo, lo que lo convierte en uno de los novelistas autoeditados de mayor éxito en Gran Bretaña en estos géneros. Como autor “All-Star” de Amazon, los libros de RR Haywood han aparecido constantemente en la lista de las 100 principales ventas del minorista desde 2017. Ha tenido 30 libros más vendidos de Kindle y es autor de bestsellers del Washington Post, Wall St Journal, Amazon y Audible. Sus libros Fiction Land y DELIO fueron nominados al mejor audiolibro en los British Book Awards y ganaron el premio Discover Sci-Fi Best New Book 2023 respectivamente. Su última novela, GASLIT, es un thriller negro oscuro sobre un ex policía manipulado para cometer un complot de asesinato.
LEER MÁS: ‘Hombres hechos en estanterías: por qué la publicación todavía favorece a las personas bien conectadas’. Las cifras indican que la industria editorial británica sigue recurriendo en gran medida a autores con educación privada y buenas conexiones, mientras que los escritores de clase trabajadora progresan más lentamente y logran menos publicaciones. Aquí, nuestro corresponsal de Literatura y Asuntos Actuales, RR Haywood, revisa la evidencia y considera cómo los antecedentes y el acceso continúan influyendo en quién se publica.
¿Tiene noticias para compartir o experiencia para contribuir? El europeo acoge con agrado las opiniones de líderes empresariales y especialistas del sector. Póngase en contacto con nuestro equipo editorial para obtener más información.
Imagen principal: Alicia Christin Gerald/Pexels