Una nueva herramienta web impulsada por IA parece hecha a medida para ayudar a los adolescentes a eludir las leyes de verificación de edad en línea y muestra la inutilidad de intentar establecer una edad mínima para el uso de las redes sociales.
En los viejos tiempos, eludir el requisito de edad mínima significaba tener una tarjeta de identificación física que indicara que era mayor de edad. Pero con la verificación de edad en línea, todo lo que uno puede necesitar es una imagen de esa tarjeta de identificación.
Ingrese a OnlyFake, un sitio web que utiliza tecnología de inteligencia artificial para generar imágenes de identificaciones falsas de manera económica.
¿Quieres más información sobre sexo, tecnología, autonomía corporal, derecho y cultura online? Suscribirse a Sexo y tecnología de Razón y Elizabeth Nolan Brown.
“OnlyFake afirma utilizar ‘redes neuronales’ para generar fotografías realistas de identificaciones falsas por sólo 15 dólares”. reportado 404 Medios a principios de esta semana:
En nuestras propias pruebas, OnlyFake creó una licencia de conducir de California muy convincente, completa con cualquier nombre, información biográfica, dirección, fecha de vencimiento y firma arbitrarios que quisiéramos. La foto incluso da la apariencia de que la tarjeta de identificación está sobre una alfombra mullida, como si alguien la hubiera colocado en el suelo y tomado una fotografía, lo que muchos sitios requieren con fines de verificación.
El El sitio web OnlyFake desapareció (por ahora) después del 404 Medios informe. Pero seguramente no será el último servicio en ofrecer identificaciones digitales falsas.
Cardar a las personas para que utilicen la Web
Las medidas para exigir que las personas demuestren su edad antes de usar las redes sociales o ver plataformas pornográficas han estado arrasando en los parlamentos estadounidenses últimamente. Algunos ya han pasado, y se está trabajando en una corriente aparentemente interminable. La idea también ha ido ganando fuerza entre los legisladores federales.
Estas medidas tienden a no decir sólo cómo Las empresas de tecnología deben verificar las edades de los usuarios. Pero la forma más sencilla (y, por tanto, la que tiene más probabilidades de ponerse en práctica) es exigir a los usuarios que carguen una fotografía de su licencia de conducir (u otra identificación emitida por el gobierno), ya sea directamente a la plataforma tecnológica o mediante alguna verificación de terceros. sitio.
Los defensores de las leyes de verificación de edad en línea dicen que son necesarias para impedir que los adolescentes y los niños utilicen las redes sociales o vean contenido para adultos. Pero incluso si se está de acuerdo con este objetivo en teoría, su implementación conlleva algunos problemas serios.
Por un lado, las reglas que exigen que las personas adjunten sus identificaciones reales a sus cuentas de redes sociales y otras actividades en línea serían una grave invasión de la privacidad tanto de adultos como de menores. Podría exponernos a todos a piratas informáticos, bromistas, ladrones de identidad y acoso gubernamental. Atrás quedaron los días en que cualquiera podía ser real o incluso nominalmente anónimo en línea.
Algunos dicen que estas compensaciones valen la pena para evitar que los niños tengan libertad en la esfera digital. Pero, ¿las leyes de control de edad lograrían siquiera sus objetivos declarados?
La existencia de sitios como OnlyFake sugiere que no lo harían. Al usarlo, cualquier adolescente con $15 podría frustrar una verificación de identidad en las redes sociales o en una plataforma pornográfica.
Superar el régimen de control de edad
Por supuesto, actualmente las personas pueden producir imágenes de identificación falsas con herramientas de edición de fotografías como Adobe Photoshop. Pero la IA promete simplificar y agilizar la tarea y, tal vez, producir mejores resultados. Lo que alguna vez fue un proceso minucioso que requería algunas habilidades técnicas, pronto podrá ser realizado fácilmente por cualquiera que emplee la herramienta de inteligencia artificial adecuada.
Las empresas de tecnología que realizan controles de edad podrían emplear medidas diseñadas para desalentar las falsificaciones, como exigir a las personas que envíen una fotografía de ellos mismos sosteniendo su identificación. Pero los servicios impulsados por IA podrían a su vez generar fotografías falsas de alguien con su documento de identidad falso. Y a medida que las herramientas de IA mejoren inevitablemente, éstas sólo tendrán un aspecto más realista.
Quizás existan algunas técnicas de verificación de metadatos que podrían usarse aquí. Pero, hasta cierto punto, también se pueden alterar los metadatos.
Algunas medidas de control de edad:como uno aprobado en Utah el año pasado—Requeriría la aprobación de los padres para que los menores creen cuentas en las redes sociales. Pero los niños han estado eludiendo los requisitos de aprobación de los padres desde siempre en el mundo no digital. Es difícil imaginar que esta aprobación en línea no pueda falsificarse también con las herramientas adecuadas.
Las grandes plataformas de generación de imágenes de IA pueden implementar sistemas para impedir que se utilicen para generar imágenes falsas. (Por ejemplo, el servicio de inteligencia artificial de Instagram, que genera nuevas imágenes a partir de imágenes cargadas por el usuario usando palabras clave ingresadas por el usuario, dijo que no podía generar una imagen cuando mi mensaje era “identificación falsa”). Pero más servicios clandestinos, como OnlyFake, siempre pueden intervenir para llenar este vacío.
¿Verificación cada vez más elaborada?
Las empresas de tecnología (o los servicios de verificación de terceros en los que confían) podrían evitar el problema de la identificación falsa empleando servicios que básicamente realizan verificaciones de antecedentes de todos los usuarios.
Pero cuanto más elaboradas sean las comprobaciones de identidad requeridas, más costos incurrirán para estas empresas y más tiempo llevará. Y la mayoría de las empresas de tecnología querrán hacer lo mínimo necesario para cumplir con las leyes pertinentes, no ir más allá para excluir a más usuarios de sus plataformas.
Tal vez si las identificaciones falsas se perciben como un problema suficientemente grande (y las sanciones por no encontrarlas lo suficientemente severas) veremos que comienzan a despegar esfuerzos elaborados de verificación de identidad.
¿Estarán contentos entonces los que mantienen a los niños alejados de las redes sociales? ¿Estarán mejor los adolescentes?
Lo dudo. Incluso si los adolescentes no lo son capaces de eludir las leyes de verificación de edad, e incluso si aceptamos que las redes sociales podrían ser malas para ellos (algo lejos de ser obvio): estamos viendo un potencial serio de consecuencias no deseadas.
porque los adolescentes voluntad encontrar alternativas, y éstas en realidad pueden ser más riesgosas o más propensas a fomentar los comportamientos que preocupan a la gente. Es absurdo pensar que los jóvenes simplemente digan: “Bueno, no puedo crear una cuenta de TikTok, así que supongo que iré al centro comercial como si fuera la década de 1980”.
Simplemente utilizarán plataformas que técnicamente no entran dentro del ámbito de las redes sociales, como servicios de chat o foros web privados; diablos, incluso Google Docs funcionaría. O visitarán sitios web y se registrarán en aplicaciones basadas en países sin controles de edad. Y todo esto hará que monitorear lo que está sucediendo (y contrarrestar cualquier tendencia peligrosa o cosas como el acoso) sea más difícil, al mismo tiempo que hará menos probable que los lugares donde los adolescentes ven o crean contenido respondan a las autoridades estadounidenses.
La conclusión es que los jóvenes llevan mucho tiempo frustrando las leyes de edad mínima para comprar cerveza, ver películas con clasificación R y todo tipo de cosas más. En cierto modo, la tecnología ha hecho que esto sea más difícil, con cosas como hologramas específicos de cada estado y grabados con láser que hacen que las licencias de conducir sean menos fáciles de falsificar que antes. Sin embargo, la tecnología también ha proporcionado todo tipo de herramientas nuevas para falsificar identificaciones realistas, especialmente si estas identificaciones no están destinadas a ser examinadas en forma física.
Puede que se exagere el gran revuelo sobre el poder de la IA, pero su potencial para crear imágenes de apariencia realista es innegable. Consigue uno para el chico de 16 años que sólo quiere publicar memes en línea.
La imagen de hoy
