La policía arrestó a un hombre en Florida por intento de secuestro de niños en una ciudad que nunca había visitado, y la única evidencia que lo vinculaba con el crimen fue un reconocimiento facial de IA. Representado por la Unión Estadounidense de Libertades Civiles (ACLU), ahora está demandando a los funcionarios y agencias que lo hicieron pasar por esto.
En noviembre de 2023, la policía de Jacksonville Beach, Florida, respondió a una llamada sobre un intento de secuestro de un niño en un McDonald’s. Los testigos dijeron que un hombre adulto supuestamente intentó que la niña, identificada como una niña menor de 12 años, saliera del restaurante con él. Según un informe policial, el software de reconocimiento facial concluyó con un 93 por ciento de confianza que el sospechoso era Robert Dillon.
En agosto de 2024, los agentes arrestaron a Dillon en su casa de Fort Myers, Florida, a cientos de kilómetros de distancia, en el extremo opuesto del estado. “¿Me estás tomando el pelo, hombre?” Dillon preguntó al agente que lo arrestó. “No he salido de Fort Myers en dos años”. Además, también dijo que nunca había estado en Jacksonville Beach.
Dillon pagó la fianza y se declaró inocente de seducir o atraer a un niño, un delito grave de tercer grado, punible con hasta cinco años de prisión. Más de dos meses después, los fiscales retiraron los cargos después de que su abogado proporcionara pruebas de que estaba en el trabajo el día en cuestión.
Pero eso no excusa el hecho de que, en primer lugar, sólo fue arrestado y amenazado con ser procesado por un delito particularmente atroz, debido a un trabajo policial de mala calidad.
La ACLU ahora está demandando a la ciudad de Jacksonville Beach, así como a los agentes de policía y funcionarios involucrados en el caso. Según la demanda, el oficial que respondió vio las imágenes de la cámara de seguridad del sospechoso pero no tomó una copia; en cambio, tomó fotografías de la pantalla con su teléfono celular. “En las fotografías, la imagen del sospechoso es de baja resolución y el rostro del sospechoso está parcialmente ensombrecido y fuera de eje”, afirma la demanda.
Cuando un investigador cuestionó el sistema de reconocimiento facial, fue con las fotos granuladas del teléfono celular de segunda mano del oficial.
Pero había otras pistas que la policía podría haber seguido, ya sea para reforzar su caso o apuntar en otra dirección. Por ejemplo, cuando se acercó a la niña, el sospechoso estaba recogiendo comida que había pedido con anticipación; esto implica que tenía una cuenta en línea, con información de contacto y una forma de pago adjunta.
“Estos registros podrían haberse utilizado para identificar a la persona real que realizó el pedido del sospechoso”, señala la demanda. “Según nuestra información y creencia, el personal de la policía de Jacksonville Beach nunca solicitó u obtuvo registros de pedidos móviles, datos de pago o información de cuentas en línea de McDonald’s”.
Además, el gerente de McDonald’s reconoció al agresor como un “cliente habitual”, lo que probablemente excluye a Dillon, que vivía y trabajaba en el otro lado del estado y no viajaba con frecuencia. Además, en ningún momento los investigadores buscaron imágenes de las visitas anteriores del sospechoso, ni en busca de imágenes de mayor calidad ni de registros de transacciones. Y una vez que decidieron que Dillon era sospechoso, los investigadores podrían haber obtenido una orden judicial para los datos del GPS de su teléfono celular, mostrando si estaba o no en un restaurante de comida rápida a 300 millas de su casa la noche en cuestión.
La demanda señala que cuando surgió el nombre de Dillon, el oficial investigador Scott O’Connell consultó la base de datos policial de lectores de matrículas, que no detectó los vehículos de Dillon en Jacksonville Beach dentro de las 48 horas que rodearon el intento de secuestro.
Por lo demás, la investigación parece haber consistido enteramente en fotografías granuladas tomadas con teléfonos móviles de las imágenes de vigilancia. Según la demanda, O’Connell los comparó con fotografías de los registros de registro de reclusos y el registro de delincuentes sexuales, pero no encontró coincidencias potenciales. Semanas más tarde, sin pistas, envió las fotos a otras agencias policiales, pidiendo ayuda. Fue en este punto que un investigador los pasó por el reconocimiento facial, lo que marcó a Dillon.
Pero como señala la ACLU, la precisión del reconocimiento facial “depende significativamente de la calidad de la imagen de la sonda. Las imágenes de menor calidad contienen datos faciales menos interpretables, lo que degrada la capacidad del sistema para producir una plantilla confiable”.
Como mínimo, requiere una imagen fuente mucho mejor. Además, ninguna herramienta de investigación de este tipo debería constituir la única base para una orden de arresto. “Si vinieras a verme con un error de reconocimiento facial y esa fuera tu causa probable, probablemente te echaría de mi oficina porque no es así como funciona”, dijo el sheriff de Jacksonville, TK Waters, a las noticias locales. (Waters se encuentra entre los demandados en la demanda de la ACLU, porque fue un investigador de la Oficina del Sheriff de Jacksonville quien pasó la foto granulada a través del reconocimiento facial y le informó a O’Connell que era una “coincidencia del 93%” con Dillon).
Si bien finalmente fue liberado, Dillon todavía tuvo que sufrir la indignidad de no solo ser arrestado, sino también acusado de ser un posible abusador de niños. Cuando los agentes lo colocaron en una celda de detención grupal después de su arresto, la demanda dice que Dillon “se sentó en silencio, demasiado asustado por la gravedad del cargo para hablar o interactuar con nadie”. Incluso después de que se retiraron los cargos, las autoridades tardaron un año entero en eliminar su fotografía policial y borrar el arresto de su historial.
Desafortunadamente, Dillon no es la primera persona en esta posición: la ACLU estima que es una de al menos 14 personas arrestadas desde 2019 después de haber sido identificadas erróneamente mediante reconocimiento facial.
La demanda de Dillon, presentada esta semana en el Tribunal de Distrito de EE. UU. para el Distrito Medio de Florida, busca daños compensatorios y punitivos, así como el requisito de que los departamentos de policía en cuestión adopten nuevas salvaguardias contra el uso indebido de la tecnología de reconocimiento facial en el futuro.
“La noche que pasé en la cárcel después de que me arrestaran por un crimen que no cometí todavía me persigue hasta el día de hoy. Nunca olvidaré lo aterrorizado y preocupado que estaba, preguntándome si alguna vez volvería a casa con mi esposa y mi hija”, dijo Dillon en un comunicado. “La policía de Florida debe implementar salvaguardias y garantizar que esto nunca le suceda a nadie más, porque hasta que eso suceda, nadie estará a salvo”.