Los investigadores de Google abordan el desafío de mantener la corrección de los mecanismos de privacidad diferencial (DP) mediante la introducción de una biblioteca a gran escala para auditar la privacidad diferencial, DP-Auditorium. La privacidad diferencial es esencial para proteger la privacidad de los datos con las próximas regulaciones y una mayor conciencia sobre las cuestiones de privacidad de los datos. Verificar la capacidad de un mecanismo para mantener la privacidad diferencial en un sistema complejo y diverso es una tarea difícil.
Las técnicas existentes han demostrado funcionar, pero no pueden unificar marcos para una evaluación integral y sistemática. Para entornos complejos, se requiere que las técnicas de verificación sean herramientas más flexibles y ampliables. El modelo propuesto está diseñado para probar la privacidad diferencial utilizando únicamente acceso de caja negra. DP-Auditorium resume el proceso de prueba en dos pasos principales: medir la distancia entre distribuciones de salida y encontrar conjuntos de datos vecinos que maximicen esta distancia. Utiliza un conjunto de probadores basados en funciones que es más flexible que los métodos tradicionales basados en histogramas.
El marco de pruebas de DP-Auditorium se centra en estimar divergencias entre distribuciones de salida de un mecanismo en conjuntos de datos vecinos. La biblioteca implementa varios algoritmos para estimar estas divergencias, incluidos métodos basados en histogramas y técnicas de divergencia dual. Al aprovechar las representaciones variacionales y la optimización bayesiana, DP-Auditorium logra un rendimiento y una escalabilidad mejorados, lo que permite la detección de violaciones de la privacidad en diferentes tipos de mecanismos y definiciones de privacidad. Los resultados experimentales demuestran la eficacia de DP-Auditorium para detectar varios errores y su capacidad para manejar diferentes regímenes de privacidad y tamaños de muestra.
En conclusión, DP-Auditorium demostró ser una herramienta integral y flexible para probar mecanismos de privacidad diferenciales, que aborda con éxito la necesidad de una auditoría segura y estable con preocupaciones cada vez mayores sobre la privacidad de los datos. Al utilizar el mecanismo de abstracción para el proceso de prueba y al incorporar algoritmos y técnicas novedosos, el modelo mejora la confianza en los esfuerzos de protección de la privacidad de los datos.
Revisar la Papel y Blog. Todo el crédito por esta investigación va a los investigadores de este proyecto. Además, no olvides seguirnos en Gorjeo y noticias de Google. Unirse nuestro SubReddit de 38k+ ML, 41k+ comunidad de Facebook, Canal de discordiay LinkedIn Grarriba.
Si te gusta nuestro trabajo, te encantará nuestro Boletin informativo..
No olvides unirte a nuestro Canal de telegramas
También te puede gustar nuestro Cursos GRATUITOS de IA….
Pragati Jhunjhunwala es pasante de consultoría en MarktechPost. Actualmente está cursando su B.Tech en el Instituto Indio de Tecnología (IIT), Kharagpur. Es una entusiasta de la tecnología y tiene un gran interés en el alcance del software y las aplicaciones de ciencia de datos. Siempre está leyendo sobre los avances en diferentes campos de la IA y el ML.