La proliferación de modelos de aprendizaje automático (ML) en aplicaciones sociales de alto riesgo ha generado preocupaciones con respecto a la equidad y la transparencia. Los casos de toma de decisiones sesgada han provocado una creciente desconfianza entre los consumidores que están sujetos a decisiones basadas en el ML.
Para abordar este desafío y aumentar la confianza de los consumidores, se necesita con urgencia tecnología que permita la verificación pública de las propiedades de equidad de estos modelos. Sin embargo, las restricciones legales y de privacidad a menudo impiden que las organizaciones divulguen sus modelos, lo que dificulta la verificación y potencialmente conduce a comportamientos injustos, como el intercambio de modelos.
En respuesta a estos desafíos, investigadores de Stanford y UCSD propusieron un sistema llamado FairProof. Consiste en un algoritmo de certificación de equidad y un protocolo criptográfico. El algoritmo evalúa la equidad del modelo en un punto de datos específico utilizando una métrica conocida como Equidad Individual (IF) local.
Su enfoque permite emitir certificados personalizados a clientes individuales, lo que lo hace adecuado para organizaciones de atención al cliente. Es importante destacar que el algoritmo está diseñado para ser independiente del proceso de capacitación, lo que garantiza su aplicabilidad en varios modelos y conjuntos de datos.
La certificación de IF local se logra aprovechando técnicas de la literatura sobre solidez y al mismo tiempo garantizando la compatibilidad con las pruebas de conocimiento cero (ZKP) para mantener la confidencialidad del modelo. Los ZKP permiten la verificación de declaraciones sobre datos privados, como certificados de equidad, sin revelar las ponderaciones del modelo subyacente.
Para que el proceso sea computacionalmente eficiente, se implementa un protocolo ZKP especializado, que reduce estratégicamente la sobrecarga computacional mediante cálculos fuera de línea y optimización de subfuncionalidades.
Además, la uniformidad del modelo se garantiza a través de compromisos criptográficos, donde las organizaciones se comprometen públicamente con los pesos de sus modelos manteniéndolos confidenciales. Su enfoque, ampliamente estudiado en la literatura sobre seguridad de ML, proporciona un medio para mantener la transparencia y la responsabilidad mientras se salvaguarda la información confidencial del modelo.
Al combinar la certificación de equidad con protocolos criptográficos, FairProof ofrece una solución integral para abordar las preocupaciones de equidad y transparencia en la toma de decisiones basada en ML, fomentando una mayor confianza entre los consumidores y las partes interesadas por igual.
Revisar la Papel. Todo el crédito por esta investigación va a los investigadores de este proyecto. Además, no olvides seguirnos en Gorjeo. Únete a nuestro Canal de telegramas, Canal de discordiay LinkedIn Grarriba.
Si te gusta nuestro trabajo, te encantará nuestro Boletin informativo..
No olvides unirte a nuestro SubReddit de 42k+ ML
Arshad es pasante en MarktechPost. Actualmente cursa su carrera internacional. Maestría en Física del Instituto Indio de Tecnología Kharagpur. Comprender las cosas hasta el nivel fundamental conduce a nuevos descubrimientos que conducen al avance de la tecnología. Le apasiona comprender la naturaleza fundamentalmente con la ayuda de herramientas como modelos matemáticos, modelos de aprendizaje automático e inteligencia artificial.