Cuando un generador de imágenes de inteligencia artificial produce un retrato, ¿de quién es el trabajo? La cuestión está en el centro de demandas, acuerdos de licencia y regulaciones propuestas en todo el mundo. Los artistas quieren crédito. Las empresas quieren claridad. Los formuladores de políticas quieren una forma de asignar responsabilidades.
Un nuevo trabajo de un equipo de investigadores del Laboratorio de Ciencias de la Computación e Inteligencia Artificial (CSAIL) del MIT sugiere que para los modelos entrenados en grandes conjuntos de datos, la pregunta a menudo puede no tener respuesta. No es que las herramientas para encontrarlo sean inadecuadas. La conexión en sí ha desaparecido.
Los científicos identificaron un fenómeno que denominan deterioro de la atribución, en el que cuantos más datos se entrenan en un modelo generativo, menos importa cualquier ejemplo de entrenamiento individual para un resultado en particular. Parece contradictorio, pero a escalas suficientemente grandes, encuentran, a menudo se puede eliminar cualquier imagen de los datos de entrenamiento, o cada imagen de un artista determinado, o cada fotografía de una persona determinada, y la muestra generada no cambia.
Y si eliminar algo no cambia nada, argumentan los investigadores, no se puede decir que sea responsable de nada.
“Si se quita un dato y el resultado del modelo no cambia, entonces ese dato no afectó el resultado”, dice Zheng Dai SM ’21, PhD ’24, ex investigador del MIT CSAIL y autor principal del trabajo. “Por lo tanto, no tiene mucho sentido atribuir el resultado a ese dato. Y si luego haces esto uno a la vez para cada otro dato y descubres que el resultado no cambia para ninguno de ellos tampoco, entonces no tiene mucho sentido atribuir el resultado a cualquiera de ellos”.
“Todos los métodos anteriores eran aproximados”, dice el profesor del MIT David Gifford, investigador principal del MIT CSAIL. “Realmente no pudieron demostrar absolutamente que eliminar cosas individuales no cambiara la salida. Este documento presenta el primer método que es absoluto. En realidad, estás eliminando las entradas y eliminando todas las influencias de las entradas. Este es el primer método exacto para realizar una eliminación a gran escala de manera eficiente y mostrar que los resultados no cambian”.
El proyecto de Dai y Gifford se describe en un artículo de acceso abierto publicado hoy en Nature Communications.
El problema del reentrenamiento
Probar esta idea directamente significó responder una pregunta hipotética. ¿Qué habría producido este modelo si nunca hubiera visto esta imagen en particular? Responderla honestamente significa volver a entrenar el modelo desde cero sin esa imagen y luego hacerlo nuevamente para la siguiente imagen y la siguiente. Con millones de ejemplos de entrenamiento, las matemáticas rápidamente se vuelven prohibitivas, razón por la cual trabajos anteriores en el campo de la atribución se han basado en aproximaciones que estiman la influencia de un ejemplo de entrenamiento, en lugar de eliminarlo.
Su solución es una arquitectura que ellos mismos construyeron, llamada “conjunto de difusión”. En lugar de un modelo monolítico, se compone de muchos componentes más pequeños, cada uno de ellos entrenado en una porción diferente de datos. ¿Quieres saber qué haría la modelo sin una imagen en particular? Simplemente apague las partes que lo vieron. Sin reentrenamiento, sin aproximación. Lo que queda es un verdadero modelo contrafactual, no una estimación de uno.
Por supuesto, una arquitectura inteligente sólo importa si todavía funciona como generador. Entonces, el equipo enfrentó los conjuntos con 24 modelos de difusión convencionales entrenados exactamente con los mismos datos. Las imágenes salieron igual de bien según las medidas estándar.
Una agradable sorpresa en los números: cuantos más datos de entrenamiento, mejor se comportaron los conjuntos frente a sus contrapartes de modelo único, un indicio de que en realidad pueden ser más eficientes en cuanto a datos.
“Cuando tienes poca cantidad de datos, les va muy mal”, dice Dai. “Pero si tienes más datos, en realidad se escala mejor en comparación con el modelo de difusión básico”.
Explorando un universo contrafactual
Con la ablación funcionando, los investigadores finalmente pudieron plantear su pregunta a escala. Tome una imagen generada y luego imagine cada versión alternativa de la misma, cada una producida eliminando una parte diferente de los datos de entrenamiento. El equipo llama a esto el universo contrafactual de la imagen. La distancia entre el original y su alternativa más diferente, el radio contrafactual, captura lo máximo que cualquier dato de entrenamiento podría haber importado.
Entrenaron 24 conjuntos en conjuntos de datos de 256 imágenes a más de 160.000, extraídas de siete colecciones públicas, incluidas CIFAR-10, CelebA, MetFaces y ArtBench. El patrón era consistente: cuanto mayor era el conjunto de entrenamiento, menor era el radio, reduciéndose según una ley de potencia inversa. Se mantuvo si las diferencias se midieron píxel por píxel o por significado semántico, con significancia estadística en ambos sentidos.
El equipo también puso a prueba su propio resultado. ¿Quizás la propia ablación fue la culpable? Lo rehicieron mediante la fuerza bruta a pequeña escala, entrenando 1.282 modelos distintos, y el deterioro apareció de todos modos. ¿Quizás conjuntos de datos más grandes simplemente hacen que cada eliminación sea proporcionalmente más pequeña? Fijaron la fracción eliminada en su lugar y persistió. Épocas fijas, modelos basados en texto, modelos condicionados por clases, cuatro métricas de similitud: el hallazgo sobrevivió a todo.
La paradoja de la privacidad
Las implicaciones van en una dirección que sorprendió a los propios investigadores.
Gifford considera que el hallazgo guarda relación directa con la cuestión legal de si los resultados del modelo son trabajos derivados.
“Una forma de pensar en esto es que estos modelos son creativos. No están simplemente copiando lo que se les proporciona, sino que crean resultados completamente nuevos. Si esos resultados no tienen nada que ver con ningún dato individual de entrenamiento, eso plantea preguntas sobre el uso legítimo, sobre si los resultados son en sí mismos protegidos por derechos de autor como obras novedosas, y sobre cómo se compensa a los autores cuando lo que surge de un modelo no es atribuible a nada en Internet”.
Gifford también señala que el trabajo muestra cómo producir productos que se garantiza que no serán atribuibles, una capacidad que él considera una obligación para la industria, en lugar de una laguna jurídica.
“Para que estas empresas afirmen que sus productos no se derivan de Internet de manera que infrinja los derechos de autor, necesitan revisar sus modelos para aprovechar los avances en este trabajo, de modo que puedan demostrar que no están creando derivados de personas o elementos individuales”.
El trabajo analiza los modelos de difusión, actualmente dominantes en la generación de medios audiovisuales y frecuentes en aplicaciones científicas, incluido el modelado de estructuras de proteínas y los descubrimientos terapéuticos. Aún es una cuestión abierta si la misma decadencia se aplica a los grandes modelos lingüísticos que están en el centro de los litigios de derechos de autor de más alto perfil.
“Si la atribución funcionara, nos diría de manera confiable si las similitudes entre el resultado de un modelo y una obra protegida por derechos de autor se deben a copia o coincidencia”, dice James Grimmelmann, profesor de derecho en la Facultad de Derecho y Cornell Tech de Cornell. “Pero este artículo proporciona razones para pensar que la atribución fallará en el caso de modelos interesantes. En cambio, los tecnólogos y los tribunales tendrán que recurrir a otros métodos para evaluar la copia”.
El trabajo de Dai y Gifford contó con el apoyo de Schmidt Futures.