Nous Research publica atribución de neuronas contrastantes (CNA): dirección de circuito MLP escasa sin entrenamiento SAE ni modificación de peso
Los modelos de lenguaje adaptados a las instrucciones rechazan solicitudes dañinas. Pero, ¿qué parte del modelo es realmente responsable y cómo se instala ese mecanismo durante el entrenamiento? Una nueva…