Crome: el marco causal de Google Deepmind para el modelado de recompensas robustas en la alineación de LLM
Los modelos de recompensa son componentes fundamentales para alinear LLM con comentarios humanos, pero enfrentan el desafío de los problemas de piratería de recompensas. Estos modelos se centran en atributos…