Para minimizar estos riesgos a medida que los modelos de IA continúan mejorando, estamos creando un nuevo equipo llamado Preparación. Dirigido por Aleksander Madry, el equipo de Preparación conectará estrechamente la evaluación de capacidades, las evaluaciones y el equipo rojo interno para los modelos de frontera, desde los modelos que desarrollaremos en el futuro cercano hasta aquellos con capacidades de nivel AGI. El equipo ayudará a rastrear, evaluar, pronosticar y proteger contra riesgos catastróficos que abarcan múltiples categorías, entre ellas:
- Persuasión individualizada
- La seguridad cibernética
- Amenazas químicas, biológicas, radiológicas y nucleares (QBRN)
- Replicación y adaptación autónomas (ARA)
La misión del equipo de preparación también incluye el desarrollo y mantenimiento de una Política de desarrollo basada en riesgos (RDP). Nuestro PDR detallará nuestro enfoque para desarrollar evaluaciones y monitoreo rigurosos de la capacidad del modelo de frontera, crear un espectro de acciones protectoras y establecer una estructura de gobernanza para la rendición de cuentas y la supervisión en todo ese proceso de desarrollo. El PDR está destinado a complementar y ampliar nuestro trabajo de mitigación de riesgos existente, lo que contribuye a la seguridad y la alineación de sistemas nuevos y de alta capacidad, tanto antes como después del despliegue.