P: ¿Qué implicará unirse a la red?
A: Ser parte de la red significa que se le puede contactar acerca de oportunidades para probar un nuevo modelo o probar un área de interés en un modelo que ya está implementado. El trabajo realizado como parte de la red se realiza bajo un acuerdo de confidencialidad (NDA), aunque históricamente hemos publicado muchos de nuestros hallazgos sobre el equipo rojo en tarjetas de sistema y publicaciones de blog. Se le compensará el tiempo dedicado a proyectos de equipo rojo.
P: ¿Cuál es el compromiso de tiempo esperado para ser parte de la red?
A: El tiempo que decidas dedicar se puede ajustar dependiendo de tu horario. Tenga en cuenta que no se contactará a todos los miembros de la red para cada oportunidad; OpenAI hará selecciones basadas en la opción adecuada para un proyecto de equipo rojo en particular y enfatizará nuevas perspectivas en campañas de equipo rojo posteriores. Incluso tan solo 5 horas en un año seguirían siendo valiosas para nosotros, así que no dudes en postularte si estás interesado pero tu tiempo es limitado.
P: ¿Cuándo se notificará a los solicitantes su aceptación?
A: OpenAI seleccionará miembros de la red de forma continua y usted puede presentar su solicitud hasta el 1 de diciembre de 2023. Después de este período de solicitud, reevaluaremos la apertura de futuras oportunidades para presentar su solicitud nuevamente.
P: ¿Ser parte de la red significa que se me pedirá que forme un equipo rojo para cada modelo nuevo?
A: No, OpenAI hará selecciones basadas en la opción adecuada para un proyecto de equipo rojo en particular, y no debe esperar probar cada modelo nuevo.
P: ¿Cuáles son algunos de los criterios que busca en los miembros de la red?
A: Algunos criterios que buscamos son:
- Conocimientos o experiencia demostrada en un dominio particular relevante para el equipo rojo.
- Apasionado por mejorar la seguridad de la IA
- Sin conflictos de intereses
- Diversos orígenes y grupos tradicionalmente subrepresentados
- Representación geográfica diversa
- Fluidez en más de un idioma.
- Habilidad técnica (no requerida)
P: ¿Cuáles son otras oportunidades de seguridad colaborativa?
A: Más allá de unirse a la red, existen otras oportunidades de colaboración para contribuir a la seguridad de la IA. Por ejemplo, una opción es crear o realizar evaluaciones de seguridad en sistemas de IA y analizar los resultados.
El código abierto de OpenAI evaluaciones repositorio (publicado como parte del Lanzamiento de GPT-4) ofrece plantillas fáciles de usar y métodos de muestra para iniciar este proceso.
Las evaluaciones pueden variar desde simples pruebas de preguntas y respuestas hasta simulaciones más complejas. Como ejemplos concretos, aquí hay ejemplos de evaluaciones desarrolladas por OpenAI para evaluar los comportamientos de la IA desde varios ángulos:
Persuasión
- Hazme decir: ¿Qué tan bien puede un sistema de IA engañar a otro sistema de IA para que diga una palabra secreta?
- HazmePagar: ¿Qué tan bien puede un sistema de IA convencer a otro sistema de IA para que done dinero?
- Propuesta de boleta: ¿Qué tan bien puede un sistema de IA influir en el apoyo de otro sistema de IA a una propuesta política?
Esteganografía (mensajes ocultos)
- esteganografía: ¿Qué tan bien puede un sistema de IA transmitir mensajes secretos sin ser detectado por otro sistema de IA?
- Compresión de texto: ¿Qué tan bien puede un sistema de inteligencia artificial comprimir y descomprimir mensajes para permitir ocultar mensajes secretos?
- Punto de Schelling: ¿Qué tan bien puede coordinarse un sistema de IA con otro sistema de IA, sin comunicación directa?
Fomentamos la creatividad y la experimentación en la evaluación de sistemas de IA. Una vez completado, le invitamos a contribuir con su evaluación al código abierto. evaluaciones repositorio para uso de la comunidad de IA en general.
También puedes postular a nuestro Programa de Acceso a Investigadoresque proporciona créditos para apoyar a los investigadores que utilizan nuestros productos para estudiar áreas relacionadas con el despliegue responsable de la IA y la mitigación de los riesgos asociados.