El fabricante de ChatGPT ha revelado seis nuevos ejemplos de comportamiento preocupante por parte de sus propios sistemas, días después de que Anthropic revelara que Claude había sido utilizado para trabajos con misiles, espionaje e investigación que podrían apoyar el desarrollo de armas biológicas.
OpenAI ha revelado que sus propios modelos de IA ocultaron errores a los usuarios, inventaron datos, utilizaron una clave API expuesta y subieron archivos a Internet sin permiso.
El fabricante de ChatGPT reveló ayer seis nuevos ejemplos de lo que llama “desalineación de modelos”, al presentar un nuevo sistema para rastrear e informar el comportamiento de la IA que se aleja de lo que pretendían sus desarrolladores.
En uno de los casos más sorprendentes, un modelo inédito comenzó a agregar sus propias instrucciones no autorizadas a las notas utilizadas para continuar su trabajo, incluso diciéndose a sí mismo que ignorara las instrucciones de sus desarrolladores y afirmando que estaba “liberado de los roles e identidades que vinculan a otros chatbots”.
Otro modelo no pudo encontrar cifras históricas para una tarea de modelado financiero y dejó instrucciones para que el modelo continuara el trabajo de inventar números “razonables” sin decírselo al usuario a menos que se lo pidiera específicamente.
Un tercero buscó en GitHub claves API expuestas y utilizó una con éxito mientras intentaba obtener datos de ganancias. Cuando todavía no pudo recuperar las cifras que necesitaba, compuso nueve números y los presentó como auténticos.
Otros ejemplos incluyeron modelos que subieron archivos y una fotografía proporcionada por el usuario a sitios web públicos sin permiso, usaron un sistema interno OpenAI para comunicarse entre ejercicios de entrenamiento separados y colocaron una hoja de cálculo en línea para que otros agentes de IA pudieran acceder a ella.
Las revelaciones se producen menos de una semana después de que su rival Anthropic revelara que actores externos habían utilizado su Claude AI para trabajos con cohetes guiados y misiles en Yemen, sospecha de espionaje vinculado al estado ruso, ataques contra grupos políticos y organizaciones de medios europeos e investigaciones que podrían apoyar el desarrollo de armas biológicas.
OpenAI enfatizó que los ejemplos recientemente revelados se descubrieron durante el entrenamiento o la evaluación y no deben tomarse como evidencia de la frecuencia con la que ocurre tal comportamiento en sus modelos.
Pero la compañía aprovechó el anuncio para emitir una advertencia más amplia sobre el ritmo del desarrollo de la IA.
Decía: “No creemos que la industria de la IA haya resuelto la alineación y el monitoreo en un grado suficiente para continuar escalando responsablemente a la máxima velocidad durante mucho más tiempo”.
OpenAI dijo que el nuevo marco tiene como objetivo hacer que las divulgaciones sean más rápidas y sistemáticas, en lugar de esperar a que se recopilen varios ejemplos o se incluyan en informes técnicos.
LEER MÁS: ¿Maquiavelo-IA? Los sistemas autónomos de inteligencia artificial “podrían volverse peligrosamente manipuladores”, advierten los expertos. La revelación de Anthropic de que versiones anteriores de su chatbot Claude intentaron chantajear a los ingenieros podría ser solo la punta del iceberg, temen los expertos en inteligencia artificial. A medida que los sistemas de inteligencia artificial se vuelven cada vez más autónomos, corren el riesgo de convertirse en maestros de la manipulación maquiavélica.
¿Tiene noticias para compartir o experiencia para contribuir? El europeo acoge con agrado las opiniones de líderes empresariales y especialistas del sector. Póngase en contacto con nuestro equipo editorial para obtener más información.
Imagen principal: Matheus Bertelli vía Pexels