En agosto, OpenAI convocó a unos 40 matemáticos para discutir qué hacer si la IA supera las capacidades humanas en el campo. La compañía insinuó que sus poderosos modelos habían resuelto cientos de problemas matemáticos de larga data, dicen las personas que asistieron, pero los representantes de la compañía aseguraron a los asistentes que no publicaría las soluciones todas de una vez (una garantía que la portavoz de OpenAI, Lindsay McCallum, dice que la compañía “no tiene conocimiento”) y, preocupada por cómo podría reaccionar la comunidad, buscó asesoramiento sobre cómo publicar los hallazgos.
Los asistentes respondieron con “una mezcla de entusiasmo y temor”, pero la reunión fue un primer paso prometedor, recuerda Bryna Kra, matemática de la Universidad Northwestern. El grupo, le dice a WIRED, pidió a la empresa que no los publicara simplemente en un blog o tweet, como habían hecho con 10 problemas a principios de ese mes. En cambio, según Kra, sería importante que OpenAI publicara artículos que explicaran el trabajo para que los matemáticos pudieran absorber, digerir y utilizar los resultados. “Aparentemente, esa información fue ignorada”, dice.
OpenAI le ha dicho a la gente que planea deshacerse de cientos de los resultados a los que hizo referencia en la reunión de agosto en GitHub el martes, según le dijeron a WIRED personas familiarizadas con los planes. El lanzamiento sería el último de decenas de miles de soluciones matemáticas generadas por IA este año, a medida que los modelos de frontera se vuelven cada vez más capaces.
“El 28 de agosto, comenzamos a entrenar un nuevo modelo interno. Además de resolver el problema del Premio Navier-Stokes Millennium, este modelo ha resuelto más de 100 problemas abiertos desde hace mucho tiempo en la mayoría de las áreas de las matemáticas”, dice McCallum. “Estamos trabajando para publicar de manera responsable los próximos resultados matemáticos de nuestro modelo, basándonos en los consejos y recomendaciones públicas del Grupo Asesor en Matemáticas e Inteligencia Artificial del Instituto de Estudios Avanzados para informar cómo publicamos estos resultados. No hemos establecido un tiempo de publicación”.
Pero para varios matemáticos destacados, el resultado inminente también es una señal de que la empresa ha aprendido poco de las controversias sobre lanzamientos anteriores.
En conversaciones con WIRED, los académicos dicen que sienten que el campo se ha convertido en un campo de juego para que OpenAI y su rival Anthropic muestren sus modelos mientras ambos se preparan para ofertas públicas iniciales de gran éxito. En su afán por superarse unos a otros, dicen los matemáticos, se han dejado de lado los procesos científicos tradicionales para publicar y atribuir resultados.
El caso más llamativo hasta el momento se produjo en septiembre. OpenAI desplegó miles de agentes para resolver un problema legendario del Premio del Milenio de un millón de dólares después de escuchar “rumores” de que otros se estaban acercando a las soluciones. Tristan Buckmaster, matemático y profesor de la Universidad de Nueva York, acusó a la empresa de adelantar el trabajo que había realizado para resolver un elemento del problema en colaboración personal con el empleado de Anthropic, Levent Alpöge. La pareja no había publicado su trabajo, pero había estado utilizando las herramientas de OpenAI para ayudarlos.