El mes pasado, muchos matemáticos quedaron impactados por el anuncio de OpenAI de que la inteligencia artificial había resuelto el famoso problema de la “distancia unitaria” de la geometría.
Para algunos, el logro fue emocionante. Pero a los investigadores también les preocupa que la tecnología de inteligencia artificial, si no se controla, empeore su campo. Para abordar esos temores, un grupo de matemáticos, informáticos e historiadores de las matemáticas han publicado directrices para evitar que la IA arrase su disciplina.
Entre sus prescripciones más importantes: divulgar el uso de la IA en la investigación, garantizar que todos los artículos sean revisados por pares y nivelar el campo de juego entre el mundo académico y las empresas con fines de lucro a través, por ejemplo, de recursos legales y financiación pública.
Sobre el apoyo al periodismo científico
Si está disfrutando de este artículo, considere apoyar nuestro periodismo galardonado suscribiéndose. Al comprar una suscripción, ayudas a garantizar el futuro de historias impactantes sobre los descubrimientos y las ideas que dan forma a nuestro mundo actual.
Los matemáticos han estado trabajando en el documento desde el otoño pasado, cuando alrededor de 60 investigadores y responsables políticos se reunieron en el Centro Lorentz de la Universidad de Leiden en los Países Bajos para discutir cómo la tecnología afectará a las matemáticas. En lo más alto de la mente de muchos asistentes estaba el flujo cada vez más acelerado de pruebas escritas parcial o totalmente por IA.
Si se utiliza de manera responsable, la IA “puede ser extremadamente útil y útil”, dice Ilka Agricola, una matemática que preside el Comité de Publicaciones de la Unión Matemática Internacional (IMU), la principal organización de matemáticas a nivel mundial. “Desafortunadamente, este aspecto positivo se está quedando pequeño en comparación con el enorme desorden que lo rodea”.
Las bandejas de entrada de los editores de revistas se están llenando de más pruebas de IA de las que pueden examinar. Los grandes modelos lingüísticos regurgitan ideas humanas, a menudo sin atribución. Algunos temen por la integridad de la investigación misma. Les preocupa que valores como la transparencia y la accesibilidad, que los matemáticos han priorizado durante mucho tiempo, estén en peligro.
Por ejemplo, casi todos los artículos modernos sobre matemáticas se pueden leer de forma gratuita en arXiv.org, y la American Mathematical Society alberga su propio repositorio curado de artículos, libros y reseñas de matemáticas. El compromiso con estos principios permite que cualquier persona en la Tierra vea y desarrolle nuevas investigaciones, dice Jim Portegies, matemático de la Universidad Tecnológica de Eindhoven en los Países Bajos. Pero las empresas de tecnología, afirma, a menudo mantienen en privado los detalles clave. Por ejemplo, cuando Google DeepMind anunció en 2024 que su modelo de inteligencia artificial AlphaProof había resuelto tres difíciles problemas de competencias matemáticas, pasó más de un año antes de que los métodos se publicaran en una revista revisada por pares. A menudo, cuando se trata de pruebas de IA, “nos retiramos a puerta cerrada porque ahora hay mucho interés comercial”, dice Portegies.
Para tratar de combatir estas tendencias, los participantes en el taller de Leiden decidieron trabajar juntos en una declaración conjunta modelada a partir de documentos similares sobre ciencia abierta y gestión de datos. La llamaron “Declaración de Leiden sobre Inteligencia Artificial y Matemáticas”.
Aunque todos los autores compartían algunas preocupaciones básicas, convertirlas en una declaración con la que todos estuvieran contentos fue un desafío. “Fue un proceso largo y arduo con muchas discusiones animadas”, dice Rodrigo Ochigame, antropólogo de IA en la Universidad de Leiden. “Creo que nunca he sido parte de un proceso de escritura que implicara tanto debate para un texto tan breve”.
En el documento final de 11 páginas, los autores exponen lo que valoran de la investigación matemática, cómo esos valores se ven amenazados por la IA y cómo abordar la situación. Por ejemplo, una de sus preocupaciones era que, mientras que cualquier persona con la experiencia adecuada puede verificar una prueba escrita por humanos, la IA es propensa a errores sutiles y difíciles de detectar; Las políticas que someten las pruebas de IA a un escrutinio adicional pueden ayudar a detectar tales errores. Y los objetivos de los humanos y la IA en matemáticas no siempre son los mismos: los matemáticos persiguen preguntas de investigación basadas en el potencial de que surjan nuevas técnicas e ideas, y las empresas de tecnología pueden centrarse en preguntas que muestran sus modelos de IA pero que tienen un impacto limitado en matemáticas. La financiación independiente puede ayudar a garantizar que los matemáticos sigan teniendo voz y voto en el desarrollo de su campo.
Algunas de las recomendaciones, como revelar el uso de la IA y atribuir adecuadamente las investigaciones previas, dependen de individuos o empresas de IA. Otros, como la recomendación de regular la industria de la IA, requieren una organización a gran escala o la intervención gubernamental.
Lo más crucial para Ochigame es el llamado a las empresas comerciales de IA para que se adhieran a los principios de la declaración. “Los matemáticos que nunca tuvieron la intención de contribuir al desarrollo de la IA están utilizando su trabajo para este fin sin su consentimiento”, afirma. “Creo que es una situación profundamente preocupante”.
La IMU planea respaldar la declaración, y Portegies, quien dirigió el proyecto de la declaración, hablará sobre ello en la próxima conferencia de la organización este verano.
“Le hicieron un inmenso favor a toda la comunidad, porque ahora tenemos un punto de partida para la toma de decisiones, para la discusión”, dice Agrícola. “Me encanta.”
Es hora de defender la ciencia
Si te ha gustado este artículo, me gustaría pedirte tu apoyo. Científico americano ha servido como defensor de la ciencia y la industria durante 180 años, y ahora mismo puede ser el momento más crítico en esos dos siglos de historia.
he sido un Científico americano suscriptor desde que tenía 12 años y me ayudó a moldear mi forma de ver el mundo. Ciencia-Am Siempre me educa y me deleita, e inspira una sensación de asombro por nuestro vasto y hermoso universo. Espero que también lo haga por ti.
Si te suscribes a Científico americanousted ayuda a garantizar que nuestra cobertura se centre en investigaciones y descubrimientos significativos; que tenemos los recursos para informar sobre las decisiones que amenazan a los laboratorios en todo Estados Unidos; y que apoyemos a los científicos tanto en ciernes como en activo en un momento en el que con demasiada frecuencia el valor de la ciencia misma pasa desapercibido.
A cambio, obtiene noticias esenciales, podcasts cautivadores, infografías brillantes, boletines informativos imperdibles, vídeos imprescindibles, juegos desafiantes y los mejores escritos e informes del mundo científico. Incluso puedes regalarle a alguien una suscripción.
Nunca ha habido un momento más importante para que nos levantemos y demostremos por qué la ciencia es importante. Espero que nos apoyes en esa misión.