una evolución súper rápida de la inteligencia artificial desde una mera herramienta de ejecución a un agente de evaluación… y, potencialmente, de liderazgo. A medida que los sistemas de IA comienzan a dominar el razonamiento complejo, *debemos* enfrentarnos a una pregunta profunda: ¿Cuál es el siguiente paso? Aquí exploro la provocativa posibilidad de la IA como líder, es decir, gerente, coordinador, director ejecutivo o incluso como jefe de estado. Analicemos el inmenso potencial de una sociedad utópica, hipereficiente, imparcial y basada en datos, mientras evaluamos los peligros inherentes del sesgo algorítmico, de la vigilancia incontrolada y de la erosión de la responsabilidad humana. Entonces surge un sistema más equilibrado, en el que la IA intercambia ideas con una gobernanza humana descentralizada para equilibrar al máximo el progreso con la prudencia.
No es ninguna novedad que la inteligencia artificial esté cambiando y evolucionando rápida y continuamente. Pero detengámonos a pensar en esto en detalle. Ya hemos ido mucho más allá del entusiasmo inicial de los chatbots y los generadores de imágenes hacia sistemas de inteligencia artificial mucho más complejos que han penetrado toda la ciencia, la tecnología y el entretenimiento. Y ahora estamos llegando al punto de discusiones bastante profundas sobre el papel de la IA en la toma de decisiones complejas. Ya desde el año pasado, se han propuesto y se siguen desarrollando sistemas bastante avanzados que pueden evaluar temas muy complejos, incluso la calidad de la investigación científica, los problemas de ingeniería y la codificación. Y esto es sólo la punta del iceberg. A medida que crecen las capacidades de la IA, no es un gran salto imaginar que estos sistemas asuman roles como gerentes de proyectos, coordinadores e incluso “gobernadores” en diversos dominios; en el extremo, posiblemente incluso como directores ejecutivos, presidentes y similares. Sí, sé que da miedo, ¡pero es por eso que será mejor que hablemos de esto ahora!
IA en el laboratorio: una nueva revolución científica
Si me sigues, sabrás que vengo del mundo académico, más precisamente del mundo que gira en torno a la biología molecular del tipo que se realiza tanto con computadoras como en el laboratorio húmedo. Como tal, soy testigo de primera mano de cómo el mundo académico está sintiendo el impacto de la IA y la automatización. Estuve allí como evaluador de CASP cuando DeepMind presentó sus modelos AlphaFold. Estuve allí para ver la revolución en la predicción de la estructura de las proteínas que se extiende también al diseño de las proteínas (consulte mi comentario sobre el premio Nobel relacionado en Nature’s Communication Biology).
Las nuevas empresas emergentes ahora proponen laboratorios automatizados (para ser honesto, todavía dependen en gran medida de expertos humanos, todavía ahí van) para probar nuevas moléculas a escala, permitiendo incluso competencias entre diseñadores de proteínas, la mayoría basadas en uno u otro tipo de sistema de IA para moléculas. Utilizo el poder de la IA para resumir, generar ideas, obtener y procesar información, codificar y más.
También sigo las tablas de clasificación y me sorprenden las capacidades de razonamiento en continua mejora, los sistemas de inteligencia artificial multimodal y cada cosa nueva que surge, muchas de ellas aplicables a la planificación, ejecución y probablemente incluso a la gestión de proyectos; esta última clave para la discusión que presento aquí.
Como ejemplo concreto y muy reciente, una conferencia llamada Agents4Science 2025 presentará artículos y reseñas producidos íntegramente por agentes de IA. Este entorno de “zona de pruebas” permitirá a los investigadores estudiar cómo se compara la ciencia impulsada por la IA con la investigación dirigida por humanos, y comprender las fortalezas y debilidades de estos sistemas. Todo esto es directamente coherente con la visión que alguien tiene de un futuro en el que la IA no sea sólo un asistente o un agente especializado, sino también un planificador y, por qué no, un (co)líder.
Y no hace falta decir que esto no es sólo un ejercicio teórico. Nuevas empresas emergentes como QED están desarrollando plataformas que utilizan “IA de pensamiento crítico” para evaluar manuscritos científicos, desglosándolos en afirmaciones y exponiendo su lógica subyacente para identificar debilidades. Lo he probado en algunos manuscritos y es impresionante, aunque, para ser honesto, no es perfecto, pero seguramente mejorarán. Este enfoque automatizado podría ayudar a aliviar la inmensa presión sobre los revisores humanos y acelerar el ritmo de los descubrimientos científicos. Como dice Oded Rechavi, creador de QED, se necesitan alternativas a un sistema de publicación que a menudo se caracteriza por retrasos y revisiones arbitrarias. Y herramientas como QED podrían proporcionar la velocidad y la objetividad que tanto se necesitan.
Google, como todos los gigantes tecnológicos (aunque todavía estoy esperando a ver qué pasa con Apple…), también está superando los límites con la IA que puede evolucionar y mejorar el software científico, superando en algunos casos a las herramientas de última generación creadas por humanos. ¿Probaste su nuevo modo AI para búsquedas y cómo puedes realizar un seguimiento de los resultados? He estado usando esta función durante una semana y todavía estoy asombrado.
Todas estas observaciones, que traigo del mundo académico pero que seguramente la mayoría (si no todos) los demás lectores de TDS también experimentan, sugieren un futuro en el que la IA no sólo evalúa la ciencia (y cualquier otra actividad humana o desarrollo del mundo) sino que contribuye activamente a su avance. Una prueba más de esto es el desarrollo de sistemas de inteligencia artificial que pueden descubrir “sus propios” algoritmos de aprendizaje, logrando un rendimiento de vanguardia en tareas que nunca antes se había encontrado.
Por supuesto, ha habido obstáculos en el camino. Recuerde, por ejemplo, cómo Meta’s Galactica fue derribado poco después de su lanzamiento debido a su tendencia a generar información plausible pero en gran medida incorrecta, similar a las alucinaciones de los sistemas LLM actuales, ¡pero mucho peores! Ese fue un verdadero desastre que sirve como un recordatorio crítico de la necesidad de una validación sólida y una supervisión humana a medida que integramos la IA en el proceso científico, y especialmente si depositamos en ellos cada vez más confianza.
De la IA como codificadora a la IA como gerente
Por supuesto, y aquí te sentirás más identificado si te gusta la programación, el mundo del desarrollo de software se ha transformado radicalmente por una gran cantidad de asistentes de codificación impulsados por IA. Estas herramientas pueden generar código, identificar y corregir errores e incluso explicar fragmentos de código complejos en lenguaje natural. Esto no sólo acelera el proceso de desarrollo sino que también lo hace más accesible a una gama más amplia de personas.
Los principios de evaluación y ejecución de tareas impulsadas por la IA también se están aplicando en el mundo empresarial y de gestión. Las herramientas de gestión de proyectos basadas en IA son cada vez más comunes y son capaces de automatizar la programación de tareas, la asignación de recursos y el seguimiento del progreso. Estos sistemas pueden proporcionar un nivel de eficiencia y supervisión que sería imposible de lograr para un gerente humano por sí solo. La IA puede analizar datos históricos del proyecto para crear cronogramas optimizados e incluso predecir posibles obstáculos antes de que ocurran. Algunos dicen que para 2030, el 80% del trabajo actual en la gestión de proyectos se eliminará a medida que la IA asuma funciones tradicionales como la recopilación de datos, el seguimiento y la presentación de informes.
¿Gobernar con algoritmos de IA?
La idea de una “gobernanza automatizada” es fascinante y controvertida. Pero… si la IA pronto pudiera gestionar proyectos complejos y contribuir al descubrimiento científico, ¿podría también desempeñar un papel en el gobierno de nuestras sociedades?
Por un lado, la IA podría aportar a la gobernanza una eficiencia sin precedentes y una toma de decisiones basada en datos. Podría analizar vastos conjuntos de datos para crear políticas más efectivas, eliminar los prejuicios humanos y la corrupción y brindar servicios personalizados. Un sistema impulsado por IA podría incluso ayudar a anticipar y prevenir crisis, como brotes de enfermedades o fallas de infraestructura. Ya estamos viendo esto en la práctica: Singapur utiliza chatbots impulsados por IA para servicios a los ciudadanos y Japón utiliza un sistema impulsado por IA para la predicción de terremotos. Estonia también ha sido líder en gobernanza digital, utilizando la IA para mejorar los servicios públicos de atención sanitaria y transporte.
Sin embargo, los riesgos son igualmente significativos. El sesgo algorítmico, la falta de transparencia en los sistemas de “caja negra” y la posibilidad de una vigilancia masiva son preocupaciones serias. Se descubrió que el sistema de aprobación de tarjetas de crédito impulsado por inteligencia artificial de un importante banco otorgaba a las mujeres límites de crédito más bajos que a los hombres con antecedentes financieros similares, un claro ejemplo de cómo los datos históricos sesgados pueden conducir a resultados discriminatorios. También está la cuestión de la rendición de cuentas: ¿quién es responsable cuando un sistema de IA comete un error?
Un futuro híbrido: gobernanza descentralizada de la IA humana
Quizás el futuro más realista y deseable sea uno de “inteligencia aumentada”, en el que la IA apoye a los tomadores de decisiones humanos en lugar de reemplazarlos. Podemos inspirarnos en los sistemas políticos existentes, como el modelo suizo de jefe de Estado colectivo. Suiza está gobernada por un Consejo Federal de siete miembros, cuya presidencia rota anualmente, un sistema diseñado para evitar la concentración de poder y fomentar la toma de decisiones basada en el consenso. Podríamos imaginar un futuro en el que se utilice un modelo similar para la gobernanza de la IA humana: un consejo de expertos humanos podría trabajar junto con un conjunto de “gobernadores” de IA, cada uno con su propia área de especialización. Esto permitiría un proceso de toma de decisiones más equilibrado y sólido, en el que los humanos proporcionarían la orientación ética y la comprensión contextual de la que carece actualmente la IA. Por ejemplo, los humanos podrían formar parte de una junta que toma decisiones colectivamente en consulta con sistemas de inteligencia artificial especializados, y luego estos últimos planifican, ejecutan y gestionan su implementación.
La idea de una gobernanza descentralizada ya se está explorando en el mundo de blockchain con Organizaciones Autónomas Descentralizadas (DAO). Estas organizaciones funcionan con protocolos blockchain, con reglas codificadas en contratos inteligentes. Las decisiones las toma una comunidad de miembros, a menudo mediante el uso de tokens de gobernanza que otorgan poder de voto. Este modelo elimina la necesidad de una autoridad central y permite una forma de gobernanza más transparente y democrática.
La naturaleza descentralizada de este sistema también ayudaría a mitigar los riesgos de poner demasiado poder en manos de una sola entidad, ya sea humana o máquina.
El camino hacia este futuro aún es largo, pero los cimientos se están colocando hoy, y es por eso que podría valer la pena participar en este tipo de sesiones de lluvia de ideas ya ahora. A medida que la IA continúa evolucionando, es fundamental que tengamos una conversación abierta y honesta sobre el papel que queremos que desempeñe en nuestras vidas. Los beneficios potenciales son inmensos, pero también lo son los riesgos. Si procedemos con cautela y diseñamos sistemas que aumenten, en lugar de reemplazar, la inteligencia humana, podemos garantizar que la IA sea una fuerza positiva en el mundo.
Referencias y lecturas adicionales
A continuación se muestra parte del material en el que basé esta publicación:
Los robots de IA escribieron y revisaron todos los artículos de esta conferencia. Naturaleza 2025
Página oficial y blog en qedscience.com
Suiza celebra en Spiegel.de el sistema de gobierno más extraño de Europa
Las 20 mejores herramientas auxiliares de codificación de IA a partir de agosto de 2025
Las 5 mejores herramientas de gestión de proyectos de IA
Instituto de Gobernanza Global de la Unión Europea
La IA descubre un algoritmo de aprendizaje que supera a los diseñados por humanos. Naturaleza 2025
Google AI tiene como objetivo mejorar aún más el mejor software científico de su clase. Naturaleza 2025
Conferencia abierta de agentes de IA para la ciencia 2025
Lecciones de 2024 sobre IA para la ciencia y los negocios hasta 2025
Cómo las empresas y los académicos están innovando en el uso de modelos lingüísticos para la investigación y el desarrollo