«AI Padrino» y 2024 Vinfuture Gran Premio Premio Yoshua Bengio (izquierda) advierte a los superpoderes globales sobre los riesgos que la IA plantea para la humanidad.
Espada de doble filo
Desde principios de 2025, el ascenso de Deepseek se ha descrito como un momento de «cisne negro» que crea un cambio que cambia el juego en un paisaje de IA casi durante la noche. Es una llamada de atención que muestra que se puede lograr una poderosa IA sin costos exorbitantes, desafiando el modelo prevaleciente de «dinero es igual a progreso».
Con respecto a esto, Yoshua Bengio, a menudo considerado como «uno de los padrinos de la IA moderna», advirtió que su avance en la asequibilidad de IA podría representar riesgos graves.
«Si los modelos de IA de peso abierto, como Deepseek, se distribuyen por completo, los terroristas pueden explotarlos para campañas de desinformación, ataques cibernéticos o incluso desarrollo de biowapon «. Dijo en una entrevista con la Fundación Vinfuture. «Esta es una espada de doble filo porque, si bien estos sistemas se vuelven más disponibles, más baratos y más potentes, también reducen la barrera al mal uso «.
Yoshua Bengio, un pionero en las redes neuronales y los algoritmos de aprendizaje profundo, ha sido reconocido con numerosos premios internacionales prestigiosos, incluido el Premio AMing de 2018, el Gran Premio Vinfuture 2024, y más recientemente, el Premio de la Reina Isabel de 2025 para la Ingeniería. Hizo hincapié en que la IA está evolucionando hacia una mayor autonomía, con sistemas capaces de planificar y actuar en busca de un objetivo. «Hoy, la IA ya supera a los humanos en ciertos dominios. Puede dominar cientos de idiomas y aprobar exámenes de nivel doctorado en múltiples disciplinas“, Explicó.
A pesar de estas limitaciones actuales en las habilidades de planificación a largo plazo, las principales corporaciones de tecnología han arrojado miles de millones de dólares a agentes de IA en desarrollo capaces de tomar decisiones autónomas durante períodos prolongados. Si bien esto promete ganancias de eficiencia, plantea preocupaciones sobre el desplazamiento laboral a gran escala.
Más allá de los cambios económicos, se cierne un problema mucho más crítico: la pérdida del control humano sobre la IA. En experimentos controlados, algunos sistemas de IA incluso se han involucrado en un comportamiento engañoso para evitar ser apagados, un signo preocupante de tendencias de autoconservación.
«Esto es alarmante porque no queremos máquinas que compitan con nosotros«, Enfatizó.
Según Bengio, aunque aún no son lo suficientemente inteligentes como para representar una amenaza importante, esta trayectoria es preocupante.
«En unos pocos años, pueden ser lo suficientemente inteligentes y debemos comenzar a prestar atención antes de que sea demasiado tarde«, Advirtió Bengio.
Junto con los riesgos técnicos, la IA presenta una profunda amenaza para la privacidad y las libertades civiles. Recientemente, un informe integral de seguridad internacional de IA, presidido por Yoshua Bengio y compilado por 96 expertos de 30 países y organizaciones (incluidas la ONU, la UE y la OCDE) para guiar a los formuladores de políticas sobre la seguridad de la IA, reveló el creciente potencial de uso indebido de IA en actividades maliciosas.
Bengio señaló que la capacidad de AI para procesar grandes cantidades de datos puede empoderar a las personas, corporaciones o gobiernos con un control sin precedentes. Dado el futuro incierto de la AI, compartió que la forma en que los humanos manejan AIS en el futuro serán fundamentales para prevenir este escenario. «Necesitamos asegurarnos de que ninguna persona, ninguna corporación única y ningún gobierno pueda tener un poder total sobre la IA súper inteligente «, Él enfatizó.
Los avances de la startup china Deepseek podrían intensificar aún más la carrera de IA entre los superpoderes, lo que aumenta un desarrollo preocupante en un campo dominado por el valle de Silicon y las grandes empresas de tecnología occidental en los últimos años.
«El peligro aquí es que en su carrera para superarse entre sí, los problemas de seguridad pueden pasarse por alto. Podemos ser todas las víctimas de esta carrera si no tenemos el cuidado de«Bengio advirtió.
Además, se espera que la raza intensificadora impulse profundas consecuencias ambientales, particularmente en el consumo de energía. Las principales compañías de IA, impulsadas por la perspectiva de ganancias masivas, están dispuestas a absorber los altos costos de energía. Este aumento en la demanda inevitablemente aumentará los precios de la energía en todos los ámbitos, incluida la electricidad, el petróleo y otros recursos, que afectan no solo a las empresas tecnológicas sino a los hogares e industrias en todo el mundo.
Aquí es donde las fuerzas del mercado no controladas y la competencia nacional podrían conducir a pérdidas globales. «Es por eso que la intervención del gobierno es crucial. Los encargados de formular políticas deben negociar acuerdos que superen el consumo de energía a niveles sostenibles. De lo contrario, las fuerzas de la competencia entre las empresas solo acelerarán la expansión de la IA de manera que no solo son insostenibles sino potencialmente peligrosas «, Bengio instó.
Pasar la división de AI
El Padrino de la IA ha elevado los llamados urgentes para establecer marcos éticos sólidos y medidas regulatorias para garantizar el desarrollo y el despliegue responsables.
«Actualmente, esencialmente no hay un marco regulatorio en casi ningún lugar de los países donde se están desarrollando estos sistemas. Creo que los gobiernos tienen la responsabilidad de al menos requerir una especie de informe.«, Dijo.
La responsabilidad es otro aspecto clave. En muchos países, los principios legales responsabilizan a las empresas por los productos que causan daños. Sin embargo, cuando se trata de software, la responsabilidad sigue siendo un área gris, según Bengio. «Aclarar las leyes de responsabilidad sería un paso simple pero efectivo. Si las empresas supieran que podrían enfrentar demandas por negligencia, tendrían incentivos más fuertes para gestionar los riesgos adecuadamente«, Afirmó.
También enfatizó que requeriría un esfuerzo concertado de individuos e instituciones que reconocen los riesgos existenciales, como el uso malicioso catastrófico. En otros lugares, se cierran las preocupaciones sobre la seguridad laboral y las futuras oportunidades de empleo. «La línea de tiempo para este cambio es incierta, pero podríamos ver transformaciones radicales en cinco a diez años«, Predijo Bengio.
Mientras que algunos trabajos inevitablemente serán reemplazados por la automatización, Bengio enfatizó que no todas las profesiones están en riesgo. «Expandir la educación digital y de IA es esencial, pero no será una solución universal. No todos pueden convertirse en ingeniero de IA«, Señaló. En cambio, los roles que requieren inteligencia emocional e interacción humana, incluidos profesionales de la salud, terapeutas y gerentes, tienen más probabilidades de soportar. En lugar de una adaptación individual, Bengio plantea una pregunta más grande: ¿se puede dar forma deliberadamente a la implementación de IA para minimizar la interrupción?
«Nuevamente, esto es algo que debe hacerse a nivel mundial, lo cual es muy desafiante. Deberíamos hacerlo de una manera que no cree interrupciones radicales en el tejido social«, Concluyó.
Más allá de las regulaciones nacionales, Bengio enfatizó la necesidad de coordinación global. Destacó eventualmente, los humanos deberían apuntar a acuerdos y tratados globales, similar a la forma en que manejamos otros riesgos científicos y tecnológicos. A medida que AI reinicia rápidamente las industrias, las nuevas divisiones en la riqueza, el desplazamiento laboral o el poder político podrían profundizarse a menos que se tomen medidas proactivas. Bengio advirtió que la IA está actualmente concentrada en manos de algunas corporaciones y naciones.
Tomó Vietnam, un país con un sector industrial fuerte, como ejemplo. Si la automatización generalizada cambia de producción a instalaciones con IA en naciones más ricas como los EE. UU., Podría conducir a pérdidas de empleo significativas y dificultades económicas en países que dependen de las exportaciones de fabricación.
Por lo tanto, Bengio sugirió establecer negociaciones globales, una forma de intercambio en la que los países que desarrollan IA avanzada podrían pedirle a otros países que se abstengan de crear una IA potencialmente peligrosa. A cambio, la riqueza generada por estos sistemas de IA, como las nuevas tecnologías y los avances médicos, debe compartirse a nivel mundial.
«Por supuesto, estamos muy lejos de esto, pero necesitamos comenzar esas discusiones a nivel global«, Enfatizó.
El primer paso hacia el puente de la división AI es fomentar la colaboración entre las economías emergentes y las naciones tecnológicamente avanzadas. Bengio destacó la importancia de iniciativas como el Premio Vinfuture, que atrae la atención mundial a los avances científicos en regiones fuera de las potencias tecnológicas tradicionales.
«Un gran premio como el premio Vinfuture puede hacer que los principales científicos sean mucho más conscientes de lo que está sucediendo en Vietnam y otros países en desarrollo.«, Explicó.
Países como Vietnam, India y Brasil ya poseen fuertes grupos de talentos y una creciente experiencia en IA. Al formar asociaciones estratégicas con naciones ricas en recursos como Canadá y países europeos, pueden desarrollar proyectos de IA competitivos a escala global. Dichas colaboraciones, si se estructuran cuidadosamente, podrían garantizar una distribución más equitativa del poder tecnológico, según Bengio.
Además, Bengio enfatizó la importancia de cerrar la brecha entre la academia y la industria. «Al reconocer y apoyar innovaciones innovadoras, el premio Vinfuture fomenta una colaboración más profunda entre científicos, líderes de la industria y responsables políticos, así como fomenta el diálogo global sobre IA responsable.«, Dijo.
La Fundación Vinfuture, establecida en el Día Internacional de Solidaridad Humana el 20 de diciembre de 2020, es una organización sin fines de lucro cofundada por el multimillonario Sr. Pham Nhat Vuong y su esposa, la Sra. Pham Thu Huong. La actividad central de la Fundación está otorgando el Premio Anual de Vinfuture, que reconoce innovaciones científicas y tecnológicas transformadoras capaces de hacer cambios positivos significativos en la vida de millones de personas en todo el mundo.
El período de nominación para el Premio Vinfuture 2025 cerrará a las 2:00 pm del 17 de abril de 2025 (tiempo de Vietnam, GMT+7).
El premio Vinfuture consta de cuatro prestigiosos premios presentados cada año. El más estimado es el Gran Premio Vinfuture, valorado en US $ 3 millones, lo que lo convierte en uno de los premios anuales más grandes a nivel mundial. Además, hay tres premios especiales, cada uno valorado en US $ 500,000, específicamente dedicado a honrar a las mujeres innovadoras, innovadores de países en desarrollo e innovadores con logros sobresalientes en los campos emergentes.
https://vinfutureprize.org/vinfuture-prization/
Hashtag: #vinfuture
El emisor es el único responsable del contenido de este anuncio.
