Algo ha cambiado en el aire en torno a la IA. No se trata de un giro dramático de los acontecimientos, del tipo que normalmente presagia un nuevo amanecer, sino más bien como una habitación silenciosa, donde de repente todos miran a su alrededor.
Esto ha sucedido en los últimos días, cuando algunas figuras de alto perfil han comenzado a plantear una pregunta que antes se consideraba una fantasía. ¿Es segura la IA, se preguntan, en caso de que no haga lo que esperaban?
Ese es el tema general de este informe sobre por qué a algunos les preocupa que la IA pueda eventualmente “volverse deshonesta”.
A medida que se ensamblan las piezas de la IA y la tecnología gana terreno, personas como el cofundador de Deepmind, Demis Hassabis, y el director ejecutivo de OpenAI, Sam Altman, plantean preguntas como: “Si las máquinas empiezan a pensar por sí mismas, ¿cómo garantizarán los sistemas que creamos que sus acciones no superen las expectativas de la inteligencia humana?”
En el proceso, algunos sistemas de IA están empezando a comportarse de una manera que sus investigadores no pretendían.
Esto se ha descrito como “mostrando algunas de estas capacidades para identificar vulnerabilidades de seguridad, mostrando los tipos de acciones que creen que son mejores en un entorno y comportándose de maneras que los investigadores que crearon esos sistemas no anticiparon”.
No malvado, impredecible. Y esto en sí mismo debería ser una fuente de malestar.
Si bien esta advertencia es cada vez más fuerte, ha habido debates en la industria sobre si deberíamos construir una inteligencia artificial cada vez más poderosa.
Habrá más debate sobre los riesgos y recompensas a medida que la IA evolucione, porque aquí es donde las cosas se ponen complicadas. Los sistemas de IA todavía están evolucionando para ser más útiles para los humanos en el futuro.
Algunas personas afirmarán que la IA eventualmente superará a los humanos y se apoderará del mundo y que se perderá el control humano sobre él.
Otros creen que se utilizará para lograr cosas beneficiosas. Y luego surge la pregunta de si los beneficios superan estos riesgos.
Sólo nos queda esperar que las personas que mejor conocen la tecnología lleguen a algún tipo de conclusión al respecto.
Es probable que haya algunos intentos de utilizar los sistemas de inteligencia artificial para buenos y malos propósitos. También existe el temor de que puedan utilizarse en ciberataques e incluso en ataques biológicos en algunos casos.
No todo el mundo se sube al carro. Si bien ha aumentado el miedo a que la IA “se vuelva deshonesta”, y esto puede no siempre ser algo saludable, es bueno tener una conversación.
Se necesitarán años para que el debate se desarrolle. Existe la posibilidad de cooperación en esta área, de establecer algún tipo de gobernanza, o al menos un consenso global.
La IA, como la tecnología más transformadora del mundo, ya ha aportado enormes beneficios a la humanidad. Esta es un área que merece mayor atención por parte nuestra y de nuestros líderes.