El meteórico ascenso de la inteligencia artificial generativa (IA) ha sido extraordinario. Es fácil ver por qué. Mientras que los científicos de datos programan la IA tradicional para realizar una tarea específica, la IA generativa ha democratizado la tecnología como nunca antes. Al aprovechar modelos básicos, como los modelos de lenguaje grande (LLM), puede cumplir una gama mucho más amplia de tareas en un espectro de funciones empresariales y creativas.Por Hans Petter Dalen-Plataforma de gobernanza de IA de IBM EMEA.

Al mismo tiempo, la IA generativa ha suscitado preguntas legítimas sobre la transparencia, la privacidad de los datos, la seguridad y la gobernanza. Los líderes empresariales que ya están, lo harán pronto o están considerando aprovechar las capacidades competitivas de la IA generativa ahora deben navegar por el cambiante panorama regulatorio, la necesidad de principios rectores básicos para el uso de la IA (incluida la importancia de la supervisión humana) y el papel que desempeñarán los datos. en una conversación más amplia sobre la tecnología.

El panorama regulatorio

La Ley de IA de la UE está actualmente en camino de convertirse en el primer marco legal integral de IA del mundo. Propuesto por primera vez en febrero de 2020, se redactó con un enfoque «basado en el riesgo» para equilibrar la innovación con la responsabilidad y la confianza. Ahora en las etapas finales de negociación, la Ley de IA de la UE se centra en los usos de alto riesgo de la IA y la importancia de conjuntos de datos de alta calidad para entrenar modelos de IA, la transparencia del uso de datos y que la IA tenga resultados explicables para esos usos de alto riesgo. . Este enfoque basado en el riesgo es importante porque la regulación de la IA debe ser flexible y evolucionar a medida que lo hace la tecnología. Diferentes industrias y empresas tendrán diferentes casos de uso de IA y riesgos asociados; para evitar sofocar la innovación, no se debe aplicar una regulación general a toda la IA generativa.

Mientras los gobiernos de todo el mundo consideran sus propios reglamentos de IA, en IBM creemos que una regulación responsable de la IA debe basarse en tres principios básicos.

La primera es la necesidad de regular el riesgo de la IA, no los algoritmos. Esto refleja el enfoque «basado en el riesgo» que actualmente emplea la UE y reconoce que no toda la IA conlleva el mismo nivel de riesgo. Como resultado, la regulación debería abordar el contexto en el que se está implementando la IA, garantizando que los usos de alto riesgo estén regulados más estrechamente.

El segundo principio es la rendición de cuentas. Los gobiernos tienen un papel importante que desempeñar, pero también es vital que los creadores e implementadores de IA rindan cuentas del contexto en el que desarrollan e implementan la tecnología. Esto será esencial para evitar que las organizaciones reclamen inmunidad en casos relacionados con discriminación, prejuicios y actividades fraudulentas.

En tercer lugar, no deberíamos crear un régimen de licencias para la IA, lo que obstaculizaría la innovación abierta y corre el riesgo de crear una forma de captura regulatoria. En cambio, somos defensores de un ecosistema de IA abierto y vibrante que promueva la competencia, las habilidades y la seguridad y ayude a garantizar que los modelos de IA estén moldeados por voces diversas e inclusivas. Juntos, estos principios fomentarían el equilibrio adecuado entre innovación y responsabilidad, garantizando que la IA pueda prosperar en un entorno transparente, abierto y justo.

La importancia de la supervisión humana

  Otra consideración importante para los líderes empresariales será la necesidad de crear una estrategia eficaz de gobernanza de la IA basada en la transparencia y la equidad. Cualquier estrategia de gobernanza responsable contará con una cantidad significativa de supervisión humana. La IA generativa, al igual que la IA tradicional, es orgánica. Aprende de sus usuarios y puede «derivarse» o tener lo que se conoce como «alucinaciones» cuando un LLM genera información falsa. Si no se corrigen los errores, la IA aprenderá de datos inexactos que se arraigarán aún más en su modelo.

Por lo tanto, es vital que los proveedores de modelos básicos sean transparentes acerca de su modelo, para que las empresas que implementan la tecnología puedan explicar los resultados, un paso crítico para garantizar el uso confiable de la IA generativa.

Watsonx.goverance de IBM, cuyo lanzamiento se espera para finales de año, tiene este principio en su núcleo. Como un conjunto de herramientas de un extremo a otro que abarca tanto los datos como la gobernanza de la IA para permitir flujos de trabajo de IA responsables, transparentes y explicables. Permitirá a las organizaciones dirigir, gestionar y monitorear las actividades de IA y fortalecerá la capacidad de mitigar riesgos, gestionar requisitos regulatorios y abordar preocupaciones éticas a través de la automatización de software. A medida que la IA se integre cada vez más en los flujos de trabajo diarios, esta gobernanza proactiva será esencial para impulsar decisiones responsables en los sectores público y privado.

No monitorear los resultados incorrectos no es sólo una cuestión de cumplimiento normativo, sino que conlleva riesgos financieros y de reputación mucho más amplios para una empresa. Existen algunos casos de uso reales interesantes para sectores como los seguros, la banca y los prestamistas hipotecarios, pero unos resultados inexactos en estos casos podrían tener impactos muy perjudiciales para los clientes. Desarrollar una estrategia de gobernanza respaldada por la supervisión humana y la transparencia permite a las empresas evitar estos riesgos, y los líderes empresariales deberían comenzar a capacitar y educar a su fuerza laboral en estas áreas ahora para prepararse para la adopción de la IA generativa.

Datos, datos, datos

A medida que evoluciona el panorama político, los líderes empresariales se enfrentan a la doble tarea de aprovechar los beneficios de la IA generativa para seguir siendo competitivos y al mismo tiempo proteger a sus organizaciones de los riesgos financieros, reputacionales y regulatorios que puede conllevar el uso incontrolado de la IA generativa.

Los líderes empresariales enfrentan varios desafíos en materia de IA generativa, y una de las mayores interrogantes es sobre su viabilidad comercial. Los líderes empresariales de todos los sectores han mostrado un gran entusiasmo por la tecnología, pero la adopción real dentro de las organizaciones requiere primero una preparación adecuada y una inversión adecuada.

 La comunidad tecnológica ya está explorando formas de acelerar este proceso. Estamos viendo una comunidad vibrante de desarrolladores que crean modelos básicos, los capacitan previamente y los abren. Con el tiempo, este enfoque colaborativo podría acelerar la adopción y aumentar el retorno de la inversión (ROI) para las empresas.

El siguiente paso para la regulación

La IA generativa y el panorama regulatorio que la rodea seguirán evolucionando al unísono. Los líderes empresariales deben seguir el ritmo del panorama regulatorio en desarrollo y, como la Ley de IA de la UE está en camino de hacerlo, debemos adoptar un enfoque de la IA basado en el riesgo y garantizar la gobernanza en todos los niveles. En conjunto, estos pasos permitirán a las empresas implementar una IA confiable, responsable y responsable durante todo el ciclo de vida de la IA, permitiendo a las empresas y a la sociedad cosechar los beneficios de una IA confiable.