La legislación propuesta requerirá que todos los desarrolladores de GenAI proporcionen resúmenes detallados del contenido utilizado para entrenar sus modelos.
El parlamento de la UE ha aprobado su ley sobre IA, el primer conjunto de reglas reconocido en el mundo diseñado para regular esta tecnología. Según la ley, las soluciones de IA se dividirán en categorías de riesgo, incluido un nivel “inaceptable” que prohibiría los modelos que plantean un riesgo sistémico. El proyecto de ley entrará en vigor 12 meses después de que se convierta en ley y está sujeto a la aprobación formal de los ministros de los estados miembros de la UE.
Se espera que la ley tenga un impacto más allá de las fronteras de los países de la UE, de manera similar al efecto del GDPR en la gestión de los datos de las personas. La regulación de la IA generativa (GenAI) se dividirá en dos niveles, el primero de los cuales requerirá el cumplimiento de la ley de derechos de autor de la UE y resúmenes del contenido utilizado para entrenar modelos. El segundo nivel, reservado para modelos considerados de alto riesgo, implica informes periódicos de incidentes y pruebas más estrictas.
Según Yohan Lobo, director de soluciones industriales, servicios financieros de Archivos Mgarantizar que las herramientas GenAI solo utilicen datos precisos y bien estructurados (normalmente los mismos datos gestionados y utilizados por su empresa) es vital para las empresas obligadas a cumplir con la ley de IA de la UE.
Yohan dijo: “Ahora que GenAI se ha generalizado, las empresas de todos los sectores se apresuran a implementar estas soluciones y adelantarse a la competencia. Sin embargo, las empresas sólo pueden implementar una herramienta GenAI si están seguras de que es segura y confiable.
“La ley de IA de la UE añade otra capa de complejidad para los líderes empresariales preocupados por la seguridad de sus modelos. La mayoría de las soluciones GenAI caerán en el primer nivel de regulación, donde las organizaciones deben demostrar que se puede confiar en los datos en los que se basa el modelo.
“Es probable que el impacto del proyecto de ley se extienda más allá de la UE, y otras naciones y órganos de gobierno seguramente harán lo mismo si la legislación tiene éxito. Como resultado, es crucial que las empresas que desarrollan modelos GenAI consideren cómo pueden alinearse mejor con los próximos cambios regulatorios.
“El cumplimiento de los requisitos de la ley de IA de la UE depende de tres pilares clave: confianza, seguridad y precisión. La forma más sencilla de cumplir con la legislación es implementar una solución que funcione con datos internos confiables. Una pregunta que todas las empresas deberían hacerse: ¿confían en sus datos? Si es así, pueden contar con los resultados que producirá su herramienta GenAI.
“Implementar correctamente un enfoque impulsado por datos internos significa que las empresas pueden actuar con certeza sobre sus resultados de IA, mejorando la productividad al equipar a los trabajadores del conocimiento con herramientas para buscar, acceder y analizar rápidamente la información que necesitan. Cuando a un modelo se le da tiempo para adaptarse a los datos sobre los que se basa y aprender más sobre los requisitos de los empleados individuales a los que presta servicios, crecerá en inteligencia e intuición y respaldará aún más las necesidades de sus usuarios”.
Yohan concluyó: “La confianza, la seguridad y la precisión están intrínsecamente vinculadas, y las empresas que deseen incorporar una estrategia GenAI que cumpla con la ley de IA de la UE deberían comenzar organizando los datos en todas las operaciones. Al hacerlo, pueden sentar las bases para una herramienta GenAI que proteja a sus clientes y al mismo tiempo ofrezca una automatización del trabajo vital que aumentará la eficiencia y agilizará los procesos para los empleados”.