Por Eugene Cheah, director ejecutivo y cofundador, Sin plumas.ai
Las empresas europeas están adoptando la IA de código abierto para lograr la soberanía de la IA y evitar la dependencia de proveedores extranjeros. Un informe de la Comisión Europea reveló que más de la mitad de los desarrolladores europeos dependen habitualmente de modelos, conjuntos de datos y herramientas abiertos. un informe sobre Competitividad europea del ex primer ministro italiano Mario Draghi va más allá y afirma que la verdadera independencia tecnológica sólo se puede lograr cuando las empresas retengan el control de sus datos e infraestructura en lugar de entregárselos a las grandes tecnológicas y a los monopolios extranjeros. Y Los datos de IDC confirman esta idea, ya que revelan que hasta el 88% de las pruebas de concepto de IA empresarial se detienen antes de la producción debido a la gobernanza, la preparación de los datos y los costos de infraestructura.
La mayor parte de la renuencia entre los ejecutivos (y políticos) europeos está impulsada por un mito de seguridad arraigado: la creencia de que la IA patentada y de código cerrado proporciona mejor seguridad que las alternativas abiertas. Esto fue desacreditado hace décadas en el software y continúa ahora en la era de la IA. Parece que muchos parecen haber olvidado los conceptos básicos de la ciberseguridad. Bloquear la infraestructura de IA detrás de interfaces cerradas solo aumenta los riesgos de seguridad. Si los investigadores pueden acceder a los pesos de los modelos a través del código abierto, pueden probar las vulnerabilidades y crear salvaguardas más rápido, mientras que dejar el control a solo un puñado de proveedores oculta las vulnerabilidades críticas hasta que ocurre una infracción importante.
Únase al European Business Briefing
Los nuevos suscriptores de este trimestre participan en un sorteo para ganar un Rolex Submariner. Únase a más de 40.000 fundadores, inversores y ejecutivos que leen EBM todos los días.
Suscribir
Cuando estos conceptos erróneos sobre seguridad influyen en los debates legislativos, las discusiones políticas corren el riesgo de inclinarse hacia el proteccionismo del mercado por encima de consideraciones genuinas de seguridad. Las estructuras regulatorias que son demasiado rígidas por naturaleza y construidas alrededor de laboratorios tecnológicos de vanguardia a gran escala colocarán a las empresas en un ecosistema donde no hay libertad de elección. A amplia coalición de empresas tecnológicas y los defensores del código abierto, que firmaron la carta “Pesos abiertos y liderazgo estadounidense en IA”, coinciden en que tales medidas tendrán un efecto negativo y obstaculizarán la competitividad.
Más recientemente, los problemas de privacidad en ecosistemas cerrados ocuparon los titulares. Un laboratorio propietario anunció que había resuelto un problema matemático del Premio Milenio que estuvo sin resolver durante 90 años; sin embargo, al mismo tiempo, un matemático afirmó haber resuelto el mismo problema utilizando la herramienta de la misma empresa. Esto generó debates y preocupaciones sobre el intercambio de datos con modelos cerrados de IA. ¿Las empresas que poseen modelos cerrados de IA leen los datos que usted ingresa? En este caso el laboratorio propietario afirmó que no. Sin embargo, una mirada más cercana a los términos y condiciones de los principales proveedores revela que estas empresas no pueden garantizar que los datos de los usuarios no se utilizarán en futuras versiones de sus modelos. Es por eso que los usuarios deben tener cuidado al usar modelos cerrados y quizás usar modelos abiertos cuando se trata de manejar información confidencial.
Aparte de los problemas de seguridad, los modelos cerrados cada vez no cumplen con las expectativas. Son más caras y ofrecen rendimientos decrecientes para las empresas. Los modelos generales consiguen una máxima eficacia de 70% en tareas especializadas, pero la implementación empresarial requiere al menos un 90% de efectividad. Los modelos preentrenados más grandes no resolverán este problema. La verdadera solución es entrenar pequeños modelos abiertos con datos específicos de la empresa para cada proceso de negocio.
Los modelos abiertos especializados presentan otra ventaja crucial: la capacidad de tener independencia informática y de hardware. Depender del ecosistema de chips de un único proveedor o de los monopolios de la nube genera gastos generales insostenibles para las empresas en crecimiento; mientras que la arquitectura abierta permite a las empresas implementar sus modelos en plataformas de hardware alternativas. Alejarse de los ecosistemas cerrados también ahorra costos de procesamiento porque las soluciones abiertas son significativamente más rentables. Los estudios muestran que la implementación de modelos abiertos especializados reduce los costos de inferencia continua hasta en un 87 % en comparación con los modelos cerrados. Estos beneficios también permiten que todos desarrollen soluciones de IA locales en sus propios idiomas nativos, diseñadas para su cultura y ecosistema, en lugar de intentar adaptar la cultura y el idioma de un proveedor a los suyos.
Si bien estos son beneficios operativos, existen requisitos regulatorios cada vez mayores que los desarrolladores de código abierto deben planificar con anticipación. Si bien los nuevos requisitos de cumplimiento de la Ley de IA de la UE y la Ley de Transparencia de la IA de California pueden verse como una carga operativa para los proveedores de modelos más grandes, es una victoria para los consumidores que ahora podrán distinguir fácilmente si se les ofrece contenido humano o de IA, específicamente cuando se trata de imágenes, audio y video.
¿Qué significa esto para el código abierto? A partir de 2027, plataformas cubiertas por la Ley de California A las empresas que no incluyen las divulgaciones latentes requeridas se les puede prohibir distribuir pesos o código fuente para modelos de IA generativa. De manera similar, a nivel europeo, la nueva actualización de transparencia de la Ley de IA de la UE también requiere explícitamente generadores de código abierto para incorporar metadatos legibles por máquina y publicar resúmenes de datos de entrenamiento.
Mientras que los reguladores federales de EE. UU. no están restringiendo la IA de código abierto por el momento, las empresas en Europa tienen que funcionar dentro del marco establecido por la Ley de IA de la UE. En lugar de ver esto como una desventaja, el cumplimiento temprano de las regulaciones de la UE se convierte en una fortaleza única para las empresas europeas. Operar con modelos abiertos compatibles garantiza que los activos corporativos sensibles permanezcan seguros, lo que permite a las empresas europeas utilizar la IA sin interrupciones y sin obstáculos regulatorios.