La IA tiene el potencial de transformar todos los aspectos de las empresas, desde la seguridad hasta la productividad. Sin embargo, la prisa descontrolada de las empresas por explotar la innovación está creando riesgos desconocidos y conocidos que requieren una supervisión urgente, sostiene Mark Grindey (director ejecutivo en la foto) de Zeus Cloud.
Potencial de negocio
Las herramientas de inteligencia artificial generativa (Gen AI) se están convirtiendo rápidamente en un componente central de la estrategia de cualquier empresa, y una de las áreas de implementación más importantes es la seguridad informática. Gen AI tiene un papel clave que desempeñar a la hora de abordar uno de los mayores desafíos de los modelos de seguridad informática actuales: el error humano. Desde una configuración incorrecta hasta un malentendido, en una infraestructura compleja de varios niveles, que incluye una combinación de implementaciones locales, de nube pública y privada y redes de varias capas, es fácil cometer errores.
Los piratas informáticos buscan constantemente explotar estas fallas y los ataques más comunes apuntan a debilidades conocidas. Por ello, la IA se está convirtiendo rápidamente en una herramienta vital en el arsenal de seguridad, ya que brinda a las empresas una segunda línea de defensa al buscar vulnerabilidades. La velocidad con la que la IA puede identificar vulnerabilidades conocidas y resaltar errores de configuración es transformadora, ya que permite a las empresas cubrir brechas de seguridad y también priorizar áreas de inversión. También se está utilizando para resaltar cualquier dato confidencial dentro de documentos, como números de tarjetas de crédito o pasaportes, que requiera protección, y para brindar una gestión predictiva de datos, lo que ayuda a las empresas a planificar con precisión los volúmenes de datos futuros.
Riesgo no gestionado
Con la creciente cantidad de fuentes de datos para entrenar a la IA, la tecnología se volverá cada vez más intuitiva y más valiosa. Sin embargo, la IA está lejos de ser perfecta y la incapacidad de las organizaciones para imponer un control efectivo sobre cómo y dónde se utiliza está creando un problema tras otro. La ejecución de la IA a través de recursos de datos internos plantea una serie de problemas, desde la calidad y la limpieza de los datos hasta la propiedad del resultado de la IA. Una vez que la herramienta de IA disponible comercialmente, como Copilot, ha visto los datos de una empresa, nunca puede olvidarlos. Dado que puede acceder a datos corporativos confidenciales de fuentes como los sitios de SharePoint de una empresa, el almacenamiento de OneDrive de los empleados e incluso los chats de Teams, la información comercialmente confidencial puede perderse inadvertidamente porque quienes usan la IA no comprenden el riesgo.
De hecho, la empresa de investigación Gartner ha pedido cautela, afirmando que: “el uso de Copilot para Microsoft 365 expone los riesgos de exposición de contenido y datos confidenciales interna y externamente, porque permite un acceso fácil y en lenguaje natural a contenido desprotegido. La exposición interna de información confidencial insuficientemente protegida es una amenaza grave y realista”.
Se requieren cambios, en primer lugar, en las estrategias de gestión de datos de las empresas y, en segundo lugar, en el marco regulatorio que rodea a la IA. Cualquier empresa que utilice IA debe tener mucha más claridad con respecto a la exposición de los datos: ¿se pueden segregar los datos para proteger los intereses comerciales sin socavar el valor del uso de la IA o socavar inadvertidamente la calidad del resultado al proporcionar información insuficientemente amplia? Una vez utilizados, ¿quién tiene acceso a esos hallazgos? ¿Cómo se puede conservar esa información internamente para garantizar la confidencialidad?
Futuro regulatorio
Los líderes empresariales de todo el mundo están pidiendo que se regule la IA, pero aún no hay consenso sobre cómo lograrlo ni quién debería estar a cargo. ¿Es esta una función del gobierno? Pero si cada gobierno adopta un enfoque diferente, las implicaciones legales y los posibles costos se convertirían en un factor disuasorio para la innovación.
¿O debería extenderse el enfoque utilizado para proteger Internet a la IA, donde los modelos técnicos y de políticas clave son administrados por los gobiernos? Corporación de Internet para la Asignación de Nombres y Números (ICANN)? ¿Necesitamos licencias de IA que requieran que haya personas certificadas en IA antes de que una empresa pueda ejecutar cualquier herramienta de IA en sus datos? ¿O simplemente diferentes modelos de licencias para herramientas de IA que aclaren la propiedad de los datos, por ejemplo, utilizando una herramienta dentro de sus propios inquilinos dentro de una cuenta de cliente para reducir el riesgo de fuga de datos? Esto último sería sin duda una buena medida provisional, pero, sea cual sea el enfoque regulatorio que se adopte, debe estar dirigido por ingenieros de seguridad, personas imparciales que comprendan los riesgos y que no se dejen influenciar por posibles ganancias monetarias, como las que se han comprometido con el modelo de código abierto.
Hay muchas opciones y es probable que los cambios se traduzcan en una caída de los ingresos de los proveedores de IA. Pero, dada la explosión del uso de la IA, es hora de aceptar que conseguir la solución adecuada puede resultar incómodo. Es imperativo determinar rápidamente el enfoque más eficiente que sea mejor tanto para la industria como para las empresas, un enfoque que acelere la innovación y, al mismo tiempo, proteja la información comercialmente sensible.