Un experto en ciberseguridad advierte que el personal que utiliza cuentas personales de ChatGPT para trabajar podría retener información confidencial de la empresa después de dejar sus trabajos, lo que pone a los empleadores en riesgo de sufrir graves violaciones de datos
Se debe impedir que los empleados carguen información laboral confidencial en cuentas personales de IA por temor a que puedan llevarse secretos de la empresa cuando se vayan, advirtió un destacado experto en ciberseguridad.
El personal que utiliza cuentas privadas de ChatGPT y otras herramientas de inteligencia artificial para tareas cotidianas podría dejar documentos confidenciales, detalles de clientes e información financiera accesibles a través de cuentas fuera del control de sus empleadores.
Andrius Buinovskis, vicepresidente de estrategia de producto de la empresa de ciberseguridad NordLayer, dijo a Juliet Foster en Business Matters, en asociación con The European, que los ex empleados podrían conservar el acceso a información comercial confidencial mucho después de dejar sus trabajos.
La advertencia se produce en medio de una creciente preocupación por la IA en la sombra, el uso de aplicaciones de inteligencia artificial sin el conocimiento o la aprobación de los empleadores.
Buinovskis dijo que las empresas que fomentan el uso de la IA para mejorar la productividad estaban luchando por controlar el creciente número de aplicaciones que los empleados estaban incorporando al lugar de trabajo.
Describió el resultado como un “zoológico de IA”, con herramientas aprobadas y no aprobadas que se utilizan en todos los departamentos, incluidos finanzas, ventas, diseño y desarrollo de software, a menudo sin que los empleadores supieran qué información se estaba compartiendo.
Incluso los servicios de IA establecidos podrían representar una amenaza cuando se accede a ellos a través de cuentas privadas, exponiendo potencialmente a las empresas a violaciones de datos, daños a la reputación e incluso violaciones del Reglamento General de Protección de Datos (GDPR), dijo.
“Hay organizaciones que promueven activamente el uso de la IA dentro de la empresa, como lo hacemos nosotros, porque entendemos que la IA es la única forma de seguir siendo competitivos en este mundo que cambia tan rápidamente”, añadió Buinovskis.
“Pero las herramientas que proporciona una empresa pueden ser muy buenas para TI o ingeniería, pero no satisfacer las necesidades de los diseñadores. Así que los diseñadores empiezan a utilizar sus propias herramientas preferidas que encuentran en Internet, a menudo sin pedir permiso.
“No hay ninguna intención maliciosa. La gente simplemente intenta hacer mejor su trabajo y ser más productiva. Pero las empresas no pueden ver esas herramientas. No saben qué aplicaciones se están utilizando y, si se carga información de la empresa, no saben dónde terminará. Eso podría conducir a una infracción del cumplimiento.
“El principal riesgo es la fuga de datos, especialmente cuando hablamos de información sensible o regulada. Esto incluye el uso de una herramienta segura de IA a través de una cuenta personal. Si usas una cuenta personal, significa que cuando dejes la empresa, todavía tendrás datos de la empresa en esa cuenta.
“Y si la información de la empresa se ha enviado a una herramienta no aprobada sin ningún registro, visibilidad o control, no hay vuelta atrás”.
Buinovskis también advirtió sobre los agentes de inteligencia artificial, que pueden buscar documentos y acceder a bases de datos con supervisión humana limitada, potencialmente recuperando información confidencial sin que los empleados se den cuenta.
Un empleado podría, por ejemplo, cargar una hoja de cálculo en un servicio de inteligencia artificial sin darse cuenta de que una de sus columnas contiene información personal confidencial.
Los cortafuegos tradicionales, las redes privadas virtuales y los controles de acceso pueden no impedir dichas filtraciones, ya que están diseñados principalmente para restringir el acceso no autorizado en lugar de impedir que los empleados compartan información que ya tienen permiso para utilizar.
Pero Buinovskis argumentó que prohibir por completo las herramientas de inteligencia artificial sería ineficaz.
“Si se prohíbe una herramienta, mañana habrá otra herramienta”, afirmó.
En cambio, instó a los empleadores a identificar qué aplicaciones utiliza el personal, aprobar nuevas herramientas más rápidamente e introducir salvaguardas que detecten información confidencial antes de que salga de los sistemas de la empresa.
Estos podrían advertir a los empleados, eliminar detalles confidenciales automáticamente o bloquear cargas riesgosas. Las nuevas aplicaciones también deberían probarse con datos no confidenciales antes de su uso generalizado, afirmó.
Buinovskis también advirtió que una mayor supervisión podría dañar las relaciones en el lugar de trabajo si los empleados sintieran que estaban siendo espiados.
“La confianza es un actor clave aquí”, dijo.
Las empresas deben explicar lo que monitorean, involucrar al personal en las decisiones de seguridad y brindar capacitación, reconociendo al mismo tiempo que la educación por sí sola no puede prevenir todos los errores.
Espera que sistemas de seguridad cada vez más automatizados ayuden a empresas de todos los tamaños a detectar amenazas y proteger datos confidenciales a medida que la IA se utiliza más ampliamente.
A pesar de los riesgos, Buinovskis dijo que los empleadores no deberían tener miedo de adoptar la tecnología, siempre que cuenten con salvaguardas para proteger la información confidencial.
“Si no utilizas la IA, realmente puedes perder tu ventaja competitiva”, añadió.
Vea la entrevista completa con Andrius Buinovskis, vicepresidente de estrategia de producto de NordLayer en el canal de YouTube de The European.
VER MÁS: Agentes norcoreanos se están infiltrando en empresas occidentales haciéndose pasar por empleados, advierte el jefe de seguridad. Los piratas informáticos patrocinados por el Estado de Corea del Norte y otros Estados hostiles están utilizando identidades falsas, entrevistas en vídeo manipuladas y contraseñas robadas para obtener acceso a empresas occidentales. Y gracias a la IA, sus métodos se están volviendo cada vez más sofisticados y difíciles de detectar, dijo a The European uno de los principales jefes de seguridad cibernética del Reino Unido.
¿Tiene noticias para compartir o experiencia para contribuir? El europeo acoge con agrado las opiniones de líderes empresariales y especialistas del sector. Póngase en contacto con nuestro equipo editorial para obtener más información.
Imagen principal: Andrius Buinovskis, vicepresidente de estrategia de producto de la empresa de ciberseguridad NordLayer, advierte que los empleados que utilizan cuentas personales de IA para trabajar podrían llevarse información confidencial de la empresa cuando se vayan. Hablando con Juliet Foster sobre Business Matters, en asociación con The European y transmitido por primera vez en Bloomberg TV, explica los crecientes riesgos de seguridad que plantean las herramientas de inteligencia artificial no aprobadas y cómo las empresas pueden proteger datos confidenciales sin restringir la productividad del personal. Crédito: El Europeo / NordLayer