IntelliCar es una empresa con sede en Europa que recientemente comenzó a producir automóviles inteligentes para el mercado europeo. Para obtener la respuesta deseada al mirarse en el espejo mágico y preguntar quién tiene el auto más inteligente de todos, IntelliCar pensó mucho y decidió equipar sus autos súper inteligentes con: reconocimiento facial y de emociones, ajustar automáticamente la temperatura del auto y enviar advertencias cuando el conductor se queda dormido, seguro de automóvil opcional basado en el uso,[2] su propio asistente virtual impulsado por ChatGPT y un montón de otras tecnologías que mejoran la seguridad y la experiencia de conducción. Sin embargo, los tres mencionados ya son suficientes para aclarar mi punto, así que me detendré aquí. Ahora bien, para ser totalmente honesto, cualquiera de las tres tecnologías enumeradas sería suficiente para activar la aplicación de la Ley de Datos de la UE, el RGPD y la Ley de IA, pero quería mencionar un par de disposiciones interesantes de la Ley de Datos de la UE. (El artículo se centrará más en eso), así que tengan paciencia.
RGPD
Lo primero es lo primero: la situación con el RGPD es bastante sencilla en el caso descrito. Tenemos tres tecnologías en el coche, todas las cuales recopilarán (muchos) datos personales.
El vehículo recogerá en primer lugar datos faciales para reconocer al usuario y comprobar si el conductor ha dado su consentimiento para posteriores operaciones de tratamiento. (Ahora bien, no podemos esperar que IntelliCar también tenga en cuenta este acto inicial de procesamiento, simplemente es demasiado complicado y los actores dominantes tampoco le están prestando mucha atención, por lo que seguramente, como startup, pueden darse el lujo de mirar ¿Al revés?) Si se registra el consentimiento, el automóvil continuará recopilando y procesando las expresiones faciales para ajustar la temperatura del automóvil, enviará alertas si aparecen signos de adormecimiento e incluso preguntará al conductor qué sucede a través de su función de asistente de voz. En segundo lugar, si el conductor también optó por un seguro basado en el uso, el automóvil recopilará datos de uso que puedan atribuirse al conductor particular identificado y que haya dado su consentimiento. Luego, esos datos se transferirán a la compañía de seguros para que procese y ajuste las primas del seguro. Finalmente, al decir “Hola IntelliCar (o cualquier nombre que decida el usuario)” se activa el asistente de voz del automóvil. Luego se puede realizar una cantidad casi ilimitada de solicitudes al automóvil, incluida la reproducción de música, pedir direcciones o incluso buscar cosas en línea, porque, como recordará, nuestro asistente virtual funciona con ChatGPT y, por lo tanto, es razonablemente capaz de realizar dichas solicitudes. Todos los datos procesados recopilados son definitivamente personales, ya que el rostro, la voz y los hábitos de un conductor en particular (ya identificado) constituyen información basada en la cual alguien (más obviamente, IntelliCar en este caso) puede identificar al conductor.
Bueno, está bien, no hay muchas novedades allí. El RGPD se aplica, por supuesto, a los coches conectados. Ahí va la primera barra de pan de nuestro sándwich.
Ley de IA
La situación con la Ley de IA es un poco más complicada pero, como veremos, lo esencial es que la Ley de IA todavía se aplica. En todo caso, evaluar si existen obligaciones específicas de la Ley que deban cumplir.
Entonces, comencemos con el más obvio. Los sistemas de reconocimiento facial y de emociones son definitivamente tipos de sistemas basados en máquinas que pueden generar resultados, como, en este caso, recomendaciones o decisiones que influyen en los entornos físicos, es decir, la temperatura del automóvil (Artículo 3). Intellicar es quien desarrolló e implementó el sistema y, por tanto, también su proveedor. Así que ahora sólo queda determinar qué obligaciones (si las hay) tienen que cumplir. Para responder a esta pregunta, podemos empezar por confirmar que los sistemas de reconocimiento facial y de emociones figuran provisionalmente en el anexo III como sistemas de IA de alto riesgo. La única manera de potencialmente eludir todas las obligaciones de la Ley sería realizar una evaluación de riesgos y aclarar que su sistema particular no representa realmente un alto riesgo para las personas afectadas, ya que existen suficientes medidas de protección de datos y la Las recomendaciones y decisiones tomadas por el sistema son de menor importancia. Esta evaluación, incluso si el resultado es positivo, lo que significa que el sistema no es tan riesgoso después de todo, tendrá que ser exhaustiva, documentada y presentada a las autoridades.
La función de registro de datos para ajustes automatizados de seguros es un poco más compleja, ya que aquí no es la empresa la que realmente tiene acceso al sistema de inteligencia artificial o lo implementa. Simplemente proporciona los datos (o al menos debería hacerlo). Los proveedores de datos (afortunadamente) no desempeñan un papel según la Ley de IA, por lo que, con suficientes garantías contractuales y de documentación, deberíamos estar seguros. pero sólo dado que IntelliCar de alguna manera no reajustó significativamente el sistema para adaptarlo a sus autos, lo cual no sería tan sorprendente. En ese caso, volvemos al punto de partida: IntelliCar vuelve a ser considerado un proveedor y todavía tiene al menos algunos riesgos que evaluar.
Finalmente, nuestro asistente virtual podría ser el más problemático de todos, ya que primero tenemos que determinar si IntelliCar es un implementador o un proveedor de la tecnología. En aras de la simplicidad, digamos que en este caso, IntelliCar utiliza el complemento ChatGPT Enterprise y solo lo personaliza utilizando datos internos. Así que, con suerte, simplemente están implementando el sistema y solo se les puede responsabilizar por elegir un sistema potencialmente no compatible. Pero pueden dejar ese problema para su futuro. Primero es el momento de conquistar el mercado, cueste lo que cueste (futuro).
Ley de datos
Ahora finalmente llegamos al último ingrediente secreto (bueno, definitivamente no el último, pero el último que consideraremos aquí) en nuestro sándwich de cumplimiento de automóviles conectados. La Ley de Datos. Y aquí nuestro IntelliCar se verá atacado en los tres frentes (bastante claro) como fabricante de un producto conectado. Y solo para detenernos en esta ley que recibió inmerecidamente poca atención por parte del público, hay múltiples trampas explosivas a las que debemos estar atentos aquí.
La Ley de Datos sirve principalmente para empoderar a los usuarios otorgándoles diversos derechos de acceso no sólo a los datos personales recopilados durante el uso de los productos conectados, sino también a datos no personales, como los datos que indican el estado del hardware y el mal funcionamiento (Considerando 15). Ahora bien, aunque cuando se trata de productos conectados, que son utilizados con mayor frecuencia por personas físicas, es bastante seguro decir que muchos de los datos recopilados serán personales. Aún así es bueno tener en cuenta que los usuarios deben poder acceder a TODOS los datos recopilados (se incluyen los metadatos necesarios para interpretar los datos originales). Y esto tiene que ser posible de forma fácil, segura, gratuita y, en el mejor de los casos, en un formato comprensible, legible por máquina y directamente accesible. (¡Pedazo de pastel!) Por supuesto, la Ley conlleva muchas otras obligaciones, en particular en lo que respecta al intercambio de información, dependiendo del papel que tenga una empresa (o persona física) en particular. No entraré en todos ellos, pero mencionaré un par de particularmente interesantes y relevantes para mi contexto imaginario.
El primero es la forma en que la Ley trata los secretos comerciales. Es decir, en situaciones en las que el usuario no puede acceder a los datos directamente, el titular de los datos debe proporcionarlos al usuario. Ahora bien, muchos de estos datos serán muy valiosos para la empresa que los posee, tal vez incluso tan valiosos como para colocarlos en el pedestal de un secreto comercial. Estos secretos son, de hecho, información técnica u organizativa que tiene valor comercial, se mantienen en secreto intencionadamente y cuyo acceso es limitado. Y así, si bien los puntos de datos individuales podrían no merecer este estatus, cuando pensamos en colecciones más complejas creadas a partir de puntos de datos recopilados, potencialmente enriquecidas con datos de terceros e incluso inferencias, estas colecciones bien podrían merecer protección como secreto comercial. Y aunque el RGPD nunca consideraría la idea de que un usuario no pueda acceder a un perfil creado en base a sus datos, la Ley de Datos sí considera esta posibilidad. Principalmente porque también rige el intercambio de datos no personales. Así, en determinados casos en los que se demuestre el riesgo de sufrir un perjuicio económico grave, el titular de los datos podrá retener los datos solicitados por considerar que se trata de un secreto comercial. Esta excepción podría dejar cierto margen de maniobra para que las empresas no compartan todos sus datos valiosos después de todo.
La segunda peculiaridad se refiere a nuestra prima de seguro basada en el uso, ya que la ley también regula los contratos inteligentes. Es decir, contratos donde “un programa de computadora [is] utilizado para la ejecución automatizada de un acuerdo… utilizando una secuencia de registros electrónicos”. Un ejemplo de un contrato inteligente de este tipo podrían ser los ajustes automatizados de seguros basados en datos en tiempo real. Y una obligación importante en este sentido es el contrato inteligente. interruptor de apagado que tiene que implementarse como “un mecanismo… para terminar la ejecución continua de transacciones y que… incluye funciones internas que pueden restablecer o ordenar al contrato que detenga o interrumpa la operación”. Este interruptor de apagado plantea cuestiones importantes sobre las consecuencias que esto tiene para el conductor, para IntelliCar, así como para la compañía de seguros. Es decir, plantea preguntas como quién tiene derecho a usar el interruptor de apagado, cuándo se puede usar (los contratos son contratos por una razón y su ejecución es en la mayoría de los casos algo bueno y legalmente obligatorio), qué sucede cuando alguien lo usa ( ¿La prima vuelve a un modo predeterminado?), y puede hacer clic en el interruptor de apagado revertirse (¿cómo contabilizar el tiempo de conducción no registrado)? Todo esto tendrá que ser (muy probablemente) regulado contractualmente entre las partes involucradas y no es un asunto baladí.
Finalmente, un último dolor de cabeza que consideraremos es que los asistentes virtuales también están regulados explícitamente por la Ley de Datos (artículo 31). Asistente virtual, en el contexto del acto, significa “software que puede procesar demandas, tareas o preguntas, incluidas aquellas basadas en audio, entradas escritas, gestos o movimientos, y que, en función de esas demandas, tareas o preguntas, proporciona acceso a otros servicios o controla las funciones de los productos conectados”.. Ahora bien, esto básicamente abre una caja de Pandora no sólo para nuestro productor de automóviles inteligentes, sino también potencialmente para la empresa que desarrolla el asistente virtual, posiblemente arrastrándolos a otras 70 páginas de textos legislativos que deben cumplir. (Como si ya no tuvieran suficiente entre manos). Y nadie puede adivinar cómo se desarrollaría el argumento del secreto comercial (o tal vez la excusa) en este contexto.