Los coches sin conductor Waymo están en Londres, pero ¿es esto un paso positivo para la seguridad vial?
Richard Baker/En imágenes a través de Getty Images
Los autos sin conductor de Waymo han estado circulando por Londres durante meses, aunque aún no aceptan pasajeros y un humano está listo para tomar el control si es necesario. Cada vez que los encontré, me parecieron cautelosos y predecibles. Pero recientemente estuve a punto de fallar.
Estaba dando vueltas en una rotonda mientras iba en bicicleta a casa desde el trabajo y un Waymo estaba a punto de detenerse frente a mí. Tenía prioridad, pero no parecía disminuir la velocidad y parecía dirigirse directamente hacia mí, pero de repente se detuvo.
No fue el incidente más aterrador que he tenido en bicicleta, ni siquiera fue el peor de ese día. No me sentí en grave peligro; Lo había visto suceder y estaba listo. El incidente solo se destacó entre las docenas de momentos tensos que ocurren en cada viaje porque era una IA la que estaba detrás del volante, no una persona.
Por curiosidad, le envié a Waymo la hora y el lugar y le pregunté qué había pasado. “Los anuncios [automated driving system] “Detectamos a un ciclista que circulaba cerca del borde exterior de la rotonda y se acercaba por la derecha”, afirma un portavoz de la empresa. “El conductor de seguridad asumió el control manual del vehículo para aplicar los frenos en la entrada de la rotonda”. En resumen, no parecía que la IA fuera a detenerse, por lo que un humano saltó.
Le pregunté a Waymo con qué frecuencia los humanos tienen que hacer eso en Londres, pero la compañía me dijo que no tiene esos datos y que no le gusta centrarse en ellos como una métrica. También pregunté qué había sucedido para confundir a la IA (después de todo, andaba en bicicleta de manera perfectamente legal y mi bicicleta es de color amarillo neón, por lo que no hay ninguna excusa real) y qué se iba a hacer para mejorar el algoritmo como resultado. No obtuve respuesta.
Varios otros ciclistas de Londres me han dicho que Waymos ha actuado bien con ellos, pero uno recordó un incidente cerca de obras viales cuando un letrero que decía “LOS CARRILES ESTRECHOS NO AVANZAN A LOS CICLISTAS” de alguna manera impulsó a un Waymo a hacer exactamente eso. Sin embargo, Simon Munk, de la London Cycling Campaign, dice que, en general, estos coches han actuado con mucha cautela con los ciclistas.
El año pasado escribí sobre mis sentimientos sobre los conductores de IA, sabiendo que las empresas de tecnología estaban trayendo estos autos a Londres. Mi opinión entonces fue que tal vez estaría mejor rodeado de conductores de IA impredecibles e imperfectos que de humanos cansados, distraídos y enojados. Los humanos me han derribado de mi bicicleta varias veces. No creo que mi incidente con Waymo me haya hecho cambiar de opinión. Por otra parte, una vez uno pasó a través de la cinta policial que bloqueaba una carretera, pero la compañía dijo que una persona tenía el control en ese momento.
No confío plenamente en la IA para operar un automóvil cerca de mí, pero tampoco confío plenamente en la gente para hacerlo. Pero mi argumento es que la IA puede seguir aprendiendo y con relativa rapidez. Es más, los sensores que informan a estos modelos sobre el mundo y les ayudan a detectar peligros serán más precisos y potentes. La IA puede ser o no el menor de dos males ahora, pero tengo fe en que puede serlo en el futuro.
Munk dice que existen enormes ventajas y desventajas potenciales en los automóviles sin conductor para ciclistas y peatones: podrían hacer que las calles sean más seguras, lugares más predecibles o convertirse en una amenaza que margine aún más a los usuarios vulnerables de la vía. Y aunque a Waymo le ha ido bien en San Francisco, Londres está en un “nivel diferente”, dice, en términos de complejidad y caos. Munk recuerda que la compañía le mostró con orgullo un video de uno de sus autos navegando exitosamente por lo que dijo era un cruce caótico de San Francisco que realmente puso a prueba la tecnología, pero tiene al menos media docena de autos peores en su viaje.
A Munk también le preocupa que una vez que estos coches estén en funcionamiento, incluso si al principio parecen seguros, las actualizaciones de software posteriores podrían cambiar su comportamiento. No podemos simplemente aprobar que los automóviles sin conductor sean seguros: necesitarán un escrutinio minucioso y constante para mantener a las empresas honestas y a los ciudadanos protegidos.
Habrá una avalancha de otros jugadores de vehículos sin conductor que vendrán a Londres: los taxis sin conductor de Wayve podrían llegar en los próximos meses y pueden adoptar o no un enfoque cauteloso. Así como un conductor puede ser más seguro que otro, una IA puede ser más segura que otra. Y así como un conductor seguro puede cansarse, irritarse y descuidarse, la IA se puede modificar a voluntad para actuar como quiera la empresa. El año pasado, por ejemplo, Waymo hizo que sus autos fueran más asertivos, lo que los llevó a actuar como “un taxista agresivo de Nueva York”. Esto fue diseñado para evitar que ralentizaran el tráfico, pero hizo que muchos habitantes de San Francisco desconfiaran.
Incluso hemos visto señales preocupantes de “soluciones” a la seguridad vial que descargan descaradamente el problema de la seguridad a los peatones, sugiriendo que todos usen chalecos especiales para hacer la vida más fácil a los autos autónomos.
“Dentro de cinco años [or] Dentro de 10 años, cuando estas cosas sean cotidianas, ¿no? [these companies] Vamos, ¿sabes qué? Nuestros pasajeros están realizando viajes lentos, ¿los aceleramos un poco? [and] ¿Tomar algunas esquinas?’”, pregunta Munk. “¿O llega un servicio rival y dice ‘somos un 20 por ciento más rápidos que Waymos y un 20 por ciento más baratos’, y lo hacen acelerando un 20 por ciento y siendo un 20 por ciento más agresivos?’ La realidad es que vamos a tener que estar atentos”.
Temas: