Estaba claro que algo había salido muy mal con el enjambre de miles de drones que brillaban sobre Darling Harbour durante el festival Vivid Sydney el mes pasado.
Muchos de repente empezaron a volar fuera de la formación. Casi 90 cayeron del cielo al agua oscura de abajo.
Afortunadamente nadie resultó herido.
Sin embargo, el fracaso del espectáculo de drones, que se ha atribuido a la interferencia de radio, puso de relieve un desafío que enfrentan todos los aviones autónomos: ¿qué sucede cuando las cosas van mal?
Esta es una pregunta importante, dado que los taxis aéreos autónomos que transportan pasajeros por encima del tráfico y los drones autónomos que entregan paquetes a través de las ciudades podrían convertirse en algo familiar en la próxima década.
En Estados Unidos, por ejemplo, la empresa de entregas con drones Wing anunció recientemente que está ampliando su asociación con Walmart a siete ciudades más.
Estas tecnologías ocasionalmente experimentarán fallas. Pero un avión no puede simplemente quedarse a un lado de la carretera.
Por lo tanto, la seguridad depende no sólo de prevenir fallas sino también de garantizar que las aeronaves puedan responder de manera segura cuando ocurren.
Diseñado para tolerar algunos fallos.
Los aviones autónomos modernos tienen una serie de características para garantizar que ningún fallo provoque la pérdida del avión. Estos incluyen motores múltiples, propulsión distribuida, computadoras de vuelo de respaldo y software que puede tolerar fallas.
Pero incluso las tecnologías altamente confiables y resilientes pueden fallar y fallarán de maneras inesperadas. Un problema menor de software, un sensor defectuoso o un cambio repentino en las condiciones pueden no ser graves por sí solos. Pero juntos pueden crear desafíos mayores.
Las ciudades crean más riesgos. Los vientos cambiantes alrededor de los edificios, las interrupciones de las señales de navegación y un gran número de aviones operando en la misma zona pueden dificultar la gestión de eventos inesperados.

En un avión convencional, un piloto es responsable de atender las emergencias. Si ocurre un problema grave, aprovechan su formación y experiencia para evaluar la situación, identificar un lugar de aterrizaje adecuado y guiar la aeronave hasta el suelo minimizando el riesgo para las personas cercanas.
En el caso de las aeronaves autónomas, esa responsabilidad pasa del piloto a la propia aeronave. Los sistemas autónomos deben poder reconocer un problema, evaluar las opciones disponibles y decidir qué hacer a continuación.
Por ejemplo, ¿cuál es el lugar más seguro para aterrizar? ¿Se podrían poner en riesgo personas, vehículos o edificios? ¿Puede el avión llegar con seguridad al lugar elegido?
Éstas no son simplemente cuestiones técnicas. Son decisiones con consecuencias en el mundo real. Por lo tanto, responder a las emergencias no es sólo un procedimiento de respaldo. Se convierte en una parte fundamental del funcionamiento seguro de las aeronaves autónomas.
Un sistema que debe ver, decidir y actuar
Para que una aeronave autónoma responda de forma segura a una emergencia, debe hacer tres cosas muy rápidamente.
Primero, necesita comprender su entorno. Debe identificar posibles lugares de aterrizaje teniendo en cuenta las personas, los vehículos, los edificios y otros peligros. Esta información puede estar incompleta o cambiar constantemente.
A continuación, debe decidir qué opción conlleva el menor riesgo. El lugar de aterrizaje más seguro no siempre es el más cercano y puede que no exista una solución perfecta. En cambio, el sistema debe elegir la opción que tenga más probabilidades de minimizar el daño.
Finalmente, debe guiar de forma segura la aeronave hasta ese lugar. Esto puede ser particularmente desafiante si la aeronave ya está experimentando una falla o opera en condiciones climáticas difíciles.
Estas tareas no se pueden tratar por separado. Deben trabajar juntos como un único sistema de seguridad, tomando decisiones y respondiendo en tiempo real a medida que se desarrollan los eventos.
Planificar para que las cosas salgan mal
Gran parte del enfoque actual de la industria y la regulación se centra en prevenir fallas mediante pruebas rigurosas, certificación y sistemas de respaldo. Esto es importante, pero es sólo una parte del desafío de seguridad.
Hay mucha menos discusión sobre lo que sucede después de que ocurre una falla. ¿Con qué rapidez puede un avión identificar un lugar seguro para aterrizar? ¿Puede seguir funcionando de forma segura si algunos de sus sistemas ya no funcionan según lo previsto?
Los sistemas más resilientes no son necesariamente aquellos que nunca experimentan problemas.

Son ellos los que pueden reconocer los problemas emergentes, adaptarse a las circunstancias cambiantes y reducir el riesgo antes de que una situación se vuelva crítica.
Desde este punto de vista, un aterrizaje de emergencia no es una respuesta de último momento. Es una capacidad que está planificada durante todo el vuelo y lista para usarse cuando sea necesario.
La seguridad se juzga el peor día
Los aviones autónomos tienen el potencial de hacer que el transporte sea más rápido, más limpio y más accesible. Pero su éxito a largo plazo dependerá de algo más que la tecnología o la economía.
Dependerá de si el público puede confiar en que estos sistemas responderán de manera segura cuando las cosas vayan mal.
El reciente incidente con un dron en el festival Vivid Sydney ofrece un recordatorio útil. El fracaso en sí llegó a los titulares, pero la pregunta más importante fue cómo respondió el sistema.
Los drones no desaparecieron simplemente del cielo. Se activaron los procedimientos de seguridad y, lo más importante, nadie resultó herido.
Relacionado: Los científicos construyeron un robot que puede vencer a jugadores humanos de élite en tenis de mesa
A medida que los aviones autónomos se vuelvan más comunes en nuestras ciudades, surgirán preguntas similares.
El futuro de los aviones autónomos no lo decidirá su rendimiento en condiciones normales.
Se decidirá por cómo manejen las raras situaciones que nadie quiere, pero que todos esperan que estén planificadas.
Luis Mejías, Profesor Asociado de Sistemas Aeroespaciales y Autónomos, Universidad Tecnológica de Queensland y Jonathan Roberts, Profesor de Robótica, Universidad Tecnológica de Queensland
Este artículo se vuelve a publicar desde The Conversation bajo una licencia Creative Commons. Lea el artículo original.
