Todavía estamos intentando entender la terrible tragedia de Germanwings. Pero aún así, algunas personas están sugiriendo que esta podría haberse evitado si una computadora hubiese estado volando el avión. Esa no es la solución. Conversamos con un experto acerca el por qué un piloto de inteligencia artificial podría iniciar un nuevo grupo de riesgos y complicaciones para la aviación.
Para abordar este problema, busqué la ayuda del Dr. Patrick Lin. El es el director del Grupo de Ética y Ciencia Emergente de la Universidad Estatal Politécnica de California, y autor de libro “Ética de Robot: Las implicaciones sociales y éticas de la robótica”. Como me lo señaló, los pilotos de inteligencia artificial podrían eventualmente tomar el control de la cabina sin la ayuda o participación de ningún humano, pero ese día está muy lejos.
Sacando a los humanos de la cabina
Como idea, los pilotos robots no son nada nuevo. Pero este reciente desastre para algunos es razón de pensar que en caso de emergencias como estas, el humano debería perder el control del avión, siendo relevado por un piloto de inteligencia artificial.
Cuando hablamos sobre la fiabilidad de un piloto humano, por lo general nos referimos a la fatiga y errores de usuario. Lo imprevisible que puede ser el estado psicológico de un piloto, por ejemplo, no se discute casi nunca. Sin embargo, el avión estrellado del pasado martes destacó este punto. Y es que parece que el co-piloto del avión, Andreas Lubitz, estaba ocultando su condición médica, que podría haber estado directa o indirectamente relacionada a su estado mental.
“Los pilotos pueden ser propensos a errores, porque los humanos son propensos a errores”, Lin nos dijo.
“Algunos accidentes de aviones ocurren porque hoy en día a los pilotos se les pide que se sienten y duren horas y horas mirando a una pantalla de computadora, y los humanos no estamos hechos para este tipo de labor. Los pilotos de hoy en día tampoco tienen suficientes oportunidades para entrenarse física o mentalmente para situaciones de emergencia, debido a que gran parte de volar ya ha sido automatizado.
De ahí nace la sugerencia de eliminar al eslabón débil en la aviación: el piloto. Un sistema de inteligencia artificial nunca se cansará, nunca se deprimirá ni cometerá errores.
Suena genial en un principio, pero como Lin dice, la transferencia absoluta del control de un avión de un piloto humano a un piloto automatizado es bastante complicada.
“Incluso si los pilotos de inteligencia artificial son más seguros que los pilotos humanos, la única forma en la que estos pilotos de IA podrían ser capaces de evitar un accidente como el de Germanwings o cualquier otro que haya sido ocasionado por un humano, es no solamente controlando el avión mientras vuela, sino también durante el despegue, aterrizaje e incluso dejando fuera de la cabina a cualquier humano, para que no pueda presionar un botón de anulación y tomar el control del avión.”
Lin compara esto a la decisión de Google de eliminar el volante de dirección de sus vehículos automatizados de baja velocidad. Del mismo modo, si el objetivo es evitar que los humanos ocasionen desastres, las aerolíneas van a tener que prevenir que los humanos entren en contacto con el sistema de pilotaje de un avión, prohibiéndoles el acceso a la cabina. Y esa imagen es bastante inquietante.
Niveles de riesgo
Por otro lado, los niveles de riesgo de un avión controlado por un robot son completamente diferentes a los de un pequeño vehículo que se mueve a lentas velocidades. Según Lin:
“Lo que le funciona a Google no necesariamente tiene que servirle a, digamos, Lufthansa. La tecnología va a fallar en algún punto, ya sea por un error de programación en los millones de líneas de código que operan un vehículo autónomo, un error de sensor, o un acontecimiento imprevisto; y también importa, mucho, si la tecnología falla en tierra firme o en el aire. Donde Google podría no necesitar un plan de respaldo para el pilotaje de sus coches, las aerolíneas si lo necesitan. Y esto significa tener al menos un humano en la cabina para emergencias.”
Los accidentes aéreos son relativamente extraños, especialmente cuando tomas en cuenta el número de vuelos de avión que se dan a cabo cada año. Las probabilidades de morir porque se estrelle un avión son extraordinariamente bajas, como para considerar el riesgo extra creado al eliminar a los humanos de la ecuación de pilotaje de avión. Además de que cambiarse a pilotos robóticos no ahorraría casi nada de dinero a las aerolíneas, dado que la mano de obra es una fracción muy pequeña de los costos para las aerolíneas.
Accidentes de inteligencia artificial
“Tal vez algún día los pilotos de inteligencia artificial serán lo suficientemente perfectos como para tomar el control de la cabina de un avión por completo, sin necesidad de un humano, pero ese día no llegará pronto. Ni siquiera podemos construir dispositivos mucho más sencillos, como computadoras portátiles y smartphones, que no fallen constantemente en condiciones normales”.
A lo que yo añadiría: los “aviones robot” también podrían llegar a ser hackeados. A menos que desarrollen un sistema completamente a prueba de fallas y de ser vulnerado, existe la probabilidad de que alguien podría irrumpir en él y asumir el control total del avión, para hacerlo estrellarse o secuestrarlo. Y esta perspectiva es bastante terrorífica.
Tanto los humanos como la tecnología están propensos a fallar, señaló Lin, “pero trabajando juntos hay una redundancia en el sistema que puede ayudar a compensar esos fallos”.
Gizmodo
