(Nota de Prensa APCAE).- La Inteligencia Artificial ya está aquí. O más bien, se respira un clima colectivo, de forma similar ante los advenimientos de otras herramientas, dispositivos o paradigmas de la tecnología anteriores, que anuncia la llegada de esto que, sea lo que sea, se da en llamar IA. La presión económica para adoptar este nuevo escenario es evidente: las rondas de financiación por parte de los fondos de capital han acumulado un billón español de dólares (un millón de millones, diez elevado a doce dólares, para entendernos) que están abriendo el camino de la adopción con gran fuerza, introduciendo a presión las aplicaciones de IA en nuestras casas, en nuestros teléfonos móviles, sustituyendo a los buscadores web, a los algoritmos tradicionales y, si algunas de las predicciones de Mark Zuckerberg y Elon Musk llegan a término, posiblemente también a nuestros familiares y amigos.
Las empresas, como organizaciones humanas que son, están siendo también sometidas a esta misma presión, y sienten que o adoptan la IA, introduciendo usos y herramientas aún por definir, o se van a quedar atrás en una carrera cuyas reglas no acaban de estar claras para nadie. En particular, en el sector del transporte aéreo la relación con este fenómeno es dual y un tanto contradictoria. Por un lado, la aviación se caracteriza por utilizar la tecnología de manera extensiva: sus productos requieren de técnicas avanzadas de diseño y producción industrial, tanto en la fabricación como en la operativa. Pero, por otro, se trata de un sector que se ha desarrollado a partir del concepto de la seguridad en todas sus dimensiones, y resulta particularmente conservador ante la adopción temprana de nuevas tecnologías y más aún de nuevos paradigmas que lo “cambien todo” y produzcan “disrupción”.
En el ámbito operacional, la seguridad aérea se basa de forma tradicional en la toma de decisiones por parte de los profesionales operativos. Pilotos, técnicos de mantenimiento y controladores aéreos aplican su juicio, basado en la experiencia adquirida a través de complejos sistemas de formación y de años de trabajo, para tomar las decisiones adecuadas en cada paso de los complejos procesos que componen su actividad. Apoyados por herramientas y automatismos que les asisten y aumentan sus capacidades, la toma de decisiones sigue siendo hasta ahora propia únicamente del ser humano en la operativa del transporte aéreo. Pero la complejidad de los sistemas crece, la continua presión por mejorar la seguridad, la eficiencia e incrementar el rendimiento económico, junto con la aparición de las nuevas posibilidades de manejo de la información de las que la IA es una especie de reclamo comercial muy visible pero no el único, colocan la cuestión en el centro del debate: ¿debemos confiar la toma de decisiones que hasta ahora lleva a cabo el personal operativo cualificado a sistemas automáticos?
Si esto ya lo estamos haciendo…
En efecto, la automatización ya existe. Ningún piloto decide a ojo la cantidad de combustible que se inyecta en un reactor; ningún técnico de mantenimiento realiza el diagnóstico de un equipo sin monitorizar la información de sus sensores; y ningún controlador aéreo mira al cielo y decide que esos dos aviones están separados. Las herramientas que emplean les otorgan capacidades que aumentan su juicio en la toma de decisiones. Y esta combinación de personas y máquinas ha conseguido que el transporte aéreo desarrolle sus elevados estándares de seguridad y de eficiencia.
La IA como ayuda, no como sustitución
Desde APCAE queremos recalcar nuestra postura: la tecnología debe complementar la labor humana, no reemplazarla. Consideramos que este principio es fundamental en la aceptación de nuevas herramientas tecnológicas en el sector del transporte aéreo. Y no nos cansaremos en defenderlo: “estamos abiertos a cualquier innovación tecnológica siempre y cuando esto suponga una ayuda, no una sustitución”. Queremos continuar por el camino hacia la innovación tecnológica, profundizando en las herramientas ya existentes e introduciendo nuevas, como la inteligencia artificial, siempre que estas actúen como herramientas de apoyo y no como sustitutas del factor humano. Sin embargo, desde APCAE queremos compartir algunas preocupaciones significativas sobre la posible degradación de las habilidades manuales y cognitivas de los profesionales, la falta de transparencia en los sistemas de IA y la percepción de que la motivación principal para su introducción es económica, más que orientada a mejorar la seguridad.
Los desafíos ante la adopción de una nueva tecnología
Enumeramos los principales campos en los que desde APCAE queremos pedir un análisis conjunto por parte de todas las partes implicadas, porque consideramos que, sin responder a estas cuestiones, el proceso de implementación de una tecnología tendrá fallas, grietas y problemas que lastrarán su futuro. Y esto se puede evitar si se trabaja en común sobre las siguientes áreas:
- Limitaciones de los automatismos ante lo imprevisto: Las herramientas automáticas tienen la posibilidad de superar en rendimiento al ser humano en varios órdenes de magnitud… siempre que el escenario se mantenga dentro de lo previsto. Y esto no ocurre siempre. la IA y los automatismos carecen de capacidades humanas críticas, como la conciencia situacional, la capacidad de conceptualizar y de desarrollar soluciones en situaciones críticas. Estas capacidades son cruciales para combinarse con las que proporcionan los automatismos, y entre todas ellas construir un sistema mucho más robusto y resiliente ante los fallos y situaciones inesperadas que, por su propia naturaleza, no se pueden predecir.
- Pérdida de habilidades y conocimientos: La dependencia excesiva de los automatismos plantea el riesgo de una pérdida de habilidades de pilotaje manual y una degradación del nivel cognitivo de los profesionales. Tras incidentes como el del Airbus 330 de Air France, las autoridades han instado a recuperar las habilidades de vuelo manual, lo que refleja una paradoja en la tendencia hacia la automatización. En el caso del control aéreo, las herramientas de tomas de decisiones pueden inducir embotamiento en unas habilidades que se han de mantener extremadamente afiladas y vigentes para desempeñarlas con el nivel de calidad necesario o, lo que es peor, podemos experimentar una pérdida generacional de dichas habilidades: si, desde un comienzo, no se ha necesitado pensar para separar los aviones en ruta, ¿qué incentivo se llega a tener para aprender y desarrollar la habilidad de hacerlo?
- Fiscalización y evaluación del trabajo del controlador mediante IA: en APCAE tenemos la preocupación de que la IA pueda ser utilizada para monitorear y evaluar el desempeño de los profesionales con una capacidad de análisis superior a la humana actual; consideramos que esta aplicación es tecnológicamente factible con el nivel actual de IA. Si esta utilización no se enmarca firmemente en el contexto de la Cultura Justa y no se determinan y aplican desde ya mismo unas políticas de utilización correctas, existe un grave peligro de perder uno de los pilares básicos de la seguridad aérea, que no es otro que el de la cooperación abierta y honesta entre todos los agentes involucrados.
- Preocupaciones éticas con la implementación de la IA: consideramos que es fundamental establecer directrices éticas claras para gobernar el despliegue de la IA en la aviación. Estas deben garantizar la equidad, la transparencia y la rendición de cuentas en el uso de estas tecnologías, mitigando riesgos éticos y protegiendo los derechos de los profesionales. La velocidad en la adopción de la IA no favorece el necesario sosiego que permitirá realizar este objetivo, pero es muy necesario no ceder ante las presiones económicas externas y mantener la mirada en el futuro. Así, estos tres aspectos resultan fundamentales:
- Sesgos en los Sistemas de IA: Existe el riesgo de que la IA utilizada para la evaluación del desempeño perpetúe sesgos presentes en los datos de entrenamiento, lo que podría llevar a evaluaciones injustas de los profesionales. Esto plantea preocupaciones sobre la equidad en la aplicación de estas tecnologías.
- Preocupaciones sobre Privacidad: El uso de la IA para el monitoreo continuo del desempeño podría generar importantes problemas de privacidad, ya que la recolección constante de datos podría infringir la autonomía personal de los profesionales.
- Marcos Éticos: Es fundamental establecer directrices éticas claras para gobernar el despliegue de la IA en la aviación. Estas deben garantizar la equidad, la transparencia y la rendición de cuentas en el uso de estas tecnologías, mitigando riesgos éticos y protegiendo los derechos de los profesionales.
- Necesidad de formación y transparencia: La creciente complejidad de los sistemas requiere una formación continua y adecuada para los profesionales. La falta de formación se percibe como un atajo peligroso motivado por el ahorro de costes. Además, se subraya la necesidad de transparencia por parte de los desarrolladores y fabricantes sobre el funcionamiento de los sistemas y la IA incorporada. Para garantizar la seguridad, es crucial contar con la validación de una autoridad competente y la participación activa de los usuarios finales (pilotos, controladores) en el desarrollo e implementación de la nueva tecnología.
Conclusión: el valor del controlador aéreo profesional
Frente a unas tecnologías experimentales y aún por desarrollar, reafirmamos el inmenso valor de la pericia, la experiencia, la conciencia situacional y la capacidad de razonamiento del profesional humano, que se construye a lo largo de una vida. Este valor inherente (el de los controladores aéreos) debe ser reconocido y defendido frente a las promesas de la tecnología externa, que nunca será propiedad de las propias compañías aéreas o de gestión del tráfico aéreo. Desde APCAE creemos que este valor es de sobras conocido por los agentes que están promocionando e implementando las aplicaciones de IA a nivel mundial: es precisamente ese valor el que quieren explotar, sustituir, hacerse con él, destilarlo en una botella y finalmente… venderlo mucho más caro. No nos dejemos convencer por cantos de sirena: con la IA podemos trabajar y hacerlo mejor. La IA sin nosotros… nunca habría podido existir.