La amenaza de la Complejidad Artificial
Los seres vivos habitamos en un mundo complejo, naturalmente complejo. A ésto, los seres humanos estamos añadiendo una complejidad artificial que ahora empieza a amenazarnos seriamente.
Como probablemente suceda a otros muchos millones de personas en todo el mundo, no suelo concordar con las ideas y expresiones del controvertido presidente actual de Estados Unidos, sin embargo, este tweet suyo de hoy me llamó la atención, ya que su mensaje no anda muy desencaminado:
Aquí Donald Trump hace referencia al reciente tragedia aérea del vuelo 302 de Ethiopian Airlines. Un avión modelo 737-MAX de la compañía Boeing se estrelló al poco de despegar del aeropuerto de Addis Abeba, por causas (a día de hoy) todavía desconocidas, pero que guardan mucha similitud con otro accidente reciente de un aparato del mismo modelo de la compañía indonesia Lion Air, y cuya investigación preliminar determinó que los pilotos estuvieron “luchando” contra la aviónica computerizada que gobernaba el vuelo de la aeronave, que insistía en corregir, de manera catastrófica, el pilotaje manual de los tripulantes para evitar la caída al suelo.
A los pocos días de este accidente, numerosas compañías aéreas, así como las autoridades de muchos países han ordenado la paralización de los vuelos de este modelo de avión. Esto no es, ni de lejos, la primera vez que sucede en la historia de navegación aérea comercial. A menudo los nuevos modelos de aparatos presentan algunos defectos de construcción que afloran cuando empiezan a usarse de manera masiva: problemas estructurales en el fuselaje, deficiencias en los motores, etc. Por lo general, fallos mecánicos, grietas “visibles” o fácilmente identificables en el cuerpo del avión.
Lo que llama la atención ahora es la historia escalofriante que se esconde tras estos dos últimos accidentes (siempre de acuerdo a indicios o investigaciones preliminares): fue la mente electrónica, la inteligencia artificial del aparato la que tomó la decisión predominante sobre el criterio de los pilotos; decisión cuyas consecuencias fueron catastróficas, ya que acabaron precipitando las aeronaves contra el suelo. Nadie sabe, todavía, cuáles fueron las causas últimas de este conflicto humano-máquina que de momento se está saldando a favor de las últimas por un siniestro 0–2. Es posible que jamás se llegue a saber con certeza total.
Si no se llega a conocer a ciencia cierta qué pasó, será fundamentalmente por la enorme complejidad de los sistemas digitales que conforman esas mentes robóticas de los aviones. Y es que hace ya tiempo que vivimos bajo la sombra amenazante de lo que he venido en llamar Complejidad Artificial, y que ahora empieza a aflorar en forma de titulares bastante inquietantes.
Si algo aprendí en mis estudios de física en la universidad, así como en otros más específicos, es que la naturaleza es algo muy complejo, sobre todo cuanto más evolucionada está. Y el mayor grado de complejidad que, de momento, conocemos en todo el universo está aquí, en la Tierra. Concretamente, en la biosfera.
El resto del universo inerte es infinitamente menos complejo que los seres vivos.
Pero esta complejidad es una complejidad natural, fruto de una evolución espontánea de miles de millones de años, mediante los infinitos ensayo-error (o ensayo-acierto) que la naturaleza por sí misma ha desarrollado y que ha acabado produciendo el dispositivo más complejo que se conoce hasta la fecha: el cerebro humano.
Sin embargo la evolución natural, cuyos plazos son, a escala humana, extremadamente largos, ha hecho un salto cualitativo desde el momento que el ser humano aceleró la generación de esta complejidad jugando a ser Dios y creando, a su vez, una complejidad nueva nacida de su mente: la Complejidad Artificial, que sería una manera similar de denominar la Tecnología.
El desarrollo tecnológico ha creado artefactos cada vez más complejos, que nos han permitido desplazarnos por tierra, mar, aire y espacio a velocidades que jamás la naturaleza nos habría permitido alcanzar. También nos ha permitido estirar la vida y la salud hasta que la superpoblación empiece a ser un problema.
Son innegables los logros extraordinarios que hemos conseguido gracias a la tecnología.
Pero con el salto al siguiente peldaño tecnológico —la transformación digital básicamente— la complejidad artificial ha dado a su vez un salto hacia delante que podría habernos desbordado: empezamos a no poder controlar la complejidad de los productos que estamos fabricando. Empezamos a usar artefactos que no comprendemos cómo podrían llegar a reaccionar o a comportarse.
Una de mis tareas profesionales consiste en impartir clases sobre una disciplina muy de moda en las empresas “transformadas digitalmente”: el diseño UX/UI. Para los no familiarizados, estas siglas significan “Experiencia de Usuario” e “Interfaz de Usuario” respectivamente. Consiste básicamente en conectar a los usuarios de plataformas digitales (que puede ser una app, una página web, una lavadora o un coche) con la lógica del funcionamiento que hay detrás y que se refleja en algo REAL (comprar un billete de avión, lavar la ropa, volar un avión). Ésto es algo fundamental, ya que, aunque la acción rutinaria que vayamos a efectuar sea algo realmente simple que, en la era “analógica” conseguíamos interactuando con otro ser humano pertrechado de un papel y un lápiz; ahora se realiza a través de complejísimos circuitos que elaboran millones de tareas por segundo y que son, por tanto, inaprehensibles.
Esto ha dado lugar a una nueva generación de grandes logros, pero también al surgimiento de un malestar (¿cada vez mayor?) entre los usuarios, que no entienden por qué algo deja de funcionar o funciona mal. Algo que ya no es otro ser humano a quien poder pedirle explicaciones, sino una máquina compleja que se comunica, con suerte, con nosotros a través de una interfaz de usuario que puede, a su vez, ser también compleja. Ésto nos deja desamparados, desarmados y frustrados ante la percepción que hemos dejado de tener el control de lo que estamos operando.
Más o menos, lo que probablemente ocurrió con los pilotos de Lion Air y Ethiopian Airlines.
“Quizá lo más recomendable sea que no nos compliquemos la vida inultimente y renunciemos a generar cualquier complejidad artificial que supere este umbral natural”
En la era “analógica” (hace no tantos años), el piloto de un avión podía ponerse a los cuernos del aparato y tratar de domarlo, casi sintiendo cómo la fuerza de sus brazos era transmitida mecánica e intuitivamente a los alerones. También podíamos aspirar a reparar nuestros propios automóviles, cuyos mecanismos podían llegar a verse trabajando en tiempo real y en vivo. Es decir, eran potencialmente aprehensibles.
Pero esta época ha pasado. La digitalización y la inteligencia artificial nos han devuelto a un remake del mito de la caverna platónica, donde lo que experimentamos con los sentidos es una mera sombra reflejada de la realidad. Ahora hemos de conformarnos con tener una suerte de fe ciega en una serie de cajas negras inaccesibles en las que estamos confiando nuestras vidas.
Quizá todo ésto sea una locura tremendamente arriesgada. Quizá todavía estemos a tiempo de abandonarla y adoptar una nueva cultura que ponga en valor la simplicidad. Una simplicidad que no tenga por qué cercenar el progreso tecnológico, pero que consiga racionalizarlo e implementarlo únicamente en su justa medida.
Precisamente, una de las “leyes” que rigen la usabilidad, la ley de Tesler, estipula que existe un grado de complejidad irreductible para cada interfaz de usuario dada. Eso es, ni más menos, que aceptar la complejidad natural.
Quizá lo más recomendable sea que no nos compliquemos la vida inultimente y renunciemos a generar cualquier complejidad artificial que supere este umbral. Abandonemos el exceso de abstracción, algo inútil y que puede llegar a ser peligroso.
Tenemos, para ese fin, a la naturaleza como gran fuente de inspiración.
