En la cara B del mundo están los cables, los hilos de la tramoya, los pilares de la tierra, los intereses reales que mueven los engranajes y el lado oscuro de la luna.
Ángel Gómez de Ágreda es coronel del Ejército del Aire y del Espacio en la reserva, piloto militar y paracaidista. Y se ha entrenado para abrir los ojos, afinar los oídos, y meterse en el vietnam de la guerra cognitiva, la geopolítica, la ciberdefensa y los entresijos de la inteligencia artificial.
— ¿Le da miedo lo que se ve en ese trastero?
— Más que miedo, me da pena.
* * * * *
Plaza de Callao. Madrid. Paradójicamente, hemos quedado para hablar por la calle de lo que bulle detrás del telón. Paseamos por la Gran Vía, que está llena de personas que van y vienen en una coreografía sin guion. O eso es lo que piensan. El escenario es acera, asfalto y franquicias. Aunque sea la capital del país, ya todos los centros de las ciudades son iguales.
Vamos de paisano por la capa visible ordinaria, intentando observar el presente en plano cenital. “¿Y si todo lo que creemos saber fuera una ilusión?”. Gómez de Ágreda se pasa el día con la brújula examinando las raíces y los frutos, con la ilusión de que afloren nuestras alas.
Acaba de escribir Un mundo falaz (Ariel): un ensayo que habla de tecnología, de manipulación, de desinformación, de batallas y de mapas del mundo, pero que es, sobre todo, un manual de antropología para desactivar todas las bombas antilibertad que nos estallan cerca, muy cerca, en cada paso de progreso del siglo XXI.
En medio de más de 50 conflictos armados, misiles, drones, Trump, Putin, Israel, Rusia, Ucrania, Gaza, Hamás, Hizbulá, Irán, Venezuela, Cuba, Líbano, Sudán, Burkina Faso, Congo, Yemen, Afganistán, Pakistán y un mapamundi en llamas, conversamos con un estratega de la guerra de los algoritmos.
— El título Un mundo falaz presenta un juego de palabras con un guiño a Un mundo feliz, de Aldous Huxley. ¿Nuestra “felicidad” de hoy tiene más en común con la distopía de Huxley que con el modelo orwelliano de vigilancia brutal?
— Es una mezcla, pero sí. Hay elementos claramente orwellianos, como el impulso a odiar al adversario, el uso del miedo a lo distinto y una vigilancia constante. Pero también hay mucho de Huxley: la comodidad, el condicionamiento psicológico, las crecientes diferencias sociales, la banalización de lo importante y ese adormecimiento inducido a través de las adicciones.
El modelo todavía se está perfeccionando. En 1984, de George Orwell, hay varias potencias enfrentadas, aunque cada una vive en su propia burbuja. En Un mundo feliz, en cambio, todo está más cerrado: la mayoría vive conforme y los que quedan fuera son los “salvajes”.
“La manipulación más eficaz es la que no se percibe, porque viene envuelta en comodidad”
— ¿Estamos más manipulados o más cómodos?
— Ambas cosas. Y ahí está la trampa. La manipulación más eficaz es la que no se percibe como tal, porque viene envuelta en comodidad.
— Habla sobre cómo la tecnología moldea nuestra percepción casi sin que nos demos cuenta. ¿Cuál es el ejemplo más sutil y cotidiano de esa manipulación, no sólo en política, sino también en las relaciones familiares, la cultura o incluso en cómo vemos nuestra identidad?
El hecho de que casi no nos demos cuenta hace que no sea evidente. Cada día acomodamos nuestras reacciones a lo convencional. Incluso en la discrepancia. Vivimos en burbujas narrativas de las que es casi imposible escapar. En el libro hablo de un contacto con un poblado en Senegal, que era como la aldea de Tarzán de las películas en blanco y negro de los años 30. Conversar con la gente de allí descubre una realidad muy distinta de la que vemos en Europa. Viven de una forma diferente, que pone de manifiesto lo condicionados que estamos por lo que nos llega a través de la tecnología, sobre todo la digital.
— ¿La inteligencia artificial nos ayuda a pensar o anima a dejar de hacerlo?
— Nos está dando las dos opciones. El problema es que cada vez elegimos más la segunda. Delegamos decisiones pequeñas, luego grandes, hasta perder el hábito de decidir.
— El subtítulo del libro destaca el “nuevo orden global en la era de los algoritmos y la manipulación”. Dejando a un lado la obsolescencia de la ONU y la OTAN, ¿qué instituciones o valores del siglo XXI van a sobrevivir y cuáles serán tan diferentes que serán casi irreconocibles?
— Las instituciones tienen una enorme resiliencia frente a la desaparición. Es mucho más fácil crearlas que destruirlas. Otra cosa es que mantengan su función o su poder. Algunas de las instituciones que seguimos manteniendo ya son irreconocibles, están obsoletas y sólo sirven a los intereses de los que viven de ellas o como herramientas en manos de unos pocos para legitimar decisiones que se toman fuera.
Los valores del siglo XXI son tan transitorios como los de cualquier otra época. Tampoco desaparecen, sino que se ponderan de forma distinta ahora. Volverán en su momento con fuerza. Es muy probable que se mantengan vivos en algunos países, pero la tendencia actual es a colocar los intereses por delante de los valores.
Japón es una sociedad fascinante, que tiene una gran tolerancia a la renuncia a los intereses en favor de los valores, pero eso tiene también sus límites. Sociedades acomodadas como la japonesa o la europea pueden permitirse el lujo de atender a sus valores, porque el hambre no aprieta. La guerra o la pérdida de privilegios frente a otros más poderosos termina por matizar ese equilibrio. En tiempos de paz todos estamos comprometidos con los derechos; en momentos de guerra, sobrevivir es la primera obligación.
— Este nuevo orden global parece poner el poder por encima de las instituciones. ¿Qué valores universales –dignidad, verdad, libertad…– cree que hay que defender más para evitar que todo se vuelva algo irreversiblemente inhumano?
— Las preguntas binarias de sí o no, de blanco o negro, de papá o mamá, siempre tienen trampa. Y el lenguaje también. ¿Es la dignidad la diferenciación cualitativa de los seres humanos o una excusa para discriminar a lo que no lo es o a lo que se deshumaniza?
El debate sobre qué es la verdad abre el libro, y es muy complejo. ¿Cómo podemos ser libres si no podemos alcanzar la verdad? En estos momentos, creo que lo que se requiere es la preservación de la autonomía humana para operar, para actuar. La agencia humana, en el sentido de la capacidad de actuar con libertad de criterio, es fundamental. Pero, claro, eso implica una libertad que requiere de verdad. El camino que lleva a ese tipo de actuación es estrecho y empinado, y requiere esfuerzo por nuestra parte. Si algo resulta fácil es porque vamos cuesta abajo, perdiendo energía potencial que necesitaremos recuperar dando a los pedales en otro momento. Para ver el mundo tenemos que subir a la cumbre.
“Para ser libre sólo hace falta mantener siempre la voluntad de aprender y compartir. Lo demás es caída libre”
— ¿Por qué da tanto miedo la libertad?
— Porque obliga a decidir, y decidir implica la posibilidad de equivocarse. Cada vez buscamos más sistemas que nos eviten ese riesgo, aunque el precio sea perder autonomía.
— ¿Ha cambiado su propia percepción del mundo después de investigar a fondo cómo los algoritmos moldean emociones y voluntades?
— Desde luego. No es lo mismo intuir que las cosas son de una determinada manera que llegar a probar y comprobar que son así. Una conclusión a la que he llegado es que la verdad no puede alcanzarse en soledad. Hay que hablar con mucha gente y, sobre todo, escuchar. La verdad es dialéctica y siempre distinta a la percepción unilateral. Igual que para ser paracaidista no hace falta ser valiente, sino tener un segundo de decisión, para ser libre sólo hace falta mantener siempre la voluntad de aprender y compartir. Lo demás es caída libre.
— En un mundo donde los algoritmos fabrican realidades coherentes, pero falsas, ¿hay espacio para la verdad objetiva, o estamos condenados a elegir entre distintas “realidades” subjetivas hechas a medida?
— Naturalmente que existe la verdad objetiva, pero no está a nuestro alcance. El mundo es demasiado complejo para aprehenderla. Lo explico en el libro con una imagen sobre un lienzo y cómo nuestras vidas no pasan de ser un trazo más. Pero tampoco debemos limitarnos a elegir entre realidades subjetivas. Tenemos que llegar al sentido común, es decir, a verdades consensuadas por el diálogo y por el estudio a través del esfuerzo personal. Somos seres imperfectos y también lo son nuestras verdades, pero eso nos permite evolucionar. Lo que no evoluciona es porque está muerto. Vivir es una búsqueda constante de lo siguiente desde la humildad de saber que no va a ser lo definitivo. Esa parte les falla a muchos.
— ¿Qué ocurre cuando dejamos de buscar esa verdad?
— Que alguien la construye por nosotros. El verdadero riesgo no es la ausencia de verdad, sino la renuncia a buscarla.
— Si “nuestros datos somos nosotros”, ¿es posible conservar la dignidad humana y la libertad individual sin renunciar a los beneficios de eficiencia que dan los algoritmos en salud, economía o educación?
— Renunciar a la dignidad humana es mecanizarnos. Si buscamos eficiencia, perfección y otras características de las actuaciones maquinales, seremos máquinas. Los límites de los beneficios que aportan los algoritmos tienen que venir marcados por su respeto a nuestras limitaciones.
— El libro nos invita a pensar en cómo la geopolítica y la tecnología cambian nuestra realidad. ¿Cómo afecta este “mundo falaz” a regiones como África o América Latina, que generalmente quedan fuera del foco mediático occidental?
— Curiosamente, incluso más que a Europa, por ejemplo. En muchas de estas regiones, o en zonas de Asia, las redes sociales son la realidad. Lo hemos visto en el caso de Nepal, hace menos de un año, y en los de Myanmar o Sri Lanka, hace algo más. Se han producido masacres y golpes de Estado orquestados en Facebook. Allí se crean realidades paralelas y, además, esos países carecen de algunas de las salvaguardias que tenemos en Occidente.
— ¿La educación y la formación ciudadana pueden ser la mejor vacuna contra la manipulación algorítmica, o ya llegamos tarde?
— Junto con la familia, la educación y la formación ciudadana son las únicas fórmulas que se me ocurren para rehumanizarnos. En cualquier caso, no nos engañemos, la pereza cognitiva no es nueva. Siempre ha habido una mayoría que sigue el camino del mínimo esfuerzo, que renuncia a pensar y se deja llevar. La tentación ahora es mucho mayor y viene inducida. No sólo tendemos a ella, sino que nos atrae.
— ¿Qué responsabilidad tienen los medios en este contexto?
— Una responsabilidad enorme. Los medios deberían ayudar a pensar, pero muchas veces refuerzan lo que el lector ya cree. Eso empobrece el debate público.
— ¿Se ven paralelismos entre la manipulación actual y fenómenos históricos de control de masas, o estamos frente a algo nuevo por la escala y personalización de la IA?
— Claramente hay paralelismos, pero también diferencias cualitativas. Ya no vivimos en un mundo físico en el que cada cual cuenta con sus experiencias, sino en uno digital en el que no sirven las experiencias personalizadas. Ya no tenemos ambientes distintos; vivimos entre franquicias económicas, sociales y culturales que uniformizan o, quizás, que son el resultado de que hemos sido uniformizados para que nos guste el producto que nos venden. No hay dónde esconderse y sólo queda mantenerse alerta e informado de lo que importa. Hay verdades que nos importan y verdades que importan… No suelen ser las mismas.
— ¿Queda espacio para el optimismo, entendido como la capacidad de elegir y resistir, o corremos el riesgo real de convertirnos en esclavos voluntarios que celebran el mundo que los algoritmos nos fabrican?
— El optimismo hay que construirlo. Como dice, podríamos convertirnos en esclavos voluntarios. Y, en el fondo, todo depende de en qué empleemos esa voluntad: en no serlo o en dejarnos llevar. Es mucho más fácil aplaudir los mundos que nos fabrican que asumir el esfuerzo de construir el nuestro propio, un mundo en el que además tenemos que consensuar el guion con los demás.
— ¿Somos mejores manipulando la realidad que construyendo el bien común? ¿Qué pequeño cambio individual o colectivo cree que podría inclinar la balanza hacia lo auténticamente humano?
— Desde siempre hemos sido muy buenos contando historias. El lenguaje es lo que nos define, y lo usamos para describir y para nombrar. Y al nombrar, en cierto modo, dominamos definiendo los límites y las características de las cosas, como nos recuerda Bob Dylan en El hombre dio nombre a los animales.
Lo real puede no encajar del todo en esa definición, pero en la práctica acabamos tratándolo como si fuera exactamente eso que hemos nombrado. Por eso, cuando describimos desde el sesgo o con intención de engañar, no cambiamos la realidad, pero sí la distorsionamos. Cambiamos su “sombra”, como en el mito de la caverna de Platón.
Muchas veces vivimos en esas sombras, y rara vez nos detenemos en la esencia. Por eso, alterar el concepto equivale, en la práctica, a manipular la realidad. Frente a esto conviene no engañarse, porque no hay pequeños cambios que resuelvan el problema. No hay soluciones simples para problemas complejos.
— Más allá de la ciberdefensa estatal, ¿cómo debe un ciudadano medio proteger su “yo digital” –datos, emociones, decisiones– sin acabar aislado o paranoico con la tecnología?
— En primer lugar, protegiendo su identidad y sus datos. Cuanto menos transparentes seamos frente a las grandes empresas, menos podrán aprovecharse de nosotros y menos podrán manipular nuestras emociones.
Me parece fundamental el contacto cara a cara con otros individuos. Construir espacios de libertad compartidos. El “yo digital” se protege fortaleciendo el “yo analógico”, igual que los huesos de la columna se protegen fortaleciendo los músculos de la espalda.
“No quiero un mundo feliz permanentemente, porque la felicidad no es una meta. Quiero un mundo que busque la felicidad”
— ¿Qué escenario futuro de ciberseguridad le inquieta más: un ataque masivo visible o una erosión lenta e invisible de la confianza y la cohesión social?
— El problema es que no son incompatibles… Tenemos que estar preparados para los dos. La erosión lenta lleva tiempo ocurriendo. Los ataques masivos también, aunque hasta el momento han sido manejables. Cuanto mayor sea nuestra dependencia de las infraestructuras digitales y de las redes sociales, mayor será nuestra vulnerabilidad frente a los ciberataques.
— Mirando hacia 2040: ¿qué mundo prefiere imaginar: uno “falaz” y eficiente, o uno imperfecto, pero realmente humano?
— Otra vez volvemos a Un mundo feliz, de Huxley. ¿Qué preferimos? ¿Vivir en la sociedad ordenada de alfas, betas, gammas…, o en el mundo de los salvajes? En ninguno de los dos. Yo quiero un mundo en el que la eficiencia esté limitada por la libertad, por la posibilidad de equivocarse, de mejorar. No quiero un mundo feliz permanentemente, porque la felicidad no es una meta. Quiero un mundo que busque la felicidad. A trompicones, con errores, con pasos en falso… Un mundo en el que la tecnología se emplee para darnos más opciones sobre las que elegir, no más decisiones tomadas.
— Después de su paso por Corea del Sur y Japón, ¿qué ha aprendido sobre la hegemonía digital en Oriente que pueda servir a España para no quedarse atrapada entre los dos grandes bloques algorítmicos?
— Creo que la lección es que hay un camino propio. Seguir la autopista que trazan los demás te lleva muy deprisa al destino al que va la autopista. Para ir al destino que tú eliges tienes que trazar tu propio camino. Eso no significa que no aproveches tramos de autopista que vayan en tu misma dirección aproximada, pero tampoco que renuncies a tu destino porque esa autopista no lleve a él.
También que los usos beneficiosos, los usos buenos de la inteligencia artificial y de la tecnología tienen que serlo para todos. Y que tienen que surgir del consenso; si vienen desde arriba, desde los Estados o las corporaciones, serán beneficiosos para sus intereses, pero no necesariamente para los de los ciudadanos.
— ¿Qué papel específico cree que debería jugar España –por su posición geoestratégica, industria y talento– para contribuir a un orden global que proteja la dignidad humana frente a la eficiencia pura de los algoritmos?
— Hay personas, culturas y civilizaciones. España y el español como idioma somos una civilización, guste más o menos, se venda mejor o peor. El potencial está ahí, pero aprovecharlo pasa por ganar peso geopolítico, tecnológico e industrial. Tenemos un enorme talento que exportamos en bruto –personas– o en neto –empresas o patentes– y que podríamos y deberíamos explotar nosotros. Es una cuestión de liderazgo. Con ese peso y ese liderazgo estaríamos en condiciones de retomar circunstancias históricas en las que fuimos pioneros en los derechos humanos mucho antes de que tuvieran ese nombre. El tamaño sigue importando, pero el multiplicador de la tecnología –y el de la voluntad– pueden compensarlo.
Álvaro Sánchez León
@asanleo
