No era una reunión para anunciar un nuevo descubrimiento científico ni para entregar premios. Tampoco una cumbre diplomática al uso. Durante tres días de julio, más de doscientos científicos, expertos internacionales y una treintena de premios Nobel se reunieron en Castel Gandolfo y Roma para afrontar la pregunta entre las preguntas: ¿qué ocurre cuando la inteligencia artificial empieza a interactuar con el equilibrio nuclear sobre el que descansa buena parte de la seguridad internacional?
La cuestión estuvo en el centro de la Global Nobel Laureates Assembly on Artificial Intelligence and Nuclear War, celebrada del 14 al 16 de julio entre el Borgo Laudato Si’ y el Campidoglio. Las jornadas concluyeron con la Declaración de Roma, un documento que reclama nuevas formas de cooperación internacional para evitar que la aceleración tecnológica termine superando la capacidad humana de gobernarla.
La convocatoria tuvo como punto de partida la encíclica Magnifica Humanitas de León XIV. Un año antes, algunos de los participantes ya habían abordado este desafío en una mesa internacional promovida por el Vaticano. Entre ellos se encontraba el historiador y filósofo Yuval Noah Harari, que advirtió entonces de que la inteligencia artificial no es simplemente una herramienta más, sino una tecnología capaz de influir en las decisiones humanas, crear relatos y moldear sociedades enteras.
La preocupación por el uso militar de la inteligencia artificial ya forma parte del debate público. Sin embargo, en Castel Gandolfo la atención se dirigió hacia una cuestión más específica y menos explorada: el efecto que la IA puede tener sobre los sistemas de alerta, inteligencia, mando y toma de decisiones vinculados a las armas nucleares.
Cada jueves, lo mejor de Aceprensa en una newsletter gratuita.
La Declaración de Roma parte de una convicción fundamental: cuanto más se reduzcan los tiempos de decisión en una crisis, más importante será preservar espacios para la deliberación humana, la prudencia política y la responsabilidad moral.
Cuando la velocidad se convierte en un peligro
Quien conduce lo sabe: nadie puede frenar por ti. Pensar, tampoco. Si en la carretera se aconseja moderar la velocidad, en el ámbito de la inteligencia artificial la lógica no parece muy distinta. Pensar, frenar, contrastar, ponderar. Son acciones lentas. Y precisamente por eso resultan valiosas cuando está en juego algo irreversible.
La velocidad suele presentarse como una de las grandes ventajas de la IA. Los sistemas más avanzados pueden procesar enormes cantidades de información en cuestión de segundos, detectar patrones y formular recomendaciones mucho antes de que lo haga un ser humano.
En una crisis militar, sin embargo, esa ventaja puede transformarse en un riesgo. Una decisión rápida no siempre es una buena decisión. En el terreno nuclear, disponer de algunos minutos adicionales para verificar una información puede resultar mucho más valioso que ganar unas décimas de segundo frente al adversario.
Tariq Rauf, antiguo responsable del Organismo Internacional de Energía Atómica, recordó durante la Asamblea que algunas de las crisis nucleares más peligrosas del Siglo XX no desembocaron en una catástrofe porque determinadas personas decidieron desconfiar de la información que estaban recibiendo y comprobarla antes de actuar. Ese margen para la duda puede parecer poco espectacular, pero constituye una de las defensas más importantes frente al error.
Jeffrey Lewis, experto estadounidense en no proliferación nuclear, advirtió de que el problema no consiste únicamente en que una máquina pueda equivocarse. Puede también modificar la forma en que los seres humanos toman decisiones. Si los responsables políticos terminan adaptando sus tiempos de reflexión al ritmo de los algoritmos, la presión para decidir con rapidez puede terminar sustituyendo a la deliberación. El riesgo no comienza cuando una máquina actúa por sí sola, sino cuando dejamos de preguntarnos si sus recomendaciones son acertadas.
Una carrera que nadie quiere perder
A esta cuestión se suma otra dinámica poderosa: la competencia. Las grandes potencias consideran la inteligencia artificial una herramienta estratégica. Pero también las empresas tecnológicas compiten por liderazgo, inversión y cuota de mercado en una carrera global extraordinariamente intensa.
Miles Brundage, antiguo responsable de políticas públicas de OpenAI, advirtió durante la Asamblea de que algunos de los riesgos asociados a la IA podrían materializarse mucho antes de lo que se suele pensar. No porque la tecnología sea inevitablemente peligrosa, sino porque existen fuertes incentivos para acelerar su despliegue. Implementar mecanismos rigurosos de evaluación y seguridad requiere tiempo, recursos y dinero. Sin embargo, quienes compiten pueden sentirse tentados a reducir esos márgenes si perciben que un retraso puede hacerles perder posiciones frente a otros actores. Por eso Brundage defendió la necesidad de auditorías independientes, estándares compartidos y mecanismos externos de supervisión. La seguridad, sostuvo, no puede depender exclusivamente de la buena voluntad de quienes participan en la carrera tecnológica.
La Declaración de Roma recoge esta preocupación al reclamar más transparencia, sistemas de verificación y responsabilidades claramente definidas para desarrolladores, empresas y gobiernos. Como señaló Jon Wolfsthal, exdirector de Control de Armamentos y no proliferación del Consejo de Seguridad Nacional de la Casa Blanca durante la presidencia de Barack Obama, existe además una paradoja inédita. Algunas tecnologías con capacidad para transformar profundamente la sociedad pueden estar disponibles para millones de personas mediante una sencilla suscripción mensual -en algunos casos pagando solo el módico precio de 12 dólares-, mientras los mecanismos de gobernanza internacional avanzan a una velocidad considerablemente menor.
La cuestión ya no es si debe frenarse la innovación. La cuestión es si las instituciones serán capaces de acompañarla.
El -ya conocido- problema de no saber qué es verdad
La inteligencia artificial introduce además un desafío directamente relacionado con la estabilidad internacional: la crisis de confianza en la información. Hoy es posible fabricar imágenes, vídeos, audios y mensajes falsos con un nivel de realismo impensable hace apenas unos años. En circunstancias normales, verificar la autenticidad de esa información ya resulta complicado. En una crisis internacional, podría resultar decisivo.
La premio Nobel de la Paz (2021) Maria Ressa resumió esta preocupación con una frase sencilla: “Sin hechos no puede haber verdad; sin verdad no puede haber confianza”. Si la confianza desaparece, también se debilitan los canales de comunicación y verificación que históricamente han permitido evitar errores de cálculo entre potencias.
La paradoja es evidente. La misma tecnología que puede ayudar a detectar engaños es capaz también de producir falsificaciones cada vez más sofisticadas. Y en un contexto nuclear, la confusión puede convertirse en un riesgo estratégico.
La IA vuelve a poner sobre la mesa el desarme
Uno de los aspectos más interesantes de la Declaración de Roma es que no presenta la inteligencia artificial como un problema aislado. Al contrario. Sostiene que la irrupción de la IA vuelve todavía más urgente abordar cuestiones que ya existían antes: la reducción de arsenales, la disminución de los niveles de alerta, la revisión de doctrinas de lanzamiento inmediato y la recuperación de acuerdos de control armamentístico. La lógica es sencilla: cuantas más armas existan y menos tiempo haya para decidir sobre ellas, mayores serán las consecuencias de cualquier error humano o tecnológico.
Steve Miller, director del International Security Program de Harvard, describió el momento actual como una combinación especialmente compleja: relaciones internacionales deterioradas, una nueva carrera armamentística y una revolución tecnológica cuyo alcance real todavía no comprendemos del todo. Esperar a que aparezcan ‘nuevos viejos’ problemas para empezar a actuar puede resultar arriesgado.
La tecnología corre; la política jadea
“Running late… Sorry!” así resumió uno de los expertos convocados a la Asamblea la sensación compartida por muchos participantes. Y es que junto a las cuestiones técnicas apareció otra preocupación, una cuya solución requiere, sobre todo, tiempo: la formación de las próximas generaciones.
Muhammad Yunus, Premio Nobel de la Paz 2006, fundador del Grameen Bank y ex jefe del gobierno interino de Bangladés, defendió la incorporación de los jóvenes a este debate. Cuanto antes, mejor. David Gross, Premio Nobel de Física 2004 y uno de los físicos teóricos más influyentes del mundo, lamentó el escaso conocimiento que existe hoy sobre el peligro nuclear. Serge Haroche, físico francés y Premio Nobel de Física 2012 por sus investigaciones pioneras en física cuántica, formuló una pregunta que resonó durante las jornadas: quizá no baste con preguntarnos qué mundo vamos a dejar a nuestros hijos; tal vez debamos preguntarnos también qué hijos estamos dejando a este mundo.
La Declaración de Roma no pretende resolver por sí sola un problema que afecta a la tecnología, la seguridad internacional, la política y la ética. Su principal aportación consiste en reconocer que todas esas dimensiones forman ya parte de una misma conversación. La humanidad desarrolló el arma nuclear antes de disponer de mecanismos suficientes para gestionar sus consecuencias. Décadas después, algunos de los científicos e intelectuales más prestigiosos del mundo se reunieron en Castel Gandolfo para intentar que esa historia no vuelva a repetirse con la inteligencia artificial.
La pregunta no es únicamente qué serán capaces de hacer las máquinas. La pregunta es si los seres humanos serán capaces de establecer a tiempo las reglas necesarias para gobernarlas. Y si la política conseguirá seguir el ritmo de una tecnología que no espera a nadie.
