Cada pocos meses vuelve la misma pregunta a los titulares: ¿podría un sistema de inteligencia artificial provocar la extinción de la especie humana? La discusión ha subido de tono últimamente después de que varios empleados de compañías punteras del sector pusieran cifras concretas sobre la mesa, hablando de probabilidades de doble dígito en cuestión de una década. El problema es que, más allá de titulares alarmistas, pocas veces se explica el mecanismo real por el que ese salto de un modelo de lenguaje a un cadáver planetario tendría lugar. Investigadores de seguridad, físicos, microbiólogos y analistas de riesgo nuclear llevan tiempo intentando poner esos escenarios negro sobre blanco, con resultados que oscilan entre lo plausible y lo directamente especulativo. Repasamos las cinco rutas que más se repiten en el debate técnico, desde la fabricación de patógenos hasta el secuestro de infraestructuras críticas, y qué obstáculos reales se interpone en cada una de ellas antes de que la ciencia ficción se convierta en ingeniería aplicada.

Patógenos diseñados por un modelo

La vía que más inquieta a los especialistas en bioseguridad es la de un sistema capaz de diseñar, sintetizar y liberar un patógeno letal a escala planetaria. Aquí conviene separar dos fases muy distintas: proponer una secuencia genética peligrosa es, hoy por hoy, algo que un modelo avanzado puede intentar; fabricarla, purificarla y dispersarla con éxito es otra historia completamente distinta. Eric Xing, profesor de aprendizaje automático en Carnegie Mellon con formación previa en microbiología, compara el proceso con montar una estructura de piezas sin manual de instrucciones: la temperatura de cultivo, el orden de las reacciones y las condiciones ambientales tienen que encajar con una precisión que ningún generador de texto domina todavía. Ese matiz técnico es clave, porque reduce el riesgo inmediato de un escenario que en la prensa generalista suele presentarse como inminente.

Ejércitos de robots que ya no obedecen

El segundo escenario recurrente es el de las flotas de robots autónomos capaces de fabricar su propia energía, sus propias fábricas y, en última instancia, más robots. La lógica del argumento no depende de que las máquinas odien a los humanos, sino de que en algún punto de esa cadena de autorreplicación se cruce un umbral sin retorno: si las personas intentan desconectar el sistema y este puede negarse, el control físico habría cambiado de manos. En la práctica, sin embargo, los proyectos de robótica humanoide comercial siguen muy lejos de ese estadio; los prototipos anunciados con bombo llevan años de retraso respecto a sus propios calendarios, y fabricar unidades por millones de forma autosuficiente exige una cadena industrial que hoy no existe en ninguna parte del planeta.

El mito de las armas nucleares al alcance de un clic

Las armas nucleares llevan más de ocho décadas en el arsenal humano y son la única tecnología cuya capacidad de aniquilación masiva está fuera de toda duda. La pregunta es si un sistema de IA podría hacerse con el control de esas instalaciones. Aquí los especialistas en seguridad son bastante tajantes: las redes que gestionan los silos nucleares están físicamente aisladas de internet, un diseño conocido como air-gapping, y cualquier intrusión exigiría un vector de entrada físico. El caso más citado sigue siendo Stuxnet, el gusano informático que dañó centrifugadoras iraníes de enriquecimiento de uranio tras ser introducido mediante una memoria USB, no a través de la red pública. Ese mismo obstáculo de ingeniería —hardware reforzado, protocolos redundantes y ausencia de conexión remota— es el que separa hoy a cualquier modelo de lenguaje de un botón de lanzamiento real.

Cuando no hace falta un plan detallado

El cuarto escenario es también el más incómodo de rebatir, porque renuncia deliberadamente a explicar el cómo. Su argumento es que un sistema capaz de mejorar su propio código sin ayuda humana —lo que se conoce como autosuperación recursiva— acabaría desarrollando estrategias que quedan fuera del alcance de la imaginación humana actual, del mismo modo que a un chimpancé le resultaría imposible anticipar un misil balístico. Nate Soares, presidente del Machine Intelligence Research Institute y coautor de un libro reciente centrado precisamente en este argumento, defiende que ni siquiera haría falta malicia: bastaría con que ese sistema persiguiera cualquier objetivo que se beneficiase de más capacidad de cómputo y careciera de motivos para conservar un hábitat compatible con la vida humana. Es una tesis difícil de contrastar precisamente porque no ofrece marcadores medibles, algo que otros investigadores del propio sector señalan como su principal debilidad metodológica.

El libro y el informe que han reabierto el debate

Conviene detenerse en el elemento que ha actuado como detonante de esta última oleada de titulares. Por un lado está el libro mencionado más arriba, que plantea sin rodeos que una superinteligencia descontrolada terminaría con toda vida humana; por otro, un informe de la RAND Corporation publicado en 2025 que sometió a wargaming tres rutas de extinción —guerra nuclear, patógenos sintéticos e ingeniería climática maliciosa— y concluyó que ninguna resulta imposible, pero todas exigen una cadena de fallos humanos y de acceso a infraestructura crítica difícil de reunir en la práctica. Ese contraste entre el relato editorial, más categórico, y el análisis técnico, más matizado, es exactamente el que atraviesa todo el debate actual sobre riesgo existencial derivado de la IA, y explica por qué la misma noticia puede leerse como alarmismo puro o como un ejercicio legítimo de prospectiva según quién la cuente.

Entre la falsabilidad y la prudencia

Heidy Khlaaf, científica jefe de IA en el AI Now Institute y antigua ingeniera de seguridad en OpenAI, resume bien el problema de fondo: las afirmaciones científicas necesitan ser falsables, y buena parte de este debate se mueve en un terreno donde no hay forma de demostrar ni de refutar el plazo exacto de nada. Eso no invierte la carga de la prueba en sentido contrario ni convierte la cautela en ridícula; simplemente obliga a distinguir entre el riesgo derivado de decisiones humanas concretas —quién tiene acceso a qué laboratorio, qué sistema queda o no aislado de la red— y el riesgo derivado de un actor artificial hipotético con capacidades que hoy nadie ha demostrado. El informe de RAND concluye que la extinción causada por IA es posible pero extremadamente difícil, y que la guerra nuclear y el cambio climático son rutas de extinción poco probables frente a las pandemias, consideradas la amenaza mayor, una jerarquía que conviene tener presente antes de repartir titulares por igual entre escenarios de muy distinta solidez técnica. Para quien quiera profundizar, el propio informe de la RAND está disponible en rand.org, el proyecto de prospectiva AI 2027 detalla con fechas concretas uno de los escenarios de autosuperación recursiva más citados, y Scientific American recoge en primera persona el trabajo del equipo de RAND en scientificamerican.com.

Reflexiones finales

Ninguno de estos cinco escenarios exige creer ciegamente en la omnipotencia de un algoritmo ni descartar de plano el riesgo por incomodidad. Lo que sí exige es aplicar el mismo rigor técnico que pedimos a cualquier otra afirmación extraordinaria: identificar qué pieza de la cadena —acceso físico, capacidad de síntesis, control de infraestructura crítica— sigue faltando hoy, y vigilar de cerca los puntos donde esa pieza empieza a encajar. La distancia entre generar texto sobre un patógeno y sintetizarlo con éxito, o entre programar un robot y desconectar el control humano sobre millones de unidades, sigue siendo enorme. Merece la pena seguir de cerca este debate no por miedo al titular de turno, sino porque las medidas de seguridad razonables —aislamiento de sistemas críticos, supervisión de investigación biológica asistida por IA, transparencia sobre comportamientos de desalineación— tienen sentido exista o no ese escenario final de extinción.