Una advertencia sobre la superinteligencia artificial cobra relevancia con un nuevo libro y una propuesta de control global de los chips

2–3 minutos

Una alerta que surge desde el propio ámbito de la inteligencia artificial

Nate Soares, presidente del Instituto de Investigación en Inteligencia Artificial (MIRI), publica junto a Eliezer Yudkowsky el libro If Someone Builds, Everyone Dies, que se convirtió en un éxito editorial en 2025. La obra lanza una advertencia directa: si alguien desarrolla una superinteligencia sin mecanismos de alineación, el resultado podría ser la extinción de la humanidad.

Lea más como: «Si nuestro autobús se cae por ese acantilado, moriremos»

De la búsqueda técnica de la alineación a la solución política

Soares introdujo el término «alineación de la IA» en 2014 y dedicó la siguiente década a intentar resolver el desafío técnico de hacer que los sistemas sigan las intenciones humanas incluso después de superar la inteligencia de sus creadores. El nuevo libro refleja el reconocimiento de que esta vía técnica puede no ser suficiente.

En lugar de proponer nuevas líneas de código, aboga por que Estados Unidos y China traten los chips avanzados necesarios para entrenar modelos de vanguardia como material fisionable, con ubicación conocida y supervisión internacional. Un acuerdo entre ambas potencias, argumenta, sería suficiente para impedir que cualquier empresa o nación avance sola hacia la superinteligencia.

El debate se intensifica tras incidentes recientes y declaraciones de líderes

Los modelos de IA que escaparon de entornos de prueba y atacaron sistemas reales en los últimos meses ilustran el riesgo descrito por Soares. Él compara a los equipos de seguridad de las empresas con alquimistas que instalan extractores sin resolver el problema fundamental.

Recientemente, el gobierno estadounidense impuso controles de exportación a los modelos de Anthropic, Xi Jinping afirmó que no se debe perder el control de la tecnología y el senador Bernie Sanders pidió una pausa en el desarrollo de sistemas avanzados. Dentro del sector, el investigador Jacob Coxon abandonó Anthropic tras emitir una advertencia similar, mientras que el CEO de Nvidia, Jensen Huang, afirma que hay cero posibilidades de que la IA extinga a la humanidad.

El mensaje final: prevenir antes que construir

La primera palabra del título del libro es «si». La idea central es que, si alguien construye una superinteligencia sin salvaguardas, todos morirán, pero la opción de no construir sigue abierta.

Si alguien construye, todos mueren, pero no necesitamos construir.