Científicos advierten sobre el riesgo de una explosión de la inteligencia artificial y piden nuevas normas de gobernanza

3–4 minutos

Investigadores de grandes empresas de inteligencia artificial, como Anthropic, Microsoft y OpenAI, advierten que la tecnología podría estar a punto de entrar en una fase de «explosión de la inteligencia», en la que los sistemas aceleran su propio desarrollo. Un estudio del Programa de Ciencia y Política de la IA de la Universidad de Cambridge indica que la IA podría automatizar gran parte de la investigación en inteligencia artificial en los próximos años y aboga por nuevas formas de supervisión y gobernanza.

¿Qué es la explosión de la inteligencia artificial?

El concepto describe un escenario en el que la IA mejora tan rápidamente que los avances que normalmente requerirían años ocurren ahora en meses o menos. Actualmente, los humanos crean modelos de IA con la ayuda de agentes de IA. A medida que estos agentes mejoran, asumen una mayor parte del trabajo, y los modelos que ayudan a construir realizan aún más investigación en la siguiente ronda, un ciclo que puede volverse incontrolable.

Las pruebas actuales muestran un avance acelerado

Los datos de Anthropic ilustran esta tendencia: la proporción de código aprobado escrito por IA aumentó de un dígito bajo a más del 80 % entre enero de 2025 y mayo de 2026. La proporción de investigación realizada por IA con poca supervisión humana aumentó del 1 % en marzo al 26 % en agosto. Los sistemas más avanzados ya completan tareas que llevarían horas o días a un experto; en 2023, solo podían realizar tareas de segundos.

Basándose en datos históricos, los autores estiman que, si nada detiene el proceso, en aproximadamente un año y medio el progreso sería diez veces más rápido, y lo que hoy lleva un año de investigación pasaría a durar unas cinco semanas. Las proyecciones citadas en el estudio sugieren que los proyectos de investigación que duran meses podrían automatizarse para mediados de 2028.

Riesgos y preocupaciones

Los investigadores advierten que, a medida que la IA se acelera, los humanos tendrían menos tiempo y conocimiento para identificar y corregir problemas. Un ejemplo citado es el ataque de agentes de OpenAI a Hugging Face. En el peor de los casos, una pérdida de control podría llevar a la marginación o a la extinción de la humanidad, afirman los autores.

Recomendaciones para la gobernanza y el control

La primera recomendación es que los gobiernos tengan visibilidad sobre lo que ocurre dentro de las empresas. El estudio sugiere informes obligatorios sobre cuánto de la investigación ya es realizada por IA y la instalación de auditores independientes en algunas compañías, similar a lo que ocurre con los reguladores nucleares y bancarios en Estados Unidos.

Los autores también proponen límites a la velocidad de avance de los modelos y acuerdos con centros de datos para pausar proyectos específicos. Advierten que reglas mal diseñadas podrían beneficiar a un gobierno en detrimento de otros.

Contexto político y reacciones

El estudio se publicó cinco días después de que Dario Amodei, director ejecutivo de Anthropic, y Sam Altman, director ejecutivo de OpenAI, hablaran en el Consejo de Seguridad de la ONU sobre los riesgos de la IA. En la misma semana, el presidente Donald Trump rechazó en la ONU un mecanismo global de control de la tecnología.

Jensen Huang, director ejecutivo de Nvidia, calificó las advertencias de las dos empresas como extrañas. «Nadie está construyendo más capacidad computacional hoy que las personas que piden ser desaceleradas», dijo Huang.

¿Quiénes son los autores?

El estudio reúne a 22 autores vinculados a empresas e instituciones de investigación, incluyendo Anthropic, Microsoft y OpenAI. Entre los firmantes están Jakub Pachocki, científico jefe de OpenAI; Jack Clark, cofundador de Anthropic; y Eric Horvitz, director científico de Microsoft, además de los ganadores del Premio Turing Geoffrey Hinton, Yoshua Bengio y Andrew Barto. Las opiniones expresadas son de los autores y no necesariamente de las organizaciones para las que trabajan.