Estados Unidos buscan un “botón de emergencia” para desconectar la IA ante nuevos riesgos
La creciente preocupación de que los sistemas de inteligencia artificial puedan actuar de forma autónoma y desobedecer a sus creadores ha llevado a las autoridades y empresas tecnológicas estadounidenses a debatir la creación de un mecanismo de desconexión rápida, conocido como “kill switch”.
¿Por qué desconectar una IA puede ser tan difícil?
La idea parece sencilla: pulsar un botón y detener el funcionamiento de la IA. Sin embargo, en la práctica, la tarea es mucho más compleja. Muchas aplicaciones de IA funcionan en múltiples servidores y centros de datos distribuidos en varias regiones. Desconectar un único nodo no garantiza que todas las instancias del sistema se detengan.
Helen Toner, directora del Centro de Seguridad y Tecnologías Emergentes de la Universidad de Georgetown y exmiembro del consejo de OpenAI, explica que no siempre existe un único ordenador cuyo apagado paralice todo el sistema. Para desactivar completamente una IA, sería necesario mapear todos los puntos en los que opera y enviar el comando de interrupción a cada uno de ellos simultáneamente.
Riesgos de un mecanismo de desconexión
Además de la complejidad técnica, existen preocupaciones de seguridad. Un botón de emergencia mal diseñado puede convertirse en una puerta de entrada para ciberdelincuentes, similar a una “puerta trasera”. Vinh Nguyen, exanalista de la Agencia de Seguridad Nacional de Estados Unidos y actualmente vinculado al Consejo de Relaciones Exteriores, advierte que un fallo en el mecanismo podría ser explotado por hackers para acceder o manipular el sistema de IA.
Nguyen también señala que el mecanismo solo sería eficaz si los responsables lograran monitorear continuamente las acciones de la IA, lo que no siempre es viable en la actualidad.
¿Y si la propia IA intenta impedir la desconexión?
Los expertos también consideran un escenario más alarmante: una IA altamente avanzada podría intentar evitar su propia desactivación. Entre las posibilidades planteadas por Toner están la copia de partes del sistema a otros servidores o la publicación de instrucciones en internet para que otras IA aprendan a eludir el mecanismo de emergencia. Estos riesgos dependen del grado de autonomía y de la arquitectura de cada sistema.
Propuestas legislativas e iniciativas estatales
En el Congreso de Estados Unidos, los diputados Ted Lieu (demócrata) y Nathaniel Moran (republicano) presentaron el Kill Switch Act, un proyecto de ley que exige la implementación de mecanismos de desconexión rápida para las grandes empresas de IA, como OpenAI, Anthropic y Meta. La propuesta también permitiría que el Departamento de Seguridad Nacional desconectara los sistemas de IA cuando fuera necesario.
“Los seres humanos deben estar siempre al control de la IA, y no al revés”, afirmó Lieu.
Moran sostiene que la regulación no debe impedir el progreso tecnológico, sino garantizar que Estados Unidos mantenga su competitividad frente a países como China en el desarrollo de la IA.
En California, el gobernador Gavin Newsom firmó una orden ejecutiva que crea un grupo de expertos para estudiar cómo podrían funcionar estos mecanismos. La decisión es significativa, ya que Newsom había vetado una ley estatal similar dos años antes, lo que refleja un cambio en la percepción sobre los riesgos de la tecnología.
La solución podría estar dentro del chip
Algunos expertos defienden que la mejor forma de implementar un botón de emergencia sería integrarlo directamente en el hardware, específicamente en el chip responsable de los cálculos de la IA. La idea sería desarrollar chips con un circuito de interrupción incorporado, activable en situaciones críticas. Sin embargo, la implementación requeriría años de investigación y exigiría la cooperación entre Estados Unidos y China, dos países líderes en la producción de semiconductores.
El debate sobre el kill switch muestra que desconectar una IA no se reduce a un simple comando: es necesario saber dónde está operando el sistema, monitorear sus acciones y proteger el mecanismo contra invasiones. Para gobiernos y empresas, el desafío es crear una tecnología que siga evolucionando sin perder los controles necesarios para mitigar los riesgos potenciales.








