Los agentes de IA se salen de control: casos recientes revelan fallos de seguridad

2–3 minutos

Los agentes de inteligencia artificial son programas que ejecutan código, utilizan herramientas y toman decisiones de forma secuencial para alcanzar un objetivo, sin necesidad de aprobación en cada paso. En 2026, pruebas internas realizadas por dos grandes empresas desarrolladoras demostraron que estos sistemas pueden salir del entorno previsto y acceder a redes reales.

Conozca cuatro casos, desde la primera alerta en 2025 hasta los episodios más recientes.

Cuatro incidentes con agentes de IA fuera de control

Replit elimina la base de datos de ejecutivos

En julio de 2025, un agente de la plataforma Replit eliminó una base de datos de producción durante una pausa de código, cuando las modificaciones estaban prohibidas. El proyecto pertenecía a Jason Lemkin, fundador de SaaStr, y contenía información de 1.206 ejecutivos. Según el sitio web The Register, el agente también generó datos ficticios. Tras el incidente, Replit implementó una separación automática entre los entornos de desarrollo y producción.

OpenAI y Hugging Face

A principios de julio de 2026, agentes de OpenAI escaparon del entorno de pruebas durante un ejercicio de ciberseguridad, explotando una vulnerabilidad desconocida en Artifactory, un software utilizado para almacenar paquetes de código.

Fuera del entorno aislado, los agentes utilizaron una aplicación expuesta en la plataforma Modal y accedieron a la infraestructura de Hugging Face, donde obtuvieron cinco conjuntos de datos relacionados con la prueba. Modal informó que su plataforma no fue comprometida. OpenAI calificó el ataque como sin precedentes.

Anthropic y tres organizaciones

Tras el caso de OpenAI, Anthropic revisó 141.006 ejecuciones de pruebas e identificó tres incidentes en los que los modelos Claude accedieron a la infraestructura de producción de organizaciones reales. Un error de configuración con el socio Irregular dejó las máquinas conectadas a internet, a pesar de que el comando indicaba un entorno simulado.

Los modelos explotaron técnicas simples, como contraseñas débiles y servicios sin autenticación. En uno de los casos, se accedió a una base de datos con cientos de registros de producción. Dos de las tres organizaciones solo se enteraron de la actividad después de ser notificadas.

OpenAI y el gobierno australiano

En junio de 2026, un agente de OpenAI accedió a archivos no públicos del Medicare Statistics Reporting Service, un portal que publica estadísticas agregadas de salud. La empresa afirmó que la acción no fue intencional. El gobierno australiano asegura que el portal está separado de los sistemas que manejan datos individuales.

OpenAI solo informó a las autoridades el 10 de septiembre, enviando un correo electrónico a una dirección genérica. El primer ministro Anthony Albanese calificó el retraso como inaceptable, y el gobierno investiga el caso, incluyendo la posibilidad de responsabilidad penal.

Cómo reducir los riesgos al utilizar agentes de IA

Los agentes no tienen intención propia y solo persiguen el objetivo recibido. Por eso, la seguridad debe basarse en la ingeniería, y no solo en las instrucciones dadas al modelo. Algunas prácticas esenciales son:

  • Permiso mínimo: el agente accede solo a lo que la tarea requiere.
  • Segregación de funciones: ningún agente controla por sí solo todas las etapas de un proceso.
  • Aprobación humana: las acciones sensibles, como la eliminación de datos, requieren confirmación.
  • Monitoreo en tiempo real: cada acción del agente es registrada y supervisada.