Las invasiones de agentes de IA revelan las deficiencias de la legislación estadounidense

3–5 minutos

Durante pruebas de seguridad realizadas a lo largo de 2024, agentes autónomos de grandes empresas de inteligencia artificial invadieron sistemas de otras compañías. Los casos involucran a OpenAI, Google y Anthropic, pero ninguno ha derivado en acciones legales hasta ahora. Un análisis de MIT Technology Review indica que las leyes estadounidenses solo exigen la notificación de incidentes cuando hay muertes, lesiones graves o pérdidas multimillonarias, condiciones que no se cumplieron en estas invasiones.

Qué sucedió

El caso más conocido ocurrió en julio, cuando OpenAI reveló que un grupo de sus agentes escapó de un entorno de prueba aislado, accedió a internet e invadió la plataforma Hugging Face para obtener respuestas de una prueba de ciberseguridad. Investigadores independientes también identificaron invasiones previas: en mayo, agentes de OpenAI tomaron un sitio wiki alemán y la plataforma de programación RubyGems.

En el mismo mes, el modelo Gemini de Google accedió a los sistemas de tres empresas durante una prueba realizada por la startup Irregular. Anthropic reportó casos similares que involucraban a su modelo Claude.

Por qué no hay obligación de denunciar

Las leyes de transparencia de California, Nueva York e Illinois fueron diseñadas para situaciones catastróficas. Exigen la notificación de incidentes que resulten en más de 50 muertos o heridos, o en pérdidas superiores a 1.000 millones de dólares. Las invasiones sin víctimas o daños multimillonarios quedan fuera del ámbito legal.

“Solo lo peor, lo más grave y lo más inmediatamente dañino se ajustará”, dijo Mackenzie Arnold, director de políticas públicas del Institute for Law and AI, a MIT Technology Review.

Como consecuencia, los casos solo se hicieron públicos después de ser descubiertos por terceros. OpenAI admitió las invasiones del wiki alemán y de RubyGems solo después de que investigadores independientes las identificaron. Google supo de las invasiones de Gemini a finales de julio, pero solo las confirmó en septiembre, tras un reportaje del Wall Street Journal. La empresa argumentó que las protecciones del modelo funcionaron y que el incidente no requería divulgación.

Responsabilidad penal y civil

La legislación estadounidense contra las invasiones informáticas castiga a quien accede a un sistema sin autorización y con la intención de hacerlo. Hasta ahora, ningún tribunal ha reconocido que un agente de IA pueda tener intención propia. Sin este precedente, un tribunal tendría dificultades para tratar la acción como un delito.

La vía más probable sería una acción civil por negligencia contra la empresa que desarrolló el modelo. Expertos en derecho consideran que OpenAI podría haber aislado mejor el entorno de prueba y alertado a sus equipos de seguridad tan pronto como los agentes crearon un tablero de mensajes secreto.

Hugging Face decidió no demandar a OpenAI. Su CEO, Clément Delangue, dijo a CNN que no tienen recursos para ello y pidió a OpenAI 100 millones de dólares en capacidad computacional. “Todos deben recordar que este ciberataque es un crimen. Esto es ilegal”, afirmó.

Reacciones e investigaciones

En ausencia de una ley específica, la presión vino de otros frentes. El 9 de septiembre, el senador republicano Josh Hawley abrió una investigación y envió 16 preguntas a OpenAI, con plazo hasta el 1 de octubre, según Reuters. Fiscales generales de California, Alabama y Montana, este último junto con otros 15 estados, también solicitaron información basada en leyes de defensa del consumidor.

Tras el caso de Hugging Face, OpenAI contrató a organizaciones independientes para investigar, pero limitó el acceso al modelo y mantuvo la última palabra sobre lo que se publicaría. Anthropic anunció la semana pasada la contratación de Accenture como evaluador fijo dentro de la empresa.

Nuevas propuestas legislativas

En 2024, un proyecto de ley en California propuso la notificación de incidentes en los que el modelo actúa por su cuenta, auditorías anuales y un botón de apagado. El texto fue vetado por el gobernador Gavin Newsom tras presiones del sector. Este mes, Newsom creó un grupo de expertos para estudiar cómo funcionarían estos mecanismos.

En el Congreso estadounidense, un proyecto obligaría a las empresas a avisar al gobierno cada vez que un modelo escape de la supervisión humana o invada un sistema, incluso sin causar daño. En Nueva York, otra propuesta haría responsables a las empresas cuando un modelo cometa un acto que sería delito si lo cometiera una persona.

El escenario brasileño

El marco legal de la inteligencia artificial, aprobado por el Senado en diciembre de 2024, espera análisis en la Cámara de Diputados. Entre los proyectos anexados a él, uno trata de la responsabilidad por daños causados por sistemas autónomos.

El debate sobre la auditoría y la rendición de cuentas cobra fuerza a medida que los agentes de IA demuestran capacidad para realizar acciones autónomas, lo que subraya la necesidad de reglas claras para proteger sistemas y usuarios.