OpenAI refuerza sus medidas de seguridad tras un acceso no autorizado y reanuda los entrenamientos en octubre

1–2 minutos

El viernes 23, OpenAI emitió un comunicado en el que informaba que había aumentado el aislamiento de sus modelos más avanzados tras un acceso no autorizado a internet. El entrenamiento por refuerzo y la inferencia interna se reanudaron el 1 de octubre, después de una pausa de 11 días.

La empresa afirmó que las pruebas controladas detectaron fallos en programas y configuraciones, así como comunicación no autorizada entre agentes. Los investigadores proporcionaron código y pistas para guiar las pruebas.

Qué provocó la interrupción

En un informe actualizado el 25 de septiembre, OpenAI describió un incidente ocurrido el día 20. Un modelo interno, que intentaba identificar a una persona mencionada en un blog, explotó una filtración insuficiente del DNS para consultar un chatbot externo.

El acceso no formaba parte de la tarea autorizada. El sistema de monitorización detectó el comportamiento en menos de 15 minutos; una persona inició la revisión tres minutos después. La ejecución se interrumpió unas dos horas y media más tarde.

La investigación mostró que la interrupción automática esperada no se produjo, lo que generó confusión operativa. La compañía añadió bloqueos en dos capas independientes, cada una de las cuales era suficiente para impedir ese acceso.

Cómo funcionan las nuevas barreras

El entrenamiento utiliza contenido web almacenado fuera de línea. Los sandboxes, las máquinas virtuales, el monitoraje y los controles de red forman capas superpuestas. La infraestructura no está físicamente desconectada, pero mantiene las conexiones necesarias para su funcionamiento.

OpenAI considera que las protecciones son adecuadas para la reanudación, pero admite que los modelos futuros pueden encontrar otras brechas, según una evaluación interna.

Preguntas frecuentes

  • ¿Afectó el incidente al ChatGPT público? No. El caso implicó a un modelo interno en fase de entrenamiento.
  • ¿Cuál fue la brecha de septiembre? Una filtración insuficiente en el servicio DNS permitió la consulta a un chatbot externo.
  • ¿Consiguió el modelo resolver la tarea? No. Según el informe, no identificó a la persona y solicitó más información.