OpenAI amplía el uso de la inteligencia artificial para proteger el software y se enfrenta al desafío de implementar correcciones

2–3 minutos

OpenAI está ampliando sus iniciativas de ciberseguridad mediante el uso de inteligencia artificial. El programa Daybreak, anunciado en agosto, tiene como objetivo proteger la infraestructura digital, pero la rapidez con la que se identifican los problemas revela una nueva dificultad: convertir estos hallazgos en correcciones confiables y aplicables.

Un ejemplo práctico es Patch the Planet, desarrollado en colaboración con Trail of Bits para apoyar proyectos de código abierto. En el panel actualizado el domingo 25, se registraban 1.995 hallazgos en 68 proyectos, de los cuales 1.316 aún esperaban una solución. Hasta ese momento, se habían escrito 679 parches y 466 habían sido aceptados por los mantenedores.

Por qué la revisión humana sigue siendo esencial

OpenAI explicó en junio que los expertos reproducen los problemas, eliminan duplicados y prueban los cambios antes de que los mantenedores evalúen las propuestas. Los responsables de los proyectos mantienen el control sobre la incorporación de los cambios y la divulgación de las vulnerabilidades.

Generar un parche no significa que la protección esté completa. El código debe corregir el fallo sin afectar otras funciones. Esta distinción se hace evidente cuando recordamos casos recientes en los que sitios web fueron desconectados por precaución tras el descubrimiento de vulnerabilidades.

Un estudio interno de Trail of Bits, publicado el 21 de octubre, identificó 21 regresiones en más de 130 cambios ya incorporados: 16 eran funcionales, una de rendimiento y cuatro relacionadas con la compilación o las pruebas. Ninguna de ellas comprometió la protección de seguridad, según la empresa.

Cómo funciona el acceso a las herramientas de defensa

Daybreak ofrece dos modalidades de acceso. La versión Blue está orientada a la defensa general, mientras que la versión Red permite investigaciones de seguridad autorizadas con modelos más avanzados. El acceso está restringido a organizaciones verificadas.

OpenAI también anunció un compromiso de 1.000 millones de dólares en acceso subsidiado durante seis meses, destinado a servicios esenciales y organizaciones con pocos recursos. La oferta consiste en proporcionar acceso a las herramientas, no en transferir dinero a las entidades.

Preguntas frecuentes

¿Son todos los 1.995 hallazgos fallos críticos?

No. El número representa el total de hallazgos en el panel de Trail of Bits, sin una clasificación uniforme de gravedad.

¿Quién decide si la corrección se incorpora al proyecto?

Los mantenedores evalúan las propuestas y controlan su incorporación, según el flujo definido por OpenAI.

¿Es el subsidio una donación en efectivo?

El compromiso es de acceso subsidiado a las herramientas, no de una transferencia de 1.000 millones de dólares a una fundación.