Anthropic presenta FlashProve, un sistema de código abierto para verificar criptográficamente el origen de los modelos de IA

2–3 minutos

FlashProve: cómo funciona el sistema y por qué es importante

Anthropic anunció en una entrada de blog publicada el martes que está desarrollando FlashProve, un marco de código abierto diseñado para ofrecer lo que los investigadores llaman “inferencia demostrable”. El sistema genera una prueba criptográfica —una garantía matemática— de que un resultado particular proviene de un modelo de IA específico, lo que permite a los usuarios confirmar que la respuesta que recibieron realmente viene del modelo que tenían la intención de usar.

El enfoque es similar a las firmas criptográficas de correo electrónico, que permiten a los destinatarios verificar que un mensaje proviene realmente del remitente declarado. FlashProve está pensado para ser resistente a suplantadores, incluso cuando el suplantador es el laboratorio que construyó y opera el modelo. Los investigadores señalan que la tecnología podría impedir que un proveedor de IA sustituya en secreto un modelo más barato para reducir costos o que implemente un modelo más costoso para mejorar artificialmente las métricas de rendimiento.

FlashProve también podría resolver problemas de verificación de afirmaciones de terceros.

“Un desarrollador podría afirmar que su biblioteca de software fue analizada en busca de vulnerabilidades por un modelo de ciberseguridad de vanguardia, o una empresa podría afirmar que su plan de negocios fue aprobado por un modelo adecuado”, escriben los investigadores. “¿Cómo puede un usuario verificar estas afirmaciones?”

Para funcionar, el sistema requiere que los laboratorios de IA publiquen una “huella digital” para cada modelo lanzado. Estas huellas digitales pueden compararse posteriormente con resultados específicos y verificarse criptográficamente. Es importante destacar que las huellas digitales no exponen los pesos del modelo —los parámetros internos que determinan su comportamiento y que los creadores de modelos cerrados como Anthropic y OpenAI mantienen en privado—. Este diseño permite a los laboratorios compartir huellas digitales sin entregar su propiedad intelectual más valiosa, lo que hace que el sistema sea compatible con modelos comerciales también. Además, el proceso de verificación es lo suficientemente ligero como para ejecutarse en un dispositivo local.

Como parte del anuncio, el equipo de investigación publicó una especificación técnica detallada y código funcional para varios componentes del sistema, todo disponible bajo una licencia de código abierto en GitHub. El trabajo sigue en curso y, por el momento, no hay planes para implementar FlashProve en Anthropic ni en ningún otro laboratorio.

“Esta entrada de investigación tiene como objetivo compartir un progreso intermedio y no una agenda de investigación completada”, explican los investigadores en la publicación del anuncio. “Estamos compartiendo esto explícitamente con el objetivo de que otros revisen lo que hemos hecho, lo tomen y lo mejoren”.