FlashProve: un prototipo de código abierto permite verificar el origen de las respuestas generadas por IA
Anthropic ha lanzado FlashProve, una herramienta de código abierto diseñada para identificar qué modelo de inteligencia artificial generó una respuesta específica. El objetivo es permitir que usuarios y empresas confirmen si el resultado recibido corresponde al sistema contratado, incluso cuando el servicio pasa por intermediarios. Los detalles se dieron a conocer en un comunicado de la empresa.
La solución puede detectar cambios de modelo y modificaciones en las respuestas. Para los clientes corporativos, esto significa poder verificar si un análisis fue realizado por la IA seleccionada. Para los auditores independientes, la herramienta ayuda a garantizar que el sistema probado es el mismo que se ofrece a los usuarios finales, según Anthropic.
Cómo funciona la verificación
El proceso comienza cuando el proveedor publica un compromiso criptográfico, una especie de huella digital vinculada al conjunto exacto de pesos del modelo. Estos pesos son los parámetros numéricos que definen el comportamiento de la IA y permanecen protegidos.
Para cada respuesta generada, el proveedor crea una prueba que demuestra la correspondencia entre el resultado y el modelo registrado. Quien recibe esta prueba puede validarla en una CPU común, sin necesidad de acceder a los pesos o a la infraestructura de procesamiento utilizada por el proveedor. El mecanismo fue creado para impedir que una respuesta de otro modelo sea aceptada como auténtica.
El costo sigue siendo un obstáculo
El informe técnico muestra que la verificación aún requiere recursos significativos. Según los investigadores, la generación de las pruebas consumió aproximadamente entre 70 y 95 veces más tiempo de GPU que el necesario para procesar las mismas entradas en la referencia adoptada.
Las pruebas tenían un tamaño de alrededor de 19 megabytes. La verificación tomó 17 segundos con 24 hilos de CPU y 21 segundos con un solo hilo. La generación ocurre después de que la respuesta es producida, en un procesamiento separado, lo que reduce la interferencia en la atención al usuario, pero permite que una respuesta adulterada llegue antes de que el problema sea detectado. Así, el sistema funciona como una capa adicional de verificación, y no como un bloqueo inmediato contra manipulaciones.
Estado actual del proyecto
El repositorio oficial clasifica el código como un artefacto de investigación, sin mantenimiento ni recepción de contribuciones externas. La prueba utiliza el modelo Llama 4 Maverick de Meta y una ventana de contexto de 1.024 tokens.
Anthropic reconoce que el prototipo aún tiene limitaciones y presenta resultados preliminares. La certificación verifica solo la correspondencia entre el modelo y la respuesta, sin certificar la veracidad del contenido generado. Para las empresas, el avance radica en la posibilidad de auditar el origen del servicio de IA que utilizan.
Preguntas frecuentes
¿Qué es FlashProve?
Es un prototipo de código abierto que permite verificar qué modelo de IA generó una respuesta, sin exponer sus pesos internos.
¿El sistema garantiza que la respuesta es correcta?
No. Verifica la correspondencia entre la respuesta y el modelo, pero no certifica la veracidad del contenido producido.
¿FlashProve ya es un producto comercial?
No. El repositorio lo clasifica como un artefacto de investigación, sin mantenimiento ni recepción de contribuciones.








