OpenAI implementará marca de agua invisible para las respuestas de ChatGPT en la UE

2–3 minutos

Cumplimiento con la Ley de IA de la UE

OpenAI anunció el lunes que comenzará a incrustar una marca de agua invisible en los textos generados por ChatGPT y Codex para los usuarios de la Unión Europea, en línea con las disposiciones de transparencia de la Ley de IA de la UE que entró en vigor el 2 de agosto. La legislación exige que los proveedores de IA marquen el contenido sintético para que otros sistemas puedan identificarlo.

Cómo funciona la marca de agua

La marca de agua no aparece como un símbolo visible. En su lugar, el modelo de OpenAI sesga sutilmente sus elecciones de palabras, creando un patrón oculto que un detector específico puede identificar. Como la firma está integrada en las palabras mismas, viaja con el texto cuando se copia o pega. OpenAI destacó que la marca de agua no revela la identidad del usuario y que su activación no ha alterado el rendimiento del modelo de manera medible.

Informe técnico y método

Junto con la publicación en el blog, OpenAI publicó un informe técnico titulado textGrain, coescrito con investigadores de la Universidad de Pensilvania y Yale. El documento describe una técnica que utiliza una clave secreta para reordenar las predicciones de la siguiente palabra del modelo, completando frases con cientos de pequeños ajustes. Un detector equipado con la misma clave puede entonces identificar el texto generado por IA utilizando solo el pasaje y la clave.

Limitaciones y desafíos de detección

Las pruebas internas de OpenAI muestran que la marca de agua puede verse debilitada por la edición. Reemplazar aproximadamente el 10 % de las palabras por sinónimos redujo la precisión de detección de alrededor del 92 % al 66 %. La empresa también señaló que los extractos breves, las respuestas matemáticas y el material traducido son más difíciles de identificar de manera confiable.

“Estas limitaciones contribuyen a nuestra decisión de proporcionar acceso inicial al detector solo a investigadores aprobados y organizaciones expertas, que pueden ayudarnos a evaluar la confiabilidad y los usos responsables”, dijo OpenAI.

Qué significa la ausencia o alteración de la marca de agua

OpenAI advirtió que la ausencia de una marca de agua no prueba la autoría humana. Un pasaje puede ser demasiado breve, estar muy editado o haber sido generado por otro sistema de IA. Por el contrario, una marca de agua solo indica que un sistema de OpenAI generó o procesó parte del texto, no el grado de juicio o creatividad humana involucrado.

Contexto del sector y reacciones

La medida se produce dos meses después de que Anthropic anunciara que aplicaría una marca de agua a la salida de Claude en todo el mundo, una decisión que generó críticas de algunos usuarios que sentían que ellos proporcionaban las instrucciones mientras Claude actuaba solo como una herramienta. OpenAI ya había desarrollado un sistema de marca de agua, pero retrasó su lanzamiento, en parte por temor a que los usuarios migraran a competidores que no utilizaban marcas de agua, según informó The Wall Street Journal en 2024.

Anthropic, Google, Meta, Microsoft y OpenAI se encuentran entre los firmantes del código de prácticas de la UE para contenido generado por IA, lo que indica un cambio más amplio en el sector hacia el cumplimiento del nuevo marco regulatorio.