Marcas de agua en textos de ChatGPT en la UE: qué se sabe y qué falta por confirmar

Qué se ha anunciado y qué puede darse por confirmado

La información disponible atribuye a OpenAI planes para incorporar marcas de agua invisibles a textos generados por ChatGPT y Codex en la Unión Europea. Sin embargo, las fuentes verificadas no incluyen una publicación primaria específica del anuncio que permita comprobar sus condiciones. Por eso, el alcance debe describirse con cautela: hay referencias a un despliegue en la UE, pero no una confirmación suficiente de qué usuarios, modelos o respuestas quedarían incluidos.

Tampoco está confirmado aquí cuándo empezaría el despliegue ni si ya se ha activado para alguna cuenta. Las publicaciones consultadas no detallan si afectaría a todos los planes de ChatGPT, solo a ciertos productos o modelos, o únicamente a determinados tipos de texto. No es posible convertir la mención a ChatGPT y Codex en una afirmación de cobertura universal.

Hay una discrepancia concreta sobre el alcance. Una fuente habla de «algunos textos» de ChatGPT y Codex; otra presenta la medida como aplicable a todos los textos de ChatGPT en Europa. El material disponible no permite determinar si describen configuraciones distintas, si una formulación es más amplia que la otra o si alguna es incorrecta. La conclusión responsable es que la cobertura exacta sigue sin resolverse.

OpenAI sí ha publicado documentación general sobre procedencia del contenido. Esa página describe un enfoque que combina distintas medidas y menciona marcas de agua basadas en SynthID. Es contexto útil sobre la dirección general de la empresa, pero no confirma que ese método concreto se use en el despliegue europeo de texto del que hablan las publicaciones, ni establece sus parámetros técnicos.

UE y API: dos despliegues que no deben confundirse

La propuesta distingue dos vías: una medida asociada a ChatGPT y Codex en la UE, y una opción que se ofrecería a clientes de API en todo el mundo. Con las fuentes verificadas disponibles, la primera solo puede presentarse como un anuncio atribuido a OpenAI cuyo alcance está incompleto. La segunda no queda suficientemente respaldada para afirmar que la opción ya exista, que se haya anunciado formalmente o que esté disponible globalmente.

La diferencia importa porque usar un producto de ChatGPT no es lo mismo que integrar un modelo mediante una API. En el primer caso, la configuración y las funciones dependen del servicio que opera el proveedor. En el segundo, un cliente puede incorporar modelos a su propia aplicación y necesitar controles distintos. Esta distinción ayuda a formular las preguntas adecuadas, pero no confirma qué controles ofrece OpenAI en cada canal.

Antes de describir la opción de API como una función operativa haría falta documentación primaria que indicara los modelos compatibles, cómo se activa, si la decisión corresponde a cada cliente y qué ocurre con las respuestas de texto frente a otros formatos. Sin esos datos, tampoco puede afirmarse que el marcado sea obligatorio, que venga activado por defecto o que el cliente pueda retirarlo.

Qué demuestra —y qué no— una marca de agua textual

Una marca de agua pretende aportar una señal que permita reconocer, bajo ciertas condiciones, que un texto se generó mediante un sistema determinado. No es lo mismo que una firma visible, una etiqueta al final de una respuesta o un registro que identifique a la persona que hizo una consulta. La documentación general de OpenAI sobre procedencia sitúa las marcas dentro de un conjunto de medidas; no basta para conocer cómo se codificaría una señal en texto ni cómo se validaría en este caso.

Incluso si un detector encuentra una señal compatible, eso no demuestra por sí solo quién escribió, revisó o publicó el contenido. Una persona podría haber editado un borrador generado por IA, combinado fragmentos de varias fuentes o pegado el texto en otro documento. A la inversa, que el detector no encuentre una señal no prueba que el texto sea enteramente humano: podría no haber sido marcado, o la señal podría no conservarse después de cambios.

La edición es especialmente relevante en un sistema basado en patrones dentro del texto. Reformular frases, traducir, resumir, corregir o mezclar párrafos puede alterar el material que analiza un detector. Sin información técnica sobre el método, no se puede precisar cuánta edición toleraría la marca ni cuánto texto tendría que conservarse para identificarla. Tampoco se conocen aquí los idiomas compatibles o las condiciones mínimas de longitud.

Para valorar la fiabilidad harían falta resultados de pruebas reproducibles: descripción del protocolo, textos evaluados, idiomas, tipos de edición, umbrales y tasas de falsos positivos y falsos negativos. Las referencias verificadas no aportan esos datos. Por tanto, no es adecuado presentar la marca como una prueba infalible de autoría ni atribuirle una precisión cuantificada.

La decisión de producto no prueba por sí sola una obligación legal

El anuncio empresarial y las obligaciones normativas son cuestiones distintas. Que OpenAI decida añadir una marca de agua no demuestra, por sí mismo, qué exige el AI Act para cada clase de texto generado por IA. Para explicar una obligación concreta habría que contrastar el artículo aplicable, su fecha de aplicación, el tipo de sistema y el contexto de uso con el texto jurídico pertinente.

Las fuentes verificadas para esta pieza no incluyen el texto del AI Act ni una explicación jurídica primaria que permita resolver esas preguntas. Por ello, no se atribuye a la norma una obligación específica sobre esta marca ni se afirma que el despliegue responda necesariamente a un mandato legal. La evidencia disponible permite hablar de una iniciativa empresarial comunicada, no de su fundamento jurídico exacto.

Esta cautela también evita confundir procedencia con responsabilidad. Una marca puede aportar información útil para ciertos procesos de revisión, pero no determina por sí sola si un contenido es correcto, si debe publicarse, quién responde por él o si se cumplieron todas las obligaciones aplicables. Esas conclusiones requieren datos y reglas adicionales.

Qué falta por saber y cómo interpretar el anuncio

Para que el alcance quede claro, OpenAI tendría que especificar públicamente los modelos, productos, idiomas y tipos de salida afectados; si la medida se aplica a todos los usuarios de la UE o solo a algunos; y desde qué fecha. Para la API, la información tendría que aclarar disponibilidad, modelos compatibles y controles que reciben los clientes. Ninguno de esos detalles queda resuelto por las fuentes consultadas.

También falta la descripción técnica necesaria para evaluar la detección: qué marca se incorpora, qué condiciones necesita el detector y qué comportamiento se ha observado después de editar, traducir o resumir el texto. Sin un protocolo y resultados de pruebas, no se puede valorar de manera independiente su robustez o el riesgo de clasificaciones erróneas.

La conclusión práctica es limitada, pero clara: se ha publicado que OpenAI planea marcas de agua para textos de ChatGPT y Codex en la UE, mientras que la cobertura exacta continúa en disputa. La información verificada no basta para confirmar la activación, la opción mundial para API, el método aplicable al texto o la relación concreta con el AI Act. Hasta contar con documentación primaria más específica, conviene tratar estos detalles como pendientes, no como características ya demostradas.

Continúa explorando

Correcciones y transparencia

Si detectas un dato incorrecto o desactualizado, puedes enviarnos una corrección indicando la página y la fuente que debemos revisar.