OpenAI empezará a marcar textos de ChatGPT en la UE
La compañía dijo que aplicará marcas de agua a textos generados por ChatGPT y Codex en Europa para cumplir con la AI Act. OpenAI advierte que editar el texto puede dificultar su detección.
Qué pasó
OpenAI informó que comenzará a aplicar watermarking o marcas de agua invisibles en los textos generados por ChatGPT y Codex dentro de la Unión Europea, en el marco del cumplimiento de la AI Act. La empresa también señaló que la edición posterior del contenido puede volver más difícil detectar esas marcas.
Qué significa
La medida apunta a identificar texto producido por sus modelos sin alterar necesariamente la experiencia de uso. A partir de lo publicado por TechCrunch, se trata de una decisión de implementación regulatoria en la UE, no de una señal de que todo texto generado por IA sea fácilmente rastreable en cualquier contexto.
Contexto
Las marcas de agua en contenido generado por IA buscan facilitar su detección y trazabilidad, pero su efectividad depende del método utilizado y de si el texto fue modificado después. En este caso, la propia empresa reconoció que la edición puede dificultar el reconocimiento de la marca.
Lo que se sabe y lo que no
- Dato comprobable: OpenAI dijo que aplicará watermarking a textos de ChatGPT y Codex en la UE.
- Dato comprobable: la medida se enmarca en el cumplimiento de la AI Act.
- Incertidumbre: no se detalló en la información disponible cómo funcionará técnicamente el sistema ni qué tan robusto será frente a ediciones.
