Le cadre réglementaire européen impose aux fournisseurs de modèles génératifs de rendre leurs productions identifiables. OpenAI déploie donc en Europe un filigrane invisible, nommé textGrain, intégré dans les choix lexicaux de ChatGPT et Codex pour les utilisateurs de l'Union européenne.

A noter que les clients utilisant l'API hors Europe peuvent bénéficier de cette fonction, mais de manière facultative.

Par ailleurs, OpenAI restreint l'accès à son détecteur aux chercheurs et à une liste d'organisation sélectionnées par OpenAI.

C'est la question du risque de faux positif qui empêche un déploiement plus large de l'outil de vérification. Les évaluations menées par l'entreprise américaine démontrent en effet la fragilité du dispositif face aux manipulations humaines.

Car les taux de détection varient selon 3 critères.

La présence ou l'absence d'un filigrane ne permet toutefois pas de qualifier l'intégrité d'un document professionnel.

textGrain indique seulement l'intervention d'un modèle OpenAI dans le processus de rédaction. Il ne mesure pas la part d'intervention humaine, ne valide pas l'exactitude des informations et n'identifie ni l'auteur ni le prompt d'origine.

Par ailleurs, l'absence d'un filigrane ne prouve pas non plus l'origine humaine d'un texte. Un mémo généré par une IA puis résumé, traduit ou retravaillé par un collaborateur passera sous les radars.

Il faut aussi noter que le marquage de la provenance des contenus généré par une IA va désormais au delà des textes. OpenAI génère en effet des métadonnées conformes à la norme C2PA pour ses images, complétées par la technologie SynthID développée par Google DeepMind.

La particularité de ces techniques est que ces filigranes s'insèrent au niveau des pixels. Contrairement aux métadonnées classiques qui disparaissent lors d'une capture d'écran, SynthID résiste donc au recadrage, à la compression et aux altérations colorimétriques.

A noter que l'outil openai.com/verify permet de vérifier les documents.