Ce qu’OpenAI a annoncé
Le 5 octobre, OpenAI a présenté une approche progressive de la provenance des textes. L’entreprise prévoit d’ajouter au cours des prochaines semaines un filigrane invisible aux textes éligibles générés par ChatGPT et Codex dans l’Union européenne. À part, les clients de l’API du monde entier pourront activer cette fonction pour certains modèles ; elle restera désactivée par défaut dans l’API.
OpenAI ouvre également les candidatures à son détecteur, d’abord réservé à des chercheurs et organisations approuvés. Le déploiement européen est annoncé pour les semaines à venir, il n’est pas présenté comme achevé. L’option de l’API est différente du déploiement régional dans ChatGPT et Codex : il faut vérifier le produit et le compte concernés.
Un filigrane statistique, pas une métadonnée visible
Un texte ne conserve pas simplement un filigrane comme un fichier peut contenir des métadonnées d’image. OpenAI explique que textGrain influence statistiquement le choix des mots, puis qu’un détecteur recherche ce motif dans un passage. La méthode dépend d’une certaine liberté linguistique : elle ne peut pas identifier toutes les phrases, matières ou langues avec la même fiabilité.
Selon les évaluations publiées par OpenAI, les textes courts ou très contraints sont plus difficiles à classer, et les modifications peuvent affaiblir le signal. Ce sont les résultats présentés par l’entreprise, pas une garantie pour chaque langue, modèle, document ou processus éditorial.
Ce qu’un résultat ne permet pas d’affirmer
OpenAI précise qu’un filigrane ne mesure pas la contribution humaine, n’établit ni propriété ni responsabilité, n’identifie pas l’utilisateur et ne vérifie pas l’exactitude du texte. Un résultat positif constitue donc un indice limité de provenance. Il ne prouve pas qu’une personne a copié un passage ou qu’une affirmation est vraie.
L’absence de détection ne prouve pas davantage une rédaction humaine : le texte peut être trop court, modifié, traduit, issu d’un modèle non pris en charge ou antérieur au déploiement. Le détecteur n’est pas ouvert au public au lancement, notamment en raison des faux positifs et des détections manquées. Il ne devrait pas décider seul d’une question d’emploi, d’études ou de conformité.
Le contexte européen demande une lecture précise
OpenAI présente sa démarche comme une réponse au règlement européen sur l’IA. L’article 50 prévoit des obligations de transparence pour les fournisseurs de systèmes d’IA générative, mais leur application dépend du rôle, du système et de l’usage. L’annonce d’un fournisseur ne remplace ni le texte du règlement ni l’analyse d’un cas particulier. Le filigrane est une technique possible, pas une réponse complète à toute obligation.
Les entreprises qui publient ou traitent des contenus générés devraient documenter les outils, les étapes de révision et les modalités d’information. Il faut vérifier les modèles et options réellement utilisés. Pour interpréter les obligations, mieux vaut s’appuyer sur les sources officielles européennes que supposer que chaque texte assisté par l’IA porte le même signal.
Conseils pratiques pour les équipes éditoriales
Les rédactions et équipes marketing peuvent considérer la provenance comme un élément d’un processus plus large. La relecture humaine, la vérification des sources et la responsabilité éditoriale restent nécessaires. Pour un contenu important, conserver l’historique de travail et les documents sources est plus utile que demander à un détecteur de reconstituer la contribution de chacun.
Les développeurs doivent vérifier la documentation de l’API, les modèles éligibles et les modalités d’activation avant de bâtir un processus sur le filigrane. Pour un produit destiné à l’UE, il faut décrire la fonction sans promesse excessive et rendre l’incertitude compréhensible. La provenance automatique peut compléter la transparence et les contrôles humains, pas les remplacer.
Sources et références
Une erreur factuelle à signaler ou une source à suggérer ? Contacter la rédaction.
