OpenAI prévoit d’ajouter un filigrane au texte généré par ChatGPT en Europe et met en place une option pour les utilisateurs de l’API.
OpenAI va introduire une nouvelle méthode d’identification des textes ChatGPT et Codex en Europe prochainement, en utilisant une marque d’eau invisible. Leurs recherches montrent que modifier certains mots par des synonymes peut diminuer l’efficacité du filigrane. Par exemple, lors d’un test où 25 % des mots ont été remplacés par des synonymes dans 400 extraits en anglais, le taux de détection a chuté de 92 % à 17 %.
Désormais, les utilisateurs de l’API à l’échelle mondiale ont la possibilité de choisir l’affichage de l’eau pour certains modèles, bien que cela reste activé par défaut. L’accès à l’outil de détection de texte n’est pas ouvert au grand public pour le moment; il est actuellement restreint aux chercheurs et aux organismes experts autorisés.
Que se déplace à l’extérieur?
OpenAI a annoncé que les fonctionnalités de filigrane de ChatGPT et de Codex seront disponibles pour les utilisateurs éligibles dans tous les forfaits de l’Union européenne uniquement. Au départ, le filigranage ne sera pas activé automatiquement à l’échelle mondiale.
La mise à jour du 5 octobre ne clarifie pas quels modèles sont inclus dans l’option API ou si les utilisateurs de l’UE ChatGPT peuvent supprimer le filigrane. L’entreprise indique qu’elle collabore avec des partenaires cloud pour intégrer des filigranes aux résultats de ses modèles via leurs services dans les semaines à venir.
Pour quelle raison l’Union européenne et à quel moment est-ce pertinent ?
Le 2 août 2026 a marqué le début de l’application des dispositions de transparence énoncées à l’article 50 de la Loi sur l’intelligence artificielle de l’UE. Selon la Commission européenne, les systèmes d’IA mis sur le marché avant cette date doivent se conformer à l’obligation de marquage et de détection d’ici le 2 décembre. Les organisations peuvent choisir de démontrer leur conformité en adhérant au Code de pratique volontaire sur la transparence du contenu généré par l’IA. En juillet, environ 190 organisations avaient signé ce Code, et OpenAI l’avait publiquement soutenu en juin.
L’entreprise affirme que la mise en place de l’UE seule lui permet d’apprendre des retours d’expérience réels. J’ai rapporté en août 2024 sa décision de ne pas filtrer les textes pour ChatGPT, suite à une enquête interne révélant que près de 30% des utilisateurs de ChatGPT prévoyaient d’utiliser moins le service si des restrictions étaient mises en place.
Quelle démonstration impressionnante de la technologie OpenAI !
Le procédé d’OpenAI, nommé textGrain, intègre un élément statistique aux sélections de mots du modèle, ce qui permet à un détecteur de repérer ce signal. Pour un taux de faux positifs de 1%, le détecteur a réussi à détecter le filigrane dans environ 80% des passages contenant 200 jetons et environ 95% des passages contenant 400 jetons, notamment pour des contenus liés à la psychologie. En revanche, des taux de détection bien inférieurs ont été observés pour des contenus tels que les mathématiques, où le choix des mots est moins flexible.
En août, j’ai remarqué que le Code ne requiert pas de filigrane pour les textes courts de moins de 200 caractères. Deux cents caractères constituent la longueur minimale dans les publications.
La modification du texte a diminué la pertinence du signal lorsqu’il a été testé avec des extraits anglais de 400 voix distinctes. En remplaçant 10% des mots par des synonymes, la détection a chuté de 92% à 66%. Augmenter le taux de remplacement à 25% a encore réduit la détection à 17%. Ces expériences ont été réalisées en utilisant les réponses aux questions du jeu de données ELI5.
L’entreprise indique que textGrain a obtenu des résultats équivalents ou supérieurs à d’autres méthodes testées, notamment SynthID, pour le traitement de texte. Cependant, elle souligne que des performances optimales ne garantissent pas une fiabilité constante dans des situations réelles. Le filigrane activé ou désactivé n’a pas fait de différence significative dans leurs observations.
Qui est en mesure de contrôler une marque de sécurité incrustée ?
Les chercheurs et les experts peuvent demander l’accès au détecteur de texte d’OpenAI, initialement de manière individuelle conformément au Code. L’outil indique la présence d’un filigrane OpenAI sans révéler l’identité des utilisateurs ni leurs actions. OpenAI souligne que, en raison du risque de manquer des filigranes et de possibles faux positifs, l’outil n’est pas accessible au public pour le moment. Cependant, les outils de vérification d’images et d’audio sur openai.com/verify ainsi que l’API de Provenance de contenu restent disponibles pour tous.
Dans une mise à jour de 2024, la société a souligné que l’utilisation sur de vastes quantités de texte, même avec un faible taux de faux positifs, entraînerait un grand nombre de faux positifs globaux.
En fonction du rôle occupé, la présence d’un filigrane ne reflète pas le niveau de contribution d’une personne, tandis qu’une absence ne confirme pas que la personne a rédigé le texte.
En quoi cela se différencie-t-il de Claude ?
Le texte fait référence au fait que le filigrane anthropique est utilisé par Claude pour marquer les textes dans le monde entier, comme mentionné dans son article de soutien. Selon son explication, cela est dû au manque actuel d’une méthode durable pour étendre le filigrane par région.
Comparaison du filigrane de texte entre OpenAI et Anthropic: Quels sont les différences ?
Diverses options de mise en œuvre, techniques et stratégies d’entrée
|
Apps
|
Texte admissible ChatGPT et Codex, UE seulement, au cours des prochaines semaines | Les modèles Claude soutenus, dans le monde |
|---|---|---|
|
API
|
Opt-in pour certains modèles, hors par défaut, modèles non nommés dans le post | Marked on supported models, which the support article lists by name |
|
Méthode
|
textGrain, la propre OpenAI | Une version de Google DeepMind’s SynthID-Text |
|
Accès aux détecteurs
|
Chercheurs et organismes experts agréés, par demande | Aperçu privé pour les organisations admissibles, y compris les organismes de réglementation, les médias et les chercheurs, plus les entreprises vérifiant leur propre conformité |
|
Publication des résultats d ' édition
|
Taux de détection après 10 % et 25 % de swaps de synonymes | Pas de chiffres. L’édition de lumière ne sera probablement pas complètement supprimer, et une réécriture complète sera |
Pouvez-vous expliquer la raison de cela ?
Un bureau partageant un même système d’écriture à Berlin et à Toronto pourrait bientôt constater que certaines de leurs copies portent la marque d’eau d’OpenAI, tandis que d’autres ne la portent pas. Une clause contractuelle ou une politique liée à l’intelligence artificielle considérant la détection comme preuve de l’auteur pose en filigrane une question à laquelle OpenAI a déclaré ne pas pouvoir répondre.
Observer la partie supérieure du corps.
OpenAI prévoit d’élargir l’accès au détecteur dès qu’il jugera que cela peut être fait de manière responsable. Alors que le filigrane est introduit dans l’UE dans les semaines à venir, les équipes travaillant avec le personnel de l’UE sur ChatGPT pourraient commencer à produire un contenu marqué qui ne pourra être consulté que par des chercheurs et des organisations d’experts approuvés.
Image affichée par: daily_creativity/Shutterstock
