Le 2 août dernier, l’Union européenne s’est positionnée sur les secteurs de l’IA et son obligation de transparence. Dans cette lignée, OpenAI va se plier à la législation européenne en marquant les textes de ChatGPT d’un filigrane invisible. La mise à jour est annoncée dans un communiqué du géant américain. Le dispositif est déployé dans les prochaines semaines sur les modèles ChatGPT et Codex, chez les utilisateurs à travers l’UE, quel que soit leur abonnement. Les utilisateurs bénéficiant de l’API peuvent choisir d’activer ou d’enlever cette option, même en dehors de l’Union Européenne.
En effet, cette marque sera indétectable pour le lecteur, tandis que des détecteurs spécialisés sauront reconnaître sa présence à travers les mots. Cela marchera donc aussi si le texte en question est copié-collé. L’entreprise intervient pour préciser que les utilisateurs ne seront pas possibles à tracer, et que cette nouvelle fonction n’impactera pas la performance de ces modèles IA.
Comment ça marche
OpenAI a livré un rapport technique pour expliquer en quoi consiste son système de filigrane invisible. Avec textGrain, les modèles d’IA sont équipés d’une clé capable de prédire le mot suivant d’un texte s’il est produit par ChatGPT ou Codex.
Ce système comporte évidemment des failles. Selon des tests en interne, son taux de réussite sur un texte entièrement généré par les modèles d’OpenAI est de 92%, et peut chuter jusqu’à 66% si l’utilisateur remplace 10% des mots du texte par des synonymes. Cela explique pourquoi l’entreprise prend le temps de lancer son produit.
« Ces limites ont contribué à notre décision de n’accorder un accès initial au détecteur qu’aux chercheurs et aux organismes spécialisés agréés, qui peuvent nous aider à évaluer la fiabilité et les utilisations responsables » explique l’entreprise.
Qu’en est-il des autres ?
Bien entendu, les textes réalisés par d’autres intelligences artificielles que celles d’OpenAI ne sont pas détectables grâce à la clé textGrain. Certaines autres entreprises du secteur ont aussi commencé à apposer des filigranes sur leurs productions. Il y a plus de 2 mois, Anthropic avait lancé cette pratique pour Claude. Google, Meta et Microsoft se sont aussi engagés à respecter l’AI Act de l’UE.
Questions fréquentes à propos de les règles de l’EU sur la transparence des modèles d’IA
Quand a été voté le AI Act ?
L’AI Act a été voté et adopté par le Parlement européen le 13 mars 2024.
Quelle est la première entreprise américaine à avoir pris en compte l’AI Act ?
Microsoft et OpenAI font partie du tout premier groupe d’entreprises américaines à avoir officiellement pris en compte l’AI Act européen en signant le Pacte européen sur l’IA dès septembre 2024.
Quelles sont les failles de la clé de textGrain ?
La principale faille de textGrain est que le filigrane s’efface très facilement si l’on modifie ou reformule le texte. Il est aussi limité sur les textes traduits où les réponses mathématiques.
Quel est le taux de réussite du système de reconnaissance d’OpenAI ?
Le taux de réussite de textGrain dépend directement de la longueur du texte et de son niveau de modification : 95 % de réussite pour les textes longs non modifiés et une chute à 66 % de réussite si 10 % des mots sont remplacés par des synonymes.
Quand le système de filigrane invisible sera appliqué sur les modèles d’OpenAI ?
OpenAI déploie progressivement son système de filigrane invisible au cours des prochaines semaines.
