OpenAI en a développé un outil qui vous permet de reconnaître les textes créés avec ChatGPT avec une efficacité de 99,9%, grâce à un filigrane numérique appliqué aux contenus générés par l’intelligence artificielle de l’entreprise. L’outil existe depuis environ un an, mais selon ce qu’il prétend Le journal de Wall Street dans un article, la société dirigée par Sam Altman est indécis quant à l’opportunité de rendre l’outil accessible à tous ou non, car cela pourrait avoir des répercussions importantes, notamment l’abandon de ChatGPT par une partie importante des utilisateurs.
Comment fonctionne l’outil OpenAI pour identifier les textes générés avec l’IA
Ce n’est pas la première fois qu’OpenAI développe un système pour reconnaître les contenus générés par l’intelligence artificielle. Cependant, c’est la première fois que l’entreprise en développe un qui comporte un Taux d’efficacité de 99,9 % sur des textes bruts et non retravaillés. L’outil de détection de texte généré avec ChatGPT fonctionne si bien pour une raison très simple : un texte est appliqué au texte filigrane numérique ou filigranequi est invisible pour les utilisateurs humains mais qui est parfaitement visible pour l’outil en question.
Il convient toutefois de souligner que le système présente certaines limites. OpenAI lui-même a déclaré à propos de l’outil en question :
Bien qu’il ait été démontré qu’il est très précis et même efficace contre la falsification localisée, comme la paraphrase, il est moins robuste contre la falsification globalisée, comme l’utilisation de systèmes de traduction, la reformulation avec un autre modèle génératif ou la demande au modèle d’insérer un caractère spécial entre les deux. chaque mot et donc la suppression de ce caractère, le rendant facilement contournable par les attaquants.
D’après ce qu’a déclaré TechCrunch, « avec le filigrane de texte, OpenAI se concentrerait exclusivement sur la détection de l’écriture manuscrite à partir de ChatGPT, et non sur les modèles d’autres entreprises. » L’outil serait capable de le faire en apportant de petites modifications à la façon dont ChatGPT sélectionne les mots, ce qui créerait le filigrane invisible mentionné ci-dessus, facilement détectable par l’outil de détection d’IA d’OpenAI.
Que pourrait-il arriver si l’outil OpenAI était publié
Si l’outil OpenAI était effectivement publié, quelles pourraient être les conséquences implications possibles pour nous utilisateurs et, plus généralement, pour le secteur de l’intelligence artificielle ? Selon ce qu’OpenAI lui-même a déclaré, la sortie de l’outil pourrait « stigmatiser l’utilisation de l’intelligence artificielle comme outil d’écriture utile pour les non-anglophones ».
En plus de cela, l’entreprise a déclaré que parmi les conséquences potentielles de la sortie de l’outil, il pourrait y avoir des impacts sur les écosystèmes externes à ChatGPT et, très probablement, les utilisateurs qui utilisent ChatGPT pourraient décider d’abandonner le service pour éviter que leurs textes générés avec l’aide de l’IA sont identifiées par les enseignants, les employeurs, les collègues, etc., peut-être en utilisant produits compétitifs comme, comment Gémeaux de Google ou Copilote par Microsoft. Cette crainte n’est pas sans fondement : des enquêtes indiquent qu’environ un tiers des utilisateurs de ChatGPT pourraient cesser d’utiliser l’outil si OpenAI publiait son outil de reconnaissance.