Alors que la technologie de ChatGPT semble se répandre dans toutes les applications afin de faciliter les usages et le travail de chacun. Son utilisation à de nombreuses fois était détournée de son but initial. C’est pourquoi, voulant conserver une image saine, Open AI a mis au point un outil capable de détecter les textes écrits par ChatGPT.
Pourquoi créer son propre détecteur ?
Lors de la mise en ligne de ChatGPT, son objectif premier était d’aider ses utilisateurs en répondant à leurs questions et leur facilitant certaines parties de recherches ou d’écritures. Cependant, des faits pouvant nuire à la réputation du module NLP ont commencé à apparaître à travers le globe. Notamment, des étudiants utilisant le chatbot pour confectionner de toute pièce leurs devoirs, des journalistes ont pu écrire des articles entiers grâce à lui, en seulement quelques minutes, et dernièrement des mails professionnels furent également entièrement rédigés par cet outil. De ce fait, tous ces exemples ont mené à une inquiétude et des suspicions auprès d’organismes et d’institutions, surtout le système éducatif.
A cause de la mauvaise pratique de ces utilisateurs, OpenAI a décidé de fournir une solution gratuite capable de déterminer si un texte est écrit par un humain ou non. Cependant, malgré ces capacités, ce dernier possède certaines limites.
LANCEZ VOTRE CARRIÈRE :
DEVENEZ DATA SCIENTIST !
Une reconversion dans le big data vous intéresse, mais vous ne savez pas par où commencer ? Découvrez notre formation de Data Scientist.
LANCEZ VOTRE CARRIÈRE :
DEVENEZ DATA SCIENTIST !
Une reconversion dans le big data vous intéresse, mais vous ne savez pas par où commencer ?
Quelles sont les possibilités et les limites ?
Pour commencer, le texte à analyser nécessite de remplir certaines conditions, il doit comporter minimum 1000 caractères et être en anglais du fait que le module a été entraîné principalement par des textes anglais.
Une fois analysé, l’outil d’intelligence artificielle catégorise le texte selon 5 possibilités :
- Très peu probable d’être généré par l’IA (< 0.1)
- Peu probable qu’il soit généré par l’IA (entre 0,1 et 0,45)
- Incertain s’il s’agit d’une IA (entre 0.45 et 0.9)
- Possiblement généré par l’IA (entre 0.45 et 0.98)
- Probablement généré par l’IA (> 0,98)
Plus le score est proche de 1, plus le texte à des chances d’être écrit par ChatGPT. Cependant, en fonction du style d’écriture du chatbot ou des modifications apportées au texte original, le détecteur peut penser qu’il s’agit d’un texte écrit par un Homme.
Open AI est au courant des lacunes de son outil, mais laisse à penser qu’ils apporteront des modifications à ce dernier pour le rendre plus performant.
Cette solution, fournie par Open AI, vise à rassurer et à aider les organismes d’éducation dans leur lutte contre la triche. Grâce à ce système, l’entreprise à l’origine de ChatGPT espère se détacher de cette mauvaise image grandissante autour de son produit révolutionnaire. D’autres organismes développent également des moyens pour reconnaître plus facilement les écrits générés par des chatbots, c’est notamment le cas de l’université du Maryland et de leur algorithme de détection. C’est pourquoi, si la Data Science vous intéresse ou si vous envisagez une carrière dedans, n’hésitez pas à découvrir nos offres de formations et nos autres articles sur DataScientest.
Source : artificialcorner.com
