OpenAI, la société responsable de l’intelligence artificielle générative ChatGPT, avait développé un filigrane de détection capable d’identifier les textes produits par son outil avec une précision de 99,9 %. Cependant, des craintes concernant les contournements possibles et la perte d’utilisateurs ont poussé l’entreprise à abandonner cette mesure de sécurité.
Les défis de la tricherie académique
Chaque nouvelle technologie entraîne des usages variés et parfois inattendus. L’émergence de ChatGPT, un outil conversationnel basé sur l’intelligence artificielle, a été marquée par une augmentation de la tricherie parmi les étudiants.
Faire rédiger un texte par une IA générative n’est plus rare, ce qui pousse certains enseignants à revoir leurs méthodes d’évaluation. Selon des témoignages recueillis par L’ADN, certains professeurs renoncent à donner des devoirs à domicile. Un professeur en sciences biologiques dans un institut suisse admet : « J’essaie de faire plus d’évaluations qui demandent de la créativité, ou des évaluations orales ».
Les indices de tricherie incluent des niveaux de langue trop élevés, des textes longs mais redondants, des phrases vagues et des citations sans sources. Une professeure d’anglais partage : « Si j’ai un doute, il suffit de leur demander de m’expliquer ce qu’ils ont écrit. En général, ils ne comprennent pas les phrases qu’ils ont utilisées ».
OpenAI et le filigrane de détection pour les universités et les lycées
Pour contrer ces abus, OpenAI avait mis en place un filigrane de détection, assurant avec une certitude de 99,9 % si un texte était généré par ChatGPT.
- Le filigrane modifiait légèrement le modèle de prédiction pour créer un schéma identifiable dans le texte.
- Cette méthode résistait à la paraphrase par l’utilisateur et n’affectait pas la pertinence des résultats de ChatGPT.
- Avec l’outil adéquat, il était possible de retrouver ce filigrane dans une production écrite.
Malgré son efficacité, OpenAI a finalement décidé de ne pas implémenter ce filigrane, préférant explorer d’autres solutions telles que l’utilisation de métadonnées.
Pressions légales et enjeux réglementaires
OpenAI n’envisage pas ces mesures uniquement pour aider les enseignants. Les réglementations légales, notamment au sein de l’Union européenne, imposent des contraintes aux fournisseurs et utilisateurs de systèmes d’IA.
- L’IA Act, publié le 1er août, exige que les sorties des systèmes d’IA soient identifiées comme telles, conformément à son article 50.
- Les fournisseurs doivent s’assurer que leurs solutions techniques soient efficaces, interopérables, robustes et fiables.
- Les systèmes d’IA à usage général devront se conformer à ce règlement d’ici le 2 août 2027.
OpenAI et ses concurrents ont encore du temps pour développer les solutions nécessaires afin de se conformer aux nouvelles régulations.
Impact sur les utilisateurs et la technologie
La mise en place de mesures de détection pourrait avoir des conséquences importantes sur les utilisateurs de ChatGPT, en particulier les non-anglophones.
OpenAI craint que 30 % de ses utilisateurs puissent se détourner de la plateforme si un tel outil de détection était adopté, selon le Wall Street Journal.
En parallèle, OpenAI poursuit ses recherches pour améliorer la transparence et l’authenticité des contenus générés par l’IA, tout en minimisant les impacts négatifs sur les utilisateurs légitimes.
Pour une perspective plus large sur les applications de l’intelligence artificielle, découvrez notre article l’optimisation du SEO grâce à l’intelligence artificielle .
OpenAI continue de jongler entre innovation et régulation, cherchant à équilibrer l’intégrité de ses technologies avec les attentes légales et éthiques. Cette démarche montre bien les défis complexes que pose le développement de l’intelligence artificielle dans notre société moderne.