« Une course contre la montre » : une université australienne met au point un nouvel outil de détection de l’IA pour lutter contre ChatGPT

Par Nina Nguyen
18 avril 2023 08:08 Mis à jour: 18 avril 2023 08:57

Alors que le secteur de l’éducation est aux prises avec les répercussions de ChatGPT – un agent conversationnel à intelligence artificielle (IA) ou « chatbot », The Group of Eight, composé des 8 universités les plus prestigieuses d’Australie, a mis en place un nouvel outil de détection afin d’aider les enseignants à repérer toute utilisation non autorisée de l’IA dans les travaux d’étudiants.

Dans un avis adressé aux étudiants, publié le 11 avril, l’université de Nouvelle-Galles du Sud (UNSW) a déclaré que le logiciel de détection de l’IA fournirait aux enseignants le pourcentage de texte généré par l’IA et mettrait en évidence les passages pertinents.

L’université a souligné que l’utilisation non autorisée de l’IA dans les travaux est « une forme de tricherie et est considérée comme une infraction de la part des étudiants. »

Bien que le nouvel outil – développé par une société privée – ne soit pas entièrement précis, il sera utilisé comme un élément d’information pour indiquer l’utilisation non autorisée de l’IA dans les devoirs et déclencher une enquête plus approfondie.

« Lorsque l’utilisation non autorisée de l’IA dans les évaluations est établie, les sanctions encourues peuvent varier de la note zéro pour le devoir à la suspension ou à l’exclusion permanente », précise l’avis.

« Si la technologie évolue, nos valeurs en matière d’intégrité académique ne changent pas. Votre travail doit être le vôtre et lorsque l’utilisation d’outils d’intelligence artificielle tels que ChatGPT a été autorisée par votre responsable de cours, elle doit être dûment mentionnée et vos travaux doivent être en grande partie les vôtres. »

Le vice-chancelier adjoint de l’UNSW, Merlin Crossley, a décrit le nouvel outil comme un « logiciel anti-triche », affirmant que les enseignants ne savent pas dans quelle mesure le nouveau logiciel détecte la tricherie, mais que « les étudiants ne savent pas non plus dans quelle mesure, il fonctionne ».

Il a ajouté que même si le logiciel finira par être contourné et que les gens trouveront des moyens de le faire, « la prochaine itération sortira ».

« En fin de compte, il s’agit en partie d’une course contre la montre, mais aussi du fait que les universités sont axées sur l’apprentissage, que la plupart des étudiants veulent apprendre et qu’il suffit de poser quelques obstacles impossibles à franchir pour que tout le monde reste honnête », a déclaré M. Crossley à la radio 2GB de Sydney le 14 avril.

Il a ajouté que les universités australiennes travaillaient « toutes ensemble » pour trouver des solutions, la plupart d’entre elles ayant remanié les tests pour lutter contre l’utilisation de l’IA.

Les dangers de l’IA

Dans un commentaire publié sur The Australian, M. Crossley a également mis en garde les professeurs contre l’adoption totale de ChatGPT, estimant que « les aspects positifs nous empêchent de voir les risques ».

« Je crois que l’existence humaine continuera à se déployer dans deux contextes — les périodes où ChatGPT est à disposition et les périodes où il ne l’est pas. Nous devons former nos étudiants à ces deux éventualités. Il ne s’agit pas de l’adopter ou non. Il s’agit de savoir comment former les étudiants pour les moments où il n’est pas disponible. »

« Nous avons besoin de médecins capables d’aider un patient lors d’une randonnée dans le bush ou après un cyclone. Nous avons besoin de dirigeants capables de réfléchir de manière autonome, de prendre des décisions et de répondre à des questions. Nous avons besoin d’enseignants capables de transmettre leurs connaissances et leurs compétences. »

« Ainsi, dans chaque cours, nous devons maintenant nous assurer que nous avons des évaluations où les étudiants peuvent utiliser le ChatGPT et d’autres où ils ne le peuvent pas. En effet, dans leur existence, les étudiants seront confrontés à des situations où ils pourront utiliser l’intelligence artificielle et à d’autres où ils ne le pourront pas. »

Il a suggéré que les enseignants apprennent aux élèves à utiliser ChatGPT tout en continuant à leur apprendre à se débrouiller sans lui.

ChatGPT peut se révéler tendancieux, avertit l’université de Sydney

Une autre grande université australienne, l’université de Sydney, a également publié des lignes directrices déconseillant aux étudiants d’utiliser ChatGPT pour les évaluations, à moins qu’ils n’y soient explicitement autorisés ; ajoutant que le fait de ne pas reconnaître l’utilisation d’outils d’IA pourrait les exposer à des accusations de tricherie.

L’université a indiqué aux étudiants qu’il était important de se rappeler que les réponses fournies par ChatGPT « reflètent les préjugés, les opinions et les points de vue des humains qui ont informé le texte sur lequel il a été formé. Ce qui pourrait ne pas correspondre à vos propres valeurs. »

« Bien que le contenu produit par ChatGPT semble impressionnant à première vue, la réalité est que toutes les réponses ne sont pas bien formulées ou même correctes. Cela devient évident si vous posez à ChatGPT des questions très conceptuelles ou des calculs difficiles ou complexes », a déclaré l’université le 24 février.

« Sur la page FAQ de ChatGPT, OpenAI confirme que les résultats de l’outil peuvent être parfois inexacts, mensongers et trompeurs. »

Des universitaires se tournent vers l’IA

Entre-temps, certains enseignants cherchent à intégrer l’IA dans les salles de classe. Vaughan Connolly, chercheur à l’université de Cambridge, estime que ChatGPT peut aider les étudiants à présenter leurs idées de manière claire et organisée et sous la forme appropriée, ce qui permet aux enseignants de se concentrer sur les idées elles-mêmes.

« Ce faisant, il pourrait réorienter l’enseignement vers la pensée critique et les questions fondamentales. Comme il peut également résumer un argument, des connaissances et des concepts, il y a un réel potentiel pour aider à l’évaluation formative, en particulier dans les situations où les enseignants disposent de peu de temps », a-t-il déclaré.

Steve Watson, co-responsable du programme Knowledge, Power and Politics de la faculté d’éducation de l’université de Cambridge, a toutefois déclaré que l’IA était une « épée à double tranchant » que les gens ne pouvaient pas considérer comme « annonçant l’arrivée d’une nouvelle utopie. »

« À bien des égards, cela nous ramène à la vieille idée de Douglas Adams sur la pensée profonde : nous sommes très attirés par la perspective que quelque chose agisse comme une source d’intelligence ultime et de connaissance informationnelle, mais il ne s’agit pas d’une source d’information indépendante et digne de confiance. »

Soutenez Epoch Times à partir de 1€

Comment pouvez-vous nous aider à vous tenir informés ?

Epoch Times est un média libre et indépendant, ne recevant aucune aide publique et n’appartenant à aucun parti politique ou groupe financier. Depuis notre création, nous faisons face à des attaques déloyales pour faire taire nos informations portant notamment sur les questions de droits de l'homme en Chine. C'est pourquoi, nous comptons sur votre soutien pour défendre notre journalisme indépendant et pour continuer, grâce à vous, à faire connaître la vérité.