L’Institut international de l’UNESCO pour l’enseignement supérieur en Amérique latine et dans les Caraïbes (UNESCO IESALC) présente un guide synthèse des enjeux éthiques qui entourent l’utilisation de ChatGPT et de l’intelligence artificielle (IA) en enseignement supérieur.

Le ChatGPT and Artificial Intelligence in higher education : Quick start guide (en anglais), présente les bases de l’utilisation de ChatGPT, ses applications en enseignement supérieur.

L’une des sections du guide porte sur les enjeux éthiques et les défis liés à l’utilisation de ChatGPT.

Enjeux éthiques liés à ChatGPT

  • Intégrité académique.

Le rapport rappelle que les risques de plagiat et de tricherie ont été soulevés dès l’arrivée de ChatGPT. En outre, il a rapidement été constaté que les logiciels de détection de plagiat étaient inefficaces pour déceler l’utilisation de ChatGPT. Plusieurs universités ont ainsi choisi d’en interdire l’utilisation ou de modifier la nature des évaluations.

  • Vie privée

Le fonctionnement de l’intelligence artificielle — et donc de ChatGPT — est accompagné de la collecte de données personnelles,  ce qui sous-tend plusieurs enjeux quant à l’utilisation marchande de ces données.

  • Biais et discrimination

Puisque ChatGPT se base sur les informations collectées sur Internet, il reproduit les biais contenus dans ces informations. De plus, à l’instar des autres formes d’intelligence artificielle, cet outil est susceptible de renforcer les stéréotypes à travers les réponses qu’il génère, notamment en raison du manque de représentativité des équipes de conception et de recherche.

L’UNESCO IESALC rappelle ici l’importance de critiquer et d’analyser les réponses fournies par l’outil, en recourant notamment à d’autres sources d’information.

  • Accessibilité

Le guide met en lumière deux préoccupations concernant l’accessibilité de ChatGPT. D’une part, l’accès à Internet demeure inégal dans le monde, en raison notamment de la disponibilité du service, des coûts ou de sa vitesse. Ces disparités se reflètent dans la recherche et un développement inégal de l’IA dans le monde. D’autre part, l’UNESCO IESALC rappelle que la règlementation et la censure en vigueur dans certains pays limitent l’utilisation de cet outil.

  • Commercialisation

L’UNESCO IESALC appelle à la prudence des établissements d’enseignement supérieur qui choisissent d’utiliser l’IA puisque cela implique la participation d’entités privées dans l’enseignement supérieur.

Quelques pistes pour utiliser ChatGPT avec prudence

L’UNESCO IESALC estime que ChatGPT, utilisé de façon prudente et créative, peut contribuer à la réussite des étudiants et étudiantes en leur offrant notamment un apprentissage plus adapté. Pour ce faire, quelques pistes d’utilisation sont énoncées dans le guide :

  • Discuter des impacts de ChatGPT avec l’ensemble de la communauté universitaire ;
  • Baliser clairement les utilisations acceptées et interdites de ChatGPT — en les ayant débattues avec les personnes enseignantes et étudiantes ;
  • Lier l’utilisation de ChatGPT aux objectifs d’apprentissage ;
  • Revoir les méthodes d’évaluation ;
  • Réviser les politiques institutionnelles en matière d’intégrité académique pour qu’elles tiennent compte de ChatGPT et de l’IA en général ;
  • Accompagner le personnel enseignant, les personnes étudiantes et les chercheurs et chercheuses dans leur utilisation de ChatGPT (apprendre à formuler de bonnes questions, par exemple).
Consulter le guide ChatGPT and Artificial Intelligence in higher education : Quick start guide

Référence

UNESCO IESALC. (2023). ChatGPT and Artificial Intelligence in higher education : Quick start guide