FUTURIALe nouveau nom de l’université du présent et de l’avenir Logo officiel approuvé d’Al-Jazari numérique (DJAIRI)Institution mèreAl-Jazari numérique (DJAIRI)

FUTURIA · Langue originale : arabe · Lire l’original

L'IA générative dans l'éducation : des opportunités et des risques réels à gérer

Les outils d'intelligence artificielle génératives, qui peuvent produire du texte, des images et du code, sont devenus une partie de la vie de nombreux apprenants et enseignants en peu de temps. Ils soulèvent des questions fondamentales : comment pouvons-nous les utiliser pour apprendre sans les laisser remplacer la pensée ? Et comment protéger la confidentialité et l'intégrité académique ? Cet article résume ce que disent les principaux organismes internationaux et les recherches publiées, et suggère des habitudes pratiques.

Comment fonctionnent ces outils, en bref ?

Les grands modèles de langage sont formés statistiquement sur de grandes quantités de texte et apprennent à prédire le mot suivant dans un contexte donné. C'est pourquoi ils produisent des textes fluides et convaincants, mais ils ne "connaissent" pas la vérité au sens humain, et ils peuvent produire des informations erronées ou des références inexistantes en toute confiance. Comprendre cette nature probabiliste est la base d'une utilisation sensible.

Opportunités à utiliser

Dans leur revue de 2023, Kasneci et ses collègues identifient une gamme d'utilisations éducatives prometteuses, notamment :

  • Générer des exemples et des exercices variés pour la pratique.
  • Expliquer le même concept de différentes manières et à différents niveaux pour s'adapter à l'arrière-plan de l'apprenant.
  • Donner une rétroaction initiale sur les brouillons écrits avant qu'une personne ne les examine.
  • Soutenir les apprenants dans plusieurs langues et améliorer l'accès aux personnes ayant des besoins différents.
  • Aider les enseignants à préparer le matériel et à gérer les tâches de marquage de routine.

Risques à gérer

Les mêmes sources identifient les risques qui ne doivent pas être ignorés :

  • Erreurs et hallucinations : production d'informations ou de références inventées qui semblent correctes.
  • Biais : reproduisant les biais présents dans les données de formation, y compris les biais contre les langues et les cultures moins représentées.
  • Trop-reliance : une baisse des compétences de réflexion et d'écriture si toute la tâche est confiée à l'outil.
  • Confidentialité : saisie de données personnelles ou sensibles dans des systèmes qui peuvent les stocker ou les utiliser.
  • Intégrité académique : présenter le texte généré comme son propre travail sans divulgation.

Que recommande l'UNESCO ?

En 2023, l'UNESCO a publié des orientations sur l'IA générative dans le domaine de l'éducation et de la recherche qui met l'accent sur une approche centrée sur l'humain. Ses principales recommandations incluent la protection de la confidentialité des données, la définition d'un âge minimum pour une utilisation indépendante de ces outils, la formation des enseignants et la vérification que les outils sont pédagogiquement appropriés et éthiquement appropriés avant que les établissements d'enseignement ne les adoptent. Les rapports de l'OCDE sur l'éducation numérique discutent également de la manière d'intégrer ces technologies dans des politiques d'éducation claires.

Principes pratiques pour les apprenants

  1. Utilisez l'outil comme partenaire de réflexion, et non comme un substitut à la réflexion : posez-lui des questions qui testent votre compréhension, pas des réponses prêtes à l'emploi.
  2. Vérifiez chaque information importante et chaque référence dans sa source d'origine.
  3. Ne saisissez pas de données personnelles ou confidentielles.
  4. Divulguez votre utilisation de l'outil selon les règles du corps auquel vous soumettez votre travail.
  5. Gardez vos propres brouillons pour montrer comment votre réflexion s'est développée.

Résumé

L'IA générative est un outil puissant qui peut élargir les possibilités d'apprentissage, à condition que les gens restent les décideurs et restent responsables. Le laboratoire de Futuria pour l'IA et l'avenir humain propose des activités pratiques pour tester ces principes.

Références

  • UNESCO (2023). Guidance for Generative AI in Education and Research. Paris: UNESCO.
  • Kasneci, E., et al. (2023). ChatGPT for good? On opportunities and challenges of large language models for education. Learning and Individual Differences, 103, 102274.
  • OECD (2023). OECD Digital Education Outlook 2023: Towards an Effective Digital Education Ecosystem. Paris: OECD Publishing.
  • Holmes, W., Bialik, M., & Fadel, C. (2019). Artificial Intelligence in Education: Promises and Implications for Teaching and Learning. Boston: Center for Curriculum Redesign.

Lectures associées