Vérification de l'information à l'ère de l'IA : lecture latérale et hallucinations
Les apprenants d'aujourd'hui sont confrontés à d'énormes quantités d'informations, dont certaines sont exactes et certaines trompent ou inventées. Avec des modèles de langage qui produisent désormais des textes convaincants, la vérification est devenue une compétence de base, pas seulement pour les journalistes et les chercheurs. Cet article propose des outils pratiques, basés sur des recherches publiées, pour évaluer les informations numériques et les sorties d'IA.
Trouble de l'information : trois types
Un rapport du Conseil de l'Europe de 2017 de Claire Wardle et Hossein Derakhshan distingue trois types de "troubles de l'information":
- Défaut d'informations : fausses informations partagées sans intention de nuire.
- Désinformation : fausses informations partagées délibérément pour induire en erreur ou causer des dommages.
- Mal-information : véritable information partagée avec l'intention de nuire, comme exposer la vie privée de quelqu'un.
Cette distinction aide à choisir la bonne réponse : parfois, une correction suffit, tandis que la désinformation délibérée appelle à un examen plus approfondi de la source et de ses motivations.
Lecture latérale : comment les experts vérifient-ils ?
Sam Wineburg et Sarah McGrew ont étudié comment les vérificateurs de faits professionnels évaluent les sites Web par rapport aux historiens et aux étudiants universitaires. Ils ont constaté que les vérificateurs de faits ne s'attardent pas sur la page elle-même ou ne s'appuient pas sur son apparence ou sur ce qu'il dit sur lui-même. Au lieu de cela, ils ouvrent rapidement de nouveaux onglets pour voir ce que d'autres sources disent de l'éditeur. Les chercheurs ont qualifié cette pratique de "lecture latérale" et ont montré qu'elle conduisait à des jugements plus précis en moins de temps.
Étapes pratiques pour la vérification
Dans leur livre de 2023, Mike Caulfield et Sam Wineburg résument une approche pratique qui peut être appliquée en quelques minutes :
- Arrêtez : Avant de partager ou de croire, demandez-vous si vous connaissez la source et si l'information déclenche une forte émotion en vous.
- Recherchez la source : recherchez l'éditeur en dehors de son propre site Web et découvrez son expertise et ses intérêts.
- Trouver une meilleure couverture : des sources fiables ont-elles signalé la même chose ? Que disent-ils ?
- Retracer la revendication jusqu'à son origine : revenez à l'étude, au document ou à l'image d'origine et assurez-vous que le contexte n'a pas été déformé.
Hallucination dans les modèles de langage
Une revue complète publiée par JI et ses collègues en 2023 note que "l'hallucination", c'est-à-dire un contenu incorrect ou non pris en charge par la source, est un phénomène bien connu dans les systèmes de génération de langage naturel, avec plusieurs causes liées aux données de formation et à la manière dont le texte est généré. Ses formes les plus courantes en éducation comprennent :
- Les références scientifiques qui semblent réelles mais qui n'existent pas.
- Chiffres et dates d'apparence précise qui sont erronés.
- Citations attribuées à des personnes qui ne les ont jamais dites.
- Les résumés qui ajoutent des éléments que le texte d'origine ne contient pas.
Comment vérifier les sorties AI
- rechercher chaque référence par son titre dans une base de données savante ou sur le site de l'éditeur ; La présence d'un lien ne suffit pas.
- Comparez les chiffres avec une source primaire officielle, comme les rapports statistiques et les organisations internationales.
- Reformulez la question et voyez si la réponse change ; Un grand changement signale une faible fiabilité.
- Demandez à l'outil de nommer ses sources, puis vérifiez-les vous-même.
- Faites la distinction entre ce qui peut être vérifié et ce qui est une opinion ou une estimation.
Résumé
La vérification nécessite des habitudes régulières plus que des outils complexes : arrêt, lecture latérale, traçage des revendications à leur origine et traitement des sorties d'IA comme des brouillons qui doivent être vérifiés.
Références
- Wardle, C., & Derakhshan, H. (2017). Information Disorder: Toward an Interdisciplinary Framework for Research and Policymaking. Strasbourg: Council of Europe.
- Wineburg, S., & McGrew, S. (2019). Lateral reading and the nature of expertise: Reading less and learning more when evaluating digital information. Teachers College Record, 121(11).
- Caulfield, M., & Wineburg, S. (2023). Verified: How to Think Straight, Get Duped Less, and Make Better Decisions about What to Believe Online. Chicago: University of Chicago Press.
- Ji, Z., et al. (2023). Survey of hallucination in natural language generation. ACM Computing Surveys, 55(12), Article 248.
