Überprüfung von Informationen im Zeitalter der KI: Laterales Lesen und Erkennen von Halluzinationen
Die Lernenden sehen sich heute mit großen Mengen an Informationen konfrontiert, einige davon genau und einige davon irreführend oder erfunden. Mit Sprachmodellen, die jetzt überzeugenden Text produzieren, ist die Verifizierung nicht nur für Journalisten und Forscher zu einer Kernkompetenz geworden. Dieser Artikel bietet praktische Tools, die auf veröffentlichten Forschungsergebnissen basieren, um digitale Informationen und KI-Ausgaben zu bewerten.
Informationsstörung: drei Typen
Ein Bericht des Europarates 2017 von Claire Wardle und Hossein Derakhshan unterscheidet drei Arten von "Informationsstörungen":
- Fehlinformationen: Falsche Informationen, die ohne Schadensabsicht geteilt werden.
- Desinformation: Falsche Informationen, die absichtlich geteilt werden, um irrezuführen oder Schaden zu verursachen.
- Malinformationen: Wahre Informationen, die mit der Absicht geteilt werden, Schaden zuzufügen, z. B. das Privatleben einer Person zu entlarven.
Diese Unterscheidung hilft bei der Auswahl der richtigen Antwort: Manchmal reicht eine Korrektur aus, während absichtliche Desinformation einen tieferen Blick auf die Quelle und ihre Motive erfordert.
Lateral Reading: Wie überprüfen Experten?
Sam Wineburg und Sarah McGrew haben untersucht, wie professionelle Faktenprüfer Websites im Vergleich zu Historikern und Studenten bewerten. Sie stellten fest, dass Faktenprüfer nicht auf der Seite selbst verweilen oder sich auf ihr Aussehen oder auf das verlassen, was sie über sich selbst sagt. Stattdessen öffnen sie schnell neue Registerkarten, um zu sehen, was andere Quellen über den Herausgeber sagen. Die Forscher nannten diese Praxis "laterales Lesen" und zeigten, dass sie in kürzerer Zeit zu genaueren Urteilen führt.
Praktische Schritte zur Überprüfung
Mike Caulfield und Sam Wineburg fassen in ihrem Buch 2023 einen praktischen Ansatz zusammen, der in Minuten angewandt werden kann:
- Stopp: Bevor Sie teilen oder glauben, fragen Sie sich, ob Sie die Quelle kennen und ob die Informationen eine starke Emotion in Ihnen auslösen.
- Untersuchen Sie die Quelle: Suchen Sie den Publisher außerhalb seiner eigenen Website und informieren Sie sich über dessen Fachwissen und Interessen.
- Bessere Abdeckung finden: Haben zuverlässige Quellen dasselbe gemeldet? Was sagen sie?
- Verfolgen Sie den Anspruch auf seinen Ursprung: Gehen Sie zurück zur ursprünglichen Studie, zum Dokument oder zum Bild und stellen Sie sicher, dass der Kontext nicht verzerrt wurde.
Halluzination in Sprachmodellen
Eine umfassende Rezension von JI und Kollegen aus dem Jahr 2023 stellt fest, dass "Halluzination" bedeutet, dass Inhalte, die falsch oder nicht von der Quelle unterstützt werden, ein bekanntes Phänomen in Systemen zur Erzeugung natürlicher Sprachen sind, mit mehreren Ursachen im Zusammenhang mit den Trainingsdaten und der Art und Weise, wie Text generiert wird. Zu den häufigsten Formen in der Bildung gehören:
- Wissenschaftliche Referenzen, die echt aussehen, aber nicht existieren.
- Genau aussehende Zahlen und Daten, die falsch sind.
- Zitate, die Leuten zugeschrieben werden, die sie nie gesagt haben.
- Zusammenfassungen, die Dinge hinzufügen, die der ursprüngliche Text nicht enthält.
So überprüfen Sie AI-Ausgänge
- Suchen Sie nach jeder Referenz nach ihrem Titel in einer wissenschaftlichen Datenbank oder auf der Website des Herausgebers; Das Vorhandensein eines Links reicht nicht aus.
- Vergleichen Sie Zahlen mit einer offiziellen Primärquelle, wie statistischen Berichten und internationalen Organisationen.
- Formulieren Sie die Frage neu und prüfen Sie, ob sich die Antwort ändert. Eine große Änderung signalisiert schwache Zuverlässigkeit.
- Bitten Sie das Tool, seine Quellen zu benennen, und überprüfen Sie sie dann selbst.
- Unterscheiden Sie zwischen dem, was überprüft werden kann und was Meinung oder Schätzung ist.
Zusammenfassung
Die Überprüfung erfordert regelmäßige Gewohnheiten mehr als komplexe Werkzeuge: Stoppen, seitliches Lesen, Rückverfolgung von Ansprüchen auf ihren Ursprung und Behandlung von KI-Ausgaben als Entwürfe, die überprüft werden müssen.
Referenzen
- Wardle, C., & Derakhshan, H. (2017). Information Disorder: Toward an Interdisciplinary Framework for Research and Policymaking. Strasbourg: Council of Europe.
- Wineburg, S., & McGrew, S. (2019). Lateral reading and the nature of expertise: Reading less and learning more when evaluating digital information. Teachers College Record, 121(11).
- Caulfield, M., & Wineburg, S. (2023). Verified: How to Think Straight, Get Duped Less, and Make Better Decisions about What to Believe Online. Chicago: University of Chicago Press.
- Ji, Z., et al. (2023). Survey of hallucination in natural language generation. ACM Computing Surveys, 55(12), Article 248.
