AI の時代に情報を検証する: 横読みと幻覚の発見
今日の学習者は、膨大な量の情報に直面していますが、その一部は正確で、一部の情報は誤解を招く、または発明されています。 現在、言語モデルが説得力のあるテキストを作成しているため、検証はジャーナリストや研究者だけでなく、コア スキルになっています。 この記事は、公開された調査に基づいて、デジタル情報と AI 出力を評価するための実用的なツールを提供します。
情報障害: 3 種類
Claire Wardle と Hossein Derakhshan による 2017 年ヨーロッパ評議会の報告書では、「情報障害」の 3 つのタイプを区別しています。
- 誤った情報: 危害を加えることなく共有された虚偽の情報。
- 偽情報: 誤解を招く、または損害を与えるために、意図的に共有された虚偽の情報。
- 不正情報: 誰かの私生活を暴露するなど、危害を加える目的で共有される真の情報。
この区別は、適切な応答を選択するのに役立ちます。修正で十分な場合もありますが、意図的な偽情報では、ソースとその動機をより深く調べる必要があります。
横の読み方: 専門家はどのように確認しますか?
Sam Wineburg と Sarah McGrew は、プロのファクトチェッカーが歴史家や大学生と比較して Web サイトを評価する方法を研究しました。 彼らは、ファクト チェッカーがページ自体にとどまったり、その外観やそれ自体についての発言に頼ったりしないことを発見しました。 代わりに、新しいタブをすばやく開いて、他の情報源がパブリッシャーについて何を言っているのかを確認します。 研究者たちは、この実践を「横の読書」と呼び、より短い時間でより正確な判断につながることを示しました。
検証のための実際的な手順
Mike Caulfield と Sam Wineburg の 2023 年の著書の中で、数分で適用できる実用的なアプローチを要約しています。
- 停止: 共有または信じる前に、ソースを知っているかどうか、その情報が自分の強い感情を引き起こすかどうかを自問してください。
- ソースを調査する: パブリッシャーを自分の Web サイトの外で調べて、その専門知識と興味について調べてください。
- より良い報道を見つける: 信頼できる情報源は同じことを報告していますか? 彼らは何と言っていますか?
- 主張をその起源まで追跡します。元の研究、文書、または画像に戻り、コンテキストが歪んでいないことを確認します。
言語モデルにおける幻覚
JI と同僚が 2023 年に発表した包括的なレビューでは、ソースが正しくない、またはサポートされていないコンテンツを意味する「幻覚」は、自然言語生成システムではよく知られている現象であり、トレーニング データとテキストの生成方法に関連するいくつかの原因があると指摘されています。 教育における最も一般的な形態は次のとおりです。
- 本物に見えるが存在しない科学的参考文献。
- 正確に見える数字と間違っている日付。
- 発言したことのない人による引用。
- 元のテキストに含まれていないものを追加する要約。
AI 出力を確認する方法
- 学術データベースまたは出版社のサイトで、そのタイトルですべての参照を検索します。 リンクの存在だけでは十分ではありません。
- 統計レポートや国際組織など、公式の一次情報源と数値を比較してください。
- 質問を言い換えて、答えが変わるかどうかを確認します。 大きな変化は信頼性が低いことを示しています。
- ソースの名前をツールに依頼してから、自分で確認してください。
- 検証できるものと、意見や見積もりとは何かを区別します。
概要
検証には、複雑なツールよりも定期的な習慣が必要です: 停止、横方向の読み取り、原点の主張の追跡、および確認が必要なドラフトとしての AI 出力の扱い。
参照
- Wardle, C., & Derakhshan, H. (2017). Information Disorder: Toward an Interdisciplinary Framework for Research and Policymaking. Strasbourg: Council of Europe.
- Wineburg, S., & McGrew, S. (2019). Lateral reading and the nature of expertise: Reading less and learning more when evaluating digital information. Teachers College Record, 121(11).
- Caulfield, M., & Wineburg, S. (2023). Verified: How to Think Straight, Get Duped Less, and Make Better Decisions about What to Believe Online. Chicago: University of Chicago Press.
- Ji, Z., et al. (2023). Survey of hallucination in natural language generation. ACM Computing Surveys, 55(12), Article 248.
