Проверка информации в эпоху ИИ: латеральное чтение и распознавание «галлюцинаций»
Сегодня учащиеся сталкиваются с огромным объёмом информации — частично точной, частично вводящей в заблуждение или выдуманной. Теперь, когда языковые модели создают убедительные тексты, проверка стала ключевым навыком не только для журналистов и исследователей. В этой статье предлагаются практические инструменты, основанные на опубликованных исследованиях, для оценки цифровой информации и результатов работы ИИ.
Информационное расстройство: три типа
В докладе Совета Европы 2017 года Клэр Уордл и Хоссейн Деракшан различают три типа «информационного расстройства»:
- Мисинформация: ложная информация, распространяемая без намерения причинить вред.
- Дезинформация: ложная информация, распространяемая умышленно, чтобы ввести в заблуждение или причинить вред.
- Малинформация: правдивая информация, распространяемая с намерением причинить вред, например раскрытие чьей-то частной жизни.
Это различение помогает выбрать правильную реакцию: иногда достаточно исправления, а умышленная дезинформация требует более глубокого изучения источника и его мотивов.
Латеральное чтение: как проверяют эксперты?
Сэм Уайнбург и Сара Макгрю изучали, как профессиональные фактчекеры оценивают сайты по сравнению с историками и студентами университетов. Они обнаружили, что фактчекеры не задерживаются на самой странице и не полагаются на её внешний вид или на то, что она говорит о себе. Вместо этого они быстро открывают новые вкладки, чтобы узнать, что о публикующем говорят другие источники. Исследователи назвали эту практику «латеральным чтением» и показали, что она ведёт к более точным суждениям за меньшее время.
Практические шаги проверки
В книге 2023 года Майк Колфилд и Сэм Уайнбург обобщают практический подход, который можно применить за несколько минут:
- Остановитесь: прежде чем поделиться или поверить, спросите себя, знаете ли вы источник и не вызывает ли информация у вас сильной эмоции.
- Изучите источник: поищите сведения о публикующем за пределами его собственного сайта и узнайте о его экспертизе и интересах.
- Найдите лучшее освещение: сообщали ли о том же надёжные источники? Что они говорят?
- Проследите утверждение до его происхождения: вернитесь к исходному исследованию, документу или изображению и убедитесь, что контекст не искажён.
«Галлюцинации» языковых моделей
Обширный обзор, опубликованный Цзи и коллегами в 2023 году, отмечает, что «галлюцинация», то есть содержание, которое неверно или не подтверждается источником, — хорошо известное явление в системах генерации естественного языка, имеющее несколько причин, связанных с обучающими данными и способом генерации текста. Наиболее распространённые её формы в образовании включают:
- Научные ссылки, которые выглядят реальными, но не существуют.
- Цифры и даты, кажущиеся точными, но неверные.
- Цитаты, приписываемые людям, которые их никогда не произносили.
- Резюме, добавляющие то, чего нет в исходном тексте.
Как проверять результаты ИИ
- Ищите каждую ссылку по названию в научной базе данных или на сайте издателя; одного наличия ссылки недостаточно.
- Сравнивайте цифры с официальным первоисточником, например статистическими докладами и международными организациями.
- Переформулируйте вопрос и посмотрите, изменится ли ответ; сильное изменение сигнализирует о низкой надёжности.
- Попросите инструмент назвать источники, а затем проверьте их сами.
- Отличайте то, что можно проверить, от мнений или оценок.
Итог
Проверка требует скорее регулярных привычек, чем сложных инструментов: остановиться, читать латерально, прослеживать утверждения до их происхождения и относиться к результатам ИИ как к черновикам, требующим проверки.
Источники
- Wardle, C., & Derakhshan, H. (2017). Information Disorder: Toward an Interdisciplinary Framework for Research and Policymaking. Strasbourg: Council of Europe.
- Wineburg, S., & McGrew, S. (2019). Lateral reading and the nature of expertise: Reading less and learning more when evaluating digital information. Teachers College Record, 121(11).
- Caulfield, M., & Wineburg, S. (2023). Verified: How to Think Straight, Get Duped Less, and Make Better Decisions about What to Believe Online. Chicago: University of Chicago Press.
- Ji, Z., et al. (2023). Survey of hallucination in natural language generation. ACM Computing Surveys, 55(12), Article 248.
