FUTURIAНовое имя университета настоящего и будущего Официальный утверждённый логотип Цифрового Аль-Джазари (DJAIRI)Учредившая организацияЦифровой Аль-Джазари (DJAIRI)

FUTURIA · Язык оригинала: арабский · Читать оригинал

Проверка информации в эпоху ИИ: латеральное чтение и распознавание «галлюцинаций»

Сегодня учащиеся сталкиваются с огромным объёмом информации — частично точной, частично вводящей в заблуждение или выдуманной. Теперь, когда языковые модели создают убедительные тексты, проверка стала ключевым навыком не только для журналистов и исследователей. В этой статье предлагаются практические инструменты, основанные на опубликованных исследованиях, для оценки цифровой информации и результатов работы ИИ.

Информационное расстройство: три типа

В докладе Совета Европы 2017 года Клэр Уордл и Хоссейн Деракшан различают три типа «информационного расстройства»:

  • Мисинформация: ложная информация, распространяемая без намерения причинить вред.
  • Дезинформация: ложная информация, распространяемая умышленно, чтобы ввести в заблуждение или причинить вред.
  • Малинформация: правдивая информация, распространяемая с намерением причинить вред, например раскрытие чьей-то частной жизни.

Это различение помогает выбрать правильную реакцию: иногда достаточно исправления, а умышленная дезинформация требует более глубокого изучения источника и его мотивов.

Латеральное чтение: как проверяют эксперты?

Сэм Уайнбург и Сара Макгрю изучали, как профессиональные фактчекеры оценивают сайты по сравнению с историками и студентами университетов. Они обнаружили, что фактчекеры не задерживаются на самой странице и не полагаются на её внешний вид или на то, что она говорит о себе. Вместо этого они быстро открывают новые вкладки, чтобы узнать, что о публикующем говорят другие источники. Исследователи назвали эту практику «латеральным чтением» и показали, что она ведёт к более точным суждениям за меньшее время.

Практические шаги проверки

В книге 2023 года Майк Колфилд и Сэм Уайнбург обобщают практический подход, который можно применить за несколько минут:

  1. Остановитесь: прежде чем поделиться или поверить, спросите себя, знаете ли вы источник и не вызывает ли информация у вас сильной эмоции.
  2. Изучите источник: поищите сведения о публикующем за пределами его собственного сайта и узнайте о его экспертизе и интересах.
  3. Найдите лучшее освещение: сообщали ли о том же надёжные источники? Что они говорят?
  4. Проследите утверждение до его происхождения: вернитесь к исходному исследованию, документу или изображению и убедитесь, что контекст не искажён.

«Галлюцинации» языковых моделей

Обширный обзор, опубликованный Цзи и коллегами в 2023 году, отмечает, что «галлюцинация», то есть содержание, которое неверно или не подтверждается источником, — хорошо известное явление в системах генерации естественного языка, имеющее несколько причин, связанных с обучающими данными и способом генерации текста. Наиболее распространённые её формы в образовании включают:

  • Научные ссылки, которые выглядят реальными, но не существуют.
  • Цифры и даты, кажущиеся точными, но неверные.
  • Цитаты, приписываемые людям, которые их никогда не произносили.
  • Резюме, добавляющие то, чего нет в исходном тексте.

Как проверять результаты ИИ

  • Ищите каждую ссылку по названию в научной базе данных или на сайте издателя; одного наличия ссылки недостаточно.
  • Сравнивайте цифры с официальным первоисточником, например статистическими докладами и международными организациями.
  • Переформулируйте вопрос и посмотрите, изменится ли ответ; сильное изменение сигнализирует о низкой надёжности.
  • Попросите инструмент назвать источники, а затем проверьте их сами.
  • Отличайте то, что можно проверить, от мнений или оценок.

Итог

Проверка требует скорее регулярных привычек, чем сложных инструментов: остановиться, читать латерально, прослеживать утверждения до их происхождения и относиться к результатам ИИ как к черновикам, требующим проверки.

Источники

  • Wardle, C., & Derakhshan, H. (2017). Information Disorder: Toward an Interdisciplinary Framework for Research and Policymaking. Strasbourg: Council of Europe.
  • Wineburg, S., & McGrew, S. (2019). Lateral reading and the nature of expertise: Reading less and learning more when evaluating digital information. Teachers College Record, 121(11).
  • Caulfield, M., & Wineburg, S. (2023). Verified: How to Think Straight, Get Duped Less, and Make Better Decisions about What to Believe Online. Chicago: University of Chicago Press.
  • Ji, Z., et al. (2023). Survey of hallucination in natural language generation. ACM Computing Surveys, 55(12), Article 248.

Связанные материалы