FUTURIAنام تازهٔ دانشگاهِ اکنون و آینده نشان رسمی و مصوب جزری دیجیتال (DJAIRI)نهاد مادرجزری دیجیتال (DJAIRI)

FUTURIA · زبان اصلی: عربی · خواندن متن اصلی

راستی‌آزمایی اطلاعات در عصر هوش مصنوعی: خوانش جانبی و شناسایی توهم

یادگیرندگان امروز با حجم عظیمی از اطلاعات روبه‌رو هستند که بخشی از آن دقیق و بخشی گمراه‌کننده یا ساختگی است. با گسترش مدل‌های زبانی که متن‌های قانع‌کننده تولید می‌کنند، راستی‌آزمایی به مهارتی بنیادین تبدیل شده که دیگر فقط به روزنامه‌نگاران و پژوهشگران تعلق ندارد. این مقاله ابزارهایی عملی و مبتنی بر پژوهش‌های منتشرشده برای ارزیابی اطلاعات دیجیتال و خروجی‌های هوش مصنوعی ارائه می‌دهد.

اختلال اطلاعاتی: سه نوع

گزارش کلر واردل و حسین درخشان که در سال ۲۰۱۷ از سوی شورای اروپا منتشر شد، سه نوع «اختلال اطلاعاتی» را از هم جدا می‌کند:

  • اطلاعات نادرست: اطلاعات غلطی که بدون قصد آسیب منتشر می‌شود.
  • اطلاعات گمراه‌کننده: اطلاعات غلطی که عمداً برای فریب یا آسیب منتشر می‌شود.
  • اطلاعات آسیب‌زا: اطلاعات درستی که با قصد آسیب منتشر می‌شود، مانند افشای زندگی خصوصی افراد.

این تمایز به انتخاب واکنش مناسب کمک می‌کند: گاهی اصلاح کافی است، اما گمراه‌سازی عمدی نیازمند بررسی عمیق‌تر منبع و انگیزه‌های آن است.

خوانش جانبی: کارشناسان چگونه راستی‌آزمایی می‌کنند؟

سم واینبرگ و سارا مک‌گرو بررسی کردند که راستی‌آزمایان حرفه‌ای در مقایسه با مورخان و دانشجویان چگونه وب‌سایت‌ها را ارزیابی می‌کنند. آن‌ها دریافتند که راستی‌آزمایان در خود صفحه درنگ نمی‌کنند و به ظاهر آن یا آنچه دربارهٔ خود می‌گوید بسنده نمی‌کنند، بلکه به‌سرعت زبانه‌های تازه می‌گشایند تا ببینند منابع دیگر دربارهٔ ناشر چه می‌گویند. پژوهشگران این شیوه را «خوانش جانبی» نامیدند و نشان دادند که در زمان کمتر به داوری‌های دقیق‌تر می‌انجامد.

گام‌های عملی راستی‌آزمایی

مایک کالفیلد و سم واینبرگ در کتاب سال ۲۰۲۳ خود رویکردی عملی را خلاصه کرده‌اند که در چند دقیقه قابل اجراست:

  1. درنگ کنید: پیش از هم‌رسانی یا باور، از خود بپرسید آیا منبع را می‌شناسید و آیا این اطلاعات احساس شدیدی در شما برمی‌انگیزد.
  2. منبع را بررسی کنید: ناشر را بیرون از وب‌سایت خودش جست‌وجو کنید و با تخصص و منافعش آشنا شوید.
  3. پوشش بهتری بیابید: آیا منابع معتبر همین خبر را نقل کرده‌اند؟ چه می‌گویند؟
  4. ادعا را تا خاستگاهش دنبال کنید: به پژوهش، سند یا تصویر اصلی بازگردید و مطمئن شوید بافت آن تحریف نشده است.

توهم در مدل‌های زبانی

مروری جامع که جی و همکارانش در سال ۲۰۲۳ منتشر کردند نشان می‌دهد «توهم»، یعنی تولید محتوای نادرست یا بی‌پشتوانه از منبع، پدیده‌ای شناخته‌شده در سامانه‌های تولید زبان طبیعی است و علل گوناگونی مربوط به داده‌های آموزشی و شیوهٔ تولید متن دارد. رایج‌ترین شکل‌های آن در آموزش عبارت‌اند از:

  • منابع علمی‌ای که واقعی به نظر می‌رسند اما وجود ندارند.
  • اعداد و تاریخ‌هایی با ظاهر دقیق اما نادرست.
  • نسبت دادن سخن به کسانی که آن را نگفته‌اند.
  • خلاصه‌هایی که چیزی را به متن اصلی می‌افزایند که در آن نیست.

چگونه خروجی‌های هوش مصنوعی را بررسی کنیم؟

  • هر منبع را با عنوانش در پایگاه دادهٔ علمی یا وب‌سایت ناشر جست‌وجو کنید؛ وجود پیوند کافی نیست.
  • اعداد را با منبع دست‌اول رسمی، مانند گزارش‌های آماری و سازمان‌های بین‌المللی، مقایسه کنید.
  • پرسش را بازنویسی کنید و ببینید پاسخ تغییر می‌کند یا نه؛ تغییر بزرگ نشانهٔ اعتبار پایین است.
  • از ابزار بخواهید منابعش را نام ببرد و سپس خودتان آن‌ها را بررسی کنید.
  • میان آنچه قابل راستی‌آزمایی است و آنچه نظر یا برآورد است تمایز بگذارید.

جمع‌بندی

راستی‌آزمایی بیش از ابزارهای پیچیده به عادت‌های منظم نیاز دارد: درنگ، خوانش جانبی، دنبال کردن ادعا تا خاستگاهش و برخورد با خروجی‌های هوش مصنوعی به عنوان پیش‌نویسی که نیازمند بررسی است.

منابع

  • Wardle, C., & Derakhshan, H. (2017). Information Disorder: Toward an Interdisciplinary Framework for Research and Policymaking. Strasbourg: Council of Europe.
  • Wineburg, S., & McGrew, S. (2019). Lateral reading and the nature of expertise: Reading less and learning more when evaluating digital information. Teachers College Record, 121(11).
  • Caulfield, M., & Wineburg, S. (2023). Verified: How to Think Straight, Get Duped Less, and Make Better Decisions about What to Believe Online. Chicago: University of Chicago Press.
  • Ji, Z., et al. (2023). Survey of hallucination in natural language generation. ACM Computing Surveys, 55(12), Article 248.

مطالب مرتبط