راستیآزمایی اطلاعات در عصر هوش مصنوعی: خوانش جانبی و شناسایی توهم
یادگیرندگان امروز با حجم عظیمی از اطلاعات روبهرو هستند که بخشی از آن دقیق و بخشی گمراهکننده یا ساختگی است. با گسترش مدلهای زبانی که متنهای قانعکننده تولید میکنند، راستیآزمایی به مهارتی بنیادین تبدیل شده که دیگر فقط به روزنامهنگاران و پژوهشگران تعلق ندارد. این مقاله ابزارهایی عملی و مبتنی بر پژوهشهای منتشرشده برای ارزیابی اطلاعات دیجیتال و خروجیهای هوش مصنوعی ارائه میدهد.
اختلال اطلاعاتی: سه نوع
گزارش کلر واردل و حسین درخشان که در سال ۲۰۱۷ از سوی شورای اروپا منتشر شد، سه نوع «اختلال اطلاعاتی» را از هم جدا میکند:
- اطلاعات نادرست: اطلاعات غلطی که بدون قصد آسیب منتشر میشود.
- اطلاعات گمراهکننده: اطلاعات غلطی که عمداً برای فریب یا آسیب منتشر میشود.
- اطلاعات آسیبزا: اطلاعات درستی که با قصد آسیب منتشر میشود، مانند افشای زندگی خصوصی افراد.
این تمایز به انتخاب واکنش مناسب کمک میکند: گاهی اصلاح کافی است، اما گمراهسازی عمدی نیازمند بررسی عمیقتر منبع و انگیزههای آن است.
خوانش جانبی: کارشناسان چگونه راستیآزمایی میکنند؟
سم واینبرگ و سارا مکگرو بررسی کردند که راستیآزمایان حرفهای در مقایسه با مورخان و دانشجویان چگونه وبسایتها را ارزیابی میکنند. آنها دریافتند که راستیآزمایان در خود صفحه درنگ نمیکنند و به ظاهر آن یا آنچه دربارهٔ خود میگوید بسنده نمیکنند، بلکه بهسرعت زبانههای تازه میگشایند تا ببینند منابع دیگر دربارهٔ ناشر چه میگویند. پژوهشگران این شیوه را «خوانش جانبی» نامیدند و نشان دادند که در زمان کمتر به داوریهای دقیقتر میانجامد.
گامهای عملی راستیآزمایی
مایک کالفیلد و سم واینبرگ در کتاب سال ۲۰۲۳ خود رویکردی عملی را خلاصه کردهاند که در چند دقیقه قابل اجراست:
- درنگ کنید: پیش از همرسانی یا باور، از خود بپرسید آیا منبع را میشناسید و آیا این اطلاعات احساس شدیدی در شما برمیانگیزد.
- منبع را بررسی کنید: ناشر را بیرون از وبسایت خودش جستوجو کنید و با تخصص و منافعش آشنا شوید.
- پوشش بهتری بیابید: آیا منابع معتبر همین خبر را نقل کردهاند؟ چه میگویند؟
- ادعا را تا خاستگاهش دنبال کنید: به پژوهش، سند یا تصویر اصلی بازگردید و مطمئن شوید بافت آن تحریف نشده است.
توهم در مدلهای زبانی
مروری جامع که جی و همکارانش در سال ۲۰۲۳ منتشر کردند نشان میدهد «توهم»، یعنی تولید محتوای نادرست یا بیپشتوانه از منبع، پدیدهای شناختهشده در سامانههای تولید زبان طبیعی است و علل گوناگونی مربوط به دادههای آموزشی و شیوهٔ تولید متن دارد. رایجترین شکلهای آن در آموزش عبارتاند از:
- منابع علمیای که واقعی به نظر میرسند اما وجود ندارند.
- اعداد و تاریخهایی با ظاهر دقیق اما نادرست.
- نسبت دادن سخن به کسانی که آن را نگفتهاند.
- خلاصههایی که چیزی را به متن اصلی میافزایند که در آن نیست.
چگونه خروجیهای هوش مصنوعی را بررسی کنیم؟
- هر منبع را با عنوانش در پایگاه دادهٔ علمی یا وبسایت ناشر جستوجو کنید؛ وجود پیوند کافی نیست.
- اعداد را با منبع دستاول رسمی، مانند گزارشهای آماری و سازمانهای بینالمللی، مقایسه کنید.
- پرسش را بازنویسی کنید و ببینید پاسخ تغییر میکند یا نه؛ تغییر بزرگ نشانهٔ اعتبار پایین است.
- از ابزار بخواهید منابعش را نام ببرد و سپس خودتان آنها را بررسی کنید.
- میان آنچه قابل راستیآزمایی است و آنچه نظر یا برآورد است تمایز بگذارید.
جمعبندی
راستیآزمایی بیش از ابزارهای پیچیده به عادتهای منظم نیاز دارد: درنگ، خوانش جانبی، دنبال کردن ادعا تا خاستگاهش و برخورد با خروجیهای هوش مصنوعی به عنوان پیشنویسی که نیازمند بررسی است.
منابع
- Wardle, C., & Derakhshan, H. (2017). Information Disorder: Toward an Interdisciplinary Framework for Research and Policymaking. Strasbourg: Council of Europe.
- Wineburg, S., & McGrew, S. (2019). Lateral reading and the nature of expertise: Reading less and learning more when evaluating digital information. Teachers College Record, 121(11).
- Caulfield, M., & Wineburg, S. (2023). Verified: How to Think Straight, Get Duped Less, and Make Better Decisions about What to Believe Online. Chicago: University of Chicago Press.
- Ji, Z., et al. (2023). Survey of hallucination in natural language generation. ACM Computing Surveys, 55(12), Article 248.
