Предвзятость интеллектуальных систем
Введение в знание — Предвзятость интеллектуальных систем
Данные, на которых обучаются модели, могут воспроизводить социальное неравенство или недостаточно представлять отдельные группы. Различия в ответах могут возникать из-за формулировки, доступных данных и способов оценки, поэтому результаты следует рассматривать критически.
Почему это важно в FUTURIA? Это помогает перейти от получения информации к пониманию, действию и вкладу. Это может стать началом учебного пути, вопросом на форуме знаний или идеей, поданной в Творческий инкубатор. Чтобы обсуждать идею, академическое звание не требуется, но задокументированное достижение требует подходящих доказательств.
Предлагаемое занятие — Задайте одному инструменту по-разному сформулированные версии вопроса и запишите изменения в ответах и скрытые допущения.
Границы ответственности — Небольшой эксперимент может выявить полезные вопросы, но сам по себе не доказывает системной предвзятости.
Для обсуждения: какое допущение следует проверить первым? К какому источнику можно обратиться? Какой результат можно задокументировать и каковы пределы его обобщения?
