教育中的生成人工智能:管理的真正机会和风险
生成文本、图像和代码的生成式人工智能工具已在短时间内成为许多学习者和教师生活的一部分。 他们提出了基本问题:我们如何在不让它们取代思维的情况下将它们用于学习? 我们如何保护隐私和学术完整性? 本文总结了领先的国际机构和已发表的研究所表达的内容,并提出了实际习惯。
简而言之,这些工具是如何工作的?
大型语言模型在大量文本上进行统计训练,并学习在给定的上下文中预测下一个单词。 这就是为什么他们产生流利、令人信服的文本,但他们不“了解”人类意义上的真相,他们可以完全自信地产生错误的信息或不存在的参考。 理解这种概率性是合理使用的基础。
值得使用的机会
在他们的2023年审查中,Kasneci及其同事确定了一系列有希望的教育用途,包括:
- 为实践生成各种示例和练习。
- 以不同的方式和不同的层次解释相同的概念,以适应学习者的背景。
- 在一个人审查书面草稿之前就书面草稿提供初步反馈。
- 支持多种语言的学习者,并改善有不同需求的人的访问权限。
- 帮助教师准备材料和处理日常标记任务。
必须管理的风险
同样的来源确定了不应忽视的风险:
- 错误和幻觉:产生看起来正确的发明信息或参考资料。
- 偏见:再现训练数据中存在的偏见,包括对代表性较差的语言和文化的偏见。
- 过度依赖:如果将整个任务交给工具,思维和写作技巧就会下降。
- 隐私:将个人或敏感数据输入到可能存储或使用的系统中。
- 学术诚信:将生成的文本作为自己的作品呈现,而无需披露。
联合国教科文组织的建议是什么?
2023年,教科文组织在教育和研究中发布了以人为本的方法,关于生成人工智能的指南。 其主要建议包括保护数据隐私、为独立使用这些工具设置最低年龄、培训教师,以及在教育机构采用它们之前检查工具是否在教学和道德上合适。 经合组织关于数字教育的报告还讨论了如何将这些技术整合到明确的教育政策中。
学习者的实用原则
- 使用该工具作为思考的伙伴,而不是思考的替代品:向它询问测试您的理解的问题,而不是现成的答案。
- 检查其原始来源中的每条重要信息和每个参考资料。
- 不要输入个人或机密数据。
- 根据您提交作品的身体规则披露您对该工具的使用。
- 保留您自己的草稿,以显示您的想法是如何发展的。
概要
生成式人工智能是一种强大的工具,可以扩大学习机会,前提是人们仍然是决策者并保持责任感。 Futuria 的 AI 和人类未来实验室提供了测试这些原则的实际活动。
参考文献
- UNESCO (2023). Guidance for Generative AI in Education and Research. Paris: UNESCO.
- Kasneci, E., et al. (2023). ChatGPT for good? On opportunities and challenges of large language models for education. Learning and Individual Differences, 103, 102274.
- OECD (2023). OECD Digital Education Outlook 2023: Towards an Effective Digital Education Ecosystem. Paris: OECD Publishing.
- Holmes, W., Bialik, M., & Fadel, C. (2019). Artificial Intelligence in Education: Promises and Implications for Teaching and Learning. Boston: Center for Curriculum Redesign.
