FUTURIAO novo nome da universidade do agora e do futuro Logotipo oficial aprovado da Al-Jazari Digital (DJAIRI)Instituição mantenedoraAl-Jazari Digital (DJAIRI)

FUTURIA · Idioma original: árabe · Ler o original

IA generativa na educação: oportunidades e riscos reais para gerenciar

As ferramentas de IA generativas, que podem produzir texto, imagens e códigos, tornaram-se parte da vida de muitos alunos e professores em pouco tempo. Eles levantam questões fundamentais: como podemos usá-los para aprender sem deixá-los substituir o pensamento? E como protegemos a privacidade e a integridade acadêmica? Este artigo resume o que dizem os principais órgãos internacionais e pesquisas publicadas, e sugere hábitos práticos.

Como essas ferramentas funcionam, em resumo?

Modelos de linguagem grande são treinados estatisticamente em grandes quantidades de texto e aprendem a prever a próxima palavra em um determinado contexto. É por isso que eles produzem textos fluentes e convincentes, mas não "conhecem" a verdade no sentido humano e podem produzir informações erradas ou referências inexistentes com total confiança. Compreender essa natureza probabilística é a base do uso sensato.

Oportunidades que valem a pena usar

Em sua revisão de 2023, Kasneci e colegas identificam uma série de usos educacionais promissores, incluindo:

  • Gerando exemplos variados e exercícios para a prática.
  • Explicar o mesmo conceito de maneiras diferentes e em níveis diferentes para se adequar ao passado do aluno.
  • Dar feedback inicial sobre rascunhos escritos antes que uma pessoa os revise.
  • Apoiar os alunos em vários idiomas e melhorar o acesso a pessoas com necessidades diferentes.
  • Ajudar os professores a preparar materiais e lidar com tarefas de marcação de rotina.

Riscos que devem ser administrados

As mesmas fontes identificam riscos que não devem ser ignorados:

  • Erros e alucinações: produzindo informações inventadas ou referências que parecem corretas.
  • Viés: reproduzindo vieses presentes nos dados de treinamento, incluindo viés contra línguas e culturas menos representadas.
  • Confiança excessiva: um declínio nas habilidades de pensamento e escrita se toda a tarefa for entregue à ferramenta.
  • Privacidade: inserir dados pessoais ou confidenciais em sistemas que podem armazená-los ou usá-los.
  • Integridade acadêmica: apresentando o texto gerado como um trabalho próprio sem divulgação.

O que a UNESCO recomenda?

Em 2023, a UNESCO publicou orientações sobre IA geradora em educação e pesquisa que enfatiza uma abordagem centrada no ser humano. Suas principais recomendações incluem a proteção da privacidade dos dados, a definição de uma idade mínima para o uso independente dessas ferramentas, o treinamento de professores e a verificação de que as ferramentas são apropriadas pedagógica e eticamente antes que as instituições educacionais as adotem. Os relatórios da OCDE sobre educação digital também discutem como integrar essas tecnologias em políticas de educação clara.

Princípios práticos para os alunos

  1. Use a ferramenta como um parceiro de pensamento, não um substituto para o pensamento: faça perguntas que testem sua compreensão, não respostas prontas.
  2. Verifique todas as informações importantes e todas as referências em sua fonte original.
  3. Não insira dados pessoais ou confidenciais.
  4. Divulgue o uso da ferramenta de acordo com as regras do corpo para o qual você envia seu trabalho.
  5. Mantenha seus próprios rascunhos para mostrar como seu pensamento se desenvolveu.

Resumo

A IA generativa é uma ferramenta poderosa que pode ampliar as oportunidades de aprendizado, desde que as pessoas permaneçam como tomadoras de decisão e permaneçam responsáveis. O Laboratório de AI e o Futuro Humano da Futuria oferece atividades práticas para testar esses princípios.

Referências

  • UNESCO (2023). Guidance for Generative AI in Education and Research. Paris: UNESCO.
  • Kasneci, E., et al. (2023). ChatGPT for good? On opportunities and challenges of large language models for education. Learning and Individual Differences, 103, 102274.
  • OECD (2023). OECD Digital Education Outlook 2023: Towards an Effective Digital Education Ecosystem. Paris: OECD Publishing.
  • Holmes, W., Bialik, M., & Fadel, C. (2019). Artificial Intelligence in Education: Promises and Implications for Teaching and Learning. Boston: Center for Curriculum Redesign.

Leituras relacionadas