Verificando informações na era da IA: leitura lateral e manchas alucinações
Hoje, os alunos enfrentam grandes quantidades de informações, algumas delas precisas e algumas enganosas ou inventadas. Com os modelos de linguagem agora produzindo texto convincente, a verificação tornou-se uma habilidade central, não apenas para jornalistas e pesquisadores. Este artigo oferece ferramentas práticas, baseadas em pesquisas publicadas, para avaliar informações digitais e saídas de IA.
Transtorno da informação: três tipos
Um relatório do Conselho da Europa de 2017 de Claire Wardle e Hossein Derakhshan distingue três tipos de "transtorno da informação":
- Informações erradas: informações falsas compartilhadas sem a intenção de prejudicar.
- Desinformação: informações falsas compartilhadas deliberadamente para enganar ou causar danos.
- Malinformação: informações verdadeiras compartilhadas com a intenção de prejudicar, como expor a vida privada de alguém.
Essa distinção ajuda na escolha da resposta certa: às vezes, uma correção é suficiente, enquanto a desinformação deliberada exige uma visão mais profunda da fonte e seus motivos.
Leitura lateral: como os especialistas verificam?
Sam Wineburg e Sarah McGrew estudaram como os verificadores de fatos profissionais avaliam os sites em comparação com historiadores e estudantes universitários. Eles descobriram que os verificadores de fatos não se demoram na própria página ou dependem de sua aparência ou do que ela diz sobre si mesma. Em vez disso, eles abrem rapidamente novas guias para ver o que outras fontes dizem sobre o editor. Os pesquisadores chamaram essa prática de "leitura lateral" e mostraram que ela leva a julgamentos mais precisos em menos tempo.
Passos práticos para verificação
Em seu livro de 2023, Mike Caulfield e Sam Wineburg resumem uma abordagem prática que pode ser aplicada em minutos:
- Pare: antes de compartilhar ou acreditar, pergunte a si mesmo se você conhece a fonte e se as informações desencadeiam uma forte emoção em você.
- Investigue a fonte: procure o editor fora de seu próprio site e descubra sua experiência e interesses.
- Encontre uma melhor cobertura: fontes confiáveis relataram a mesma coisa? O que eles dizem?
- Rastreie a reivindicação de sua origem: volte ao estudo, documento ou imagem original e certifique-se de que o contexto não foi distorcido.
Alucinação em modelos de linguagem
Uma revisão abrangente publicada por Ji e colegas em 2023 observa que "alucinação", ou seja, conteúdo incorreto ou não suportado pela fonte, é um fenômeno bem conhecido em sistemas de geração de linguagem natural, com várias causas relacionadas aos dados de treinamento e à forma como o texto é gerado. Suas formas mais comuns na educação incluem:
- Referências científicas que parecem reais, mas não existem.
- Figuras e datas de aparência precisa que estão erradas.
- Citações atribuídas a pessoas que nunca as disseram.
- Resumos que adicionam coisas que o texto original não contém.
Como verificar as saídas de IA
- Pesquise todas as referências por seu título em um banco de dados acadêmico ou no site do editor; A presença de um link não é suficiente.
- Compare os números com uma fonte primária oficial, como relatórios estatísticos e organizações internacionais.
- Reformule a pergunta e veja se a resposta muda; Uma grande mudança sinaliza uma confiabilidade fraca.
- Peça à ferramenta para nomear suas fontes e, em seguida, verifique-as você mesmo.
- Distinguir o que pode ser verificado e o que é opinião ou estimativa.
Resumo
A verificação precisa de hábitos regulares mais do que ferramentas complexas: parar, ler lateralmente, rastrear as reivindicações de sua origem e tratar as saídas de IA como rascunhos que precisam ser verificados.
Referências
- Wardle, C., & Derakhshan, H. (2017). Information Disorder: Toward an Interdisciplinary Framework for Research and Policymaking. Strasbourg: Council of Europe.
- Wineburg, S., & McGrew, S. (2019). Lateral reading and the nature of expertise: Reading less and learning more when evaluating digital information. Teachers College Record, 121(11).
- Caulfield, M., & Wineburg, S. (2023). Verified: How to Think Straight, Get Duped Less, and Make Better Decisions about What to Believe Online. Chicago: University of Chicago Press.
- Ji, Z., et al. (2023). Survey of hallucination in natural language generation. ACM Computing Surveys, 55(12), Article 248.
