Verificación de información en la edad de la IA: lectura lateral y alucinaciones de manchado
Los estudiantes de hoy enfrentan grandes cantidades de información, parte precisa y parte engañosa o inventada. Con los modelos de lenguaje que ahora producen texto convincente, la verificación se ha convertido en una habilidad central, no solo para periodistas e investigadores. Este artículo ofrece herramientas prácticas, basadas en investigaciones publicadas, para evaluar información digital y salidas de IA.
Trastorno de la información: tres tipos
Un informe del Consejo de Europa de 2017 de Claire Wardle y Hossein Derakhshan distingue tres tipos de "trastorno de la información":
- Desinformación: información falsa compartida sin intención de dañar.
- Desinformación: información falsa compartida deliberadamente para engañar o causar daño.
- Malinformación: información verdadera compartida con la intención de dañar, como exponer la vida privada de alguien.
Esta distinción ayuda a elegir la respuesta correcta: a veces una corrección es suficiente, mientras que la desinformación deliberada exige una mirada más profunda a la fuente y sus motivos.
Lectura lateral: ¿Cómo verifican los expertos?
Sam Wineburg y Sarah McGrew estudiaron cómo los verificadores de hechos profesionales evalúan los sitios web en comparación con los historiadores y estudiantes universitarios. Descubrieron que los verificadores de hechos no se quedan en la página o se basan en su apariencia o en lo que dice sobre sí mismo. En cambio, abren rápidamente nuevas pestañas para ver lo que dicen otras fuentes sobre el editor. Los investigadores llamaron a esta práctica "lectura lateral" y demostraron que conduce a juicios más precisos en menos tiempo.
Pasos prácticos para la verificación
En su libro de 2023, Mike Caulfield y Sam Wineburg resumen un enfoque práctico que se puede aplicar en minutos:
- Detente: antes de compartir o creer, pregúntate si conoces la fuente y si la información desencadena una fuerte emoción en ti.
- Investigue la fuente: busque el editor fuera de su propio sitio web y descubra su experiencia e intereses.
- Encuentre una mejor cobertura: ¿Han informado las fuentes confiables lo mismo? ¿Qué dicen?
- Rastree el reclamo a su origen: vuelva al estudio, documento o imagen original y asegúrese de que el contexto no haya sido distorsionado.
Alucinación en modelos de lenguaje
Una revisión exhaustiva publicada por JI y sus colegas en 2023 señala que la "alucinación", es decir, el contenido que es incorrecto o no respaldado por la fuente, es un fenómeno bien conocido en los sistemas de generación de lenguaje natural, con varias causas relacionadas con los datos de entrenamiento y la forma en que se genera el texto. Sus formas más comunes en la educación incluyen:
- Referencias científicas que parecen reales pero no existen.
- Figuras y fechas de aspecto preciso que son erróneos.
- Citas atribuidas a personas que nunca las dijeron.
- Resúmenes que agregan cosas que el texto original no contiene.
Cómo comprobar las salidas de IA
- buscar cada referencia por su título en una base de datos académica o en el sitio del editor; La presencia de un enlace no es suficiente.
- Compare las cifras con una fuente primaria oficial, como informes estadísticos y organizaciones internacionales.
- Reformule la pregunta y vea si la respuesta cambia; Un cambio grande indica una fiabilidad débil.
- Pida a la herramienta que nombre sus fuentes, luego revíselas usted mismo.
- distinguir entre lo que se puede verificar y lo que es opinión o estimación.
Resumen
La verificación necesita hábitos regulares más que herramientas complejas: detenerse, leer lateralmente, rastrear las reclamaciones en su origen y tratar las salidas de IA como borradores que necesitan verificación.
referencias
- Wardle, C., & Derakhshan, H. (2017). Information Disorder: Toward an Interdisciplinary Framework for Research and Policymaking. Strasbourg: Council of Europe.
- Wineburg, S., & McGrew, S. (2019). Lateral reading and the nature of expertise: Reading less and learning more when evaluating digital information. Teachers College Record, 121(11).
- Caulfield, M., & Wineburg, S. (2023). Verified: How to Think Straight, Get Duped Less, and Make Better Decisions about What to Believe Online. Chicago: University of Chicago Press.
- Ji, Z., et al. (2023). Survey of hallucination in natural language generation. ACM Computing Surveys, 55(12), Article 248.
