FUTURIAEl nuevo nombre de la universidad del presente y del futuro Logotipo oficial aprobado de Al-Jazari Digital (DJAIRI)Institución matrizAl-Jazari Digital (DJAIRI)

FUTURIA · Idioma original: árabe · Leer el original

Verificación de información en la edad de la IA: lectura lateral y alucinaciones de manchado

Los estudiantes de hoy enfrentan grandes cantidades de información, parte precisa y parte engañosa o inventada. Con los modelos de lenguaje que ahora producen texto convincente, la verificación se ha convertido en una habilidad central, no solo para periodistas e investigadores. Este artículo ofrece herramientas prácticas, basadas en investigaciones publicadas, para evaluar información digital y salidas de IA.

Trastorno de la información: tres tipos

Un informe del Consejo de Europa de 2017 de Claire Wardle y Hossein Derakhshan distingue tres tipos de "trastorno de la información":

  • Desinformación: información falsa compartida sin intención de dañar.
  • Desinformación: información falsa compartida deliberadamente para engañar o causar daño.
  • Malinformación: información verdadera compartida con la intención de dañar, como exponer la vida privada de alguien.

Esta distinción ayuda a elegir la respuesta correcta: a veces una corrección es suficiente, mientras que la desinformación deliberada exige una mirada más profunda a la fuente y sus motivos.

Lectura lateral: ¿Cómo verifican los expertos?

Sam Wineburg y Sarah McGrew estudiaron cómo los verificadores de hechos profesionales evalúan los sitios web en comparación con los historiadores y estudiantes universitarios. Descubrieron que los verificadores de hechos no se quedan en la página o se basan en su apariencia o en lo que dice sobre sí mismo. En cambio, abren rápidamente nuevas pestañas para ver lo que dicen otras fuentes sobre el editor. Los investigadores llamaron a esta práctica "lectura lateral" y demostraron que conduce a juicios más precisos en menos tiempo.

Pasos prácticos para la verificación

En su libro de 2023, Mike Caulfield y Sam Wineburg resumen un enfoque práctico que se puede aplicar en minutos:

  1. Detente: antes de compartir o creer, pregúntate si conoces la fuente y si la información desencadena una fuerte emoción en ti.
  2. Investigue la fuente: busque el editor fuera de su propio sitio web y descubra su experiencia e intereses.
  3. Encuentre una mejor cobertura: ¿Han informado las fuentes confiables lo mismo? ¿Qué dicen?
  4. Rastree el reclamo a su origen: vuelva al estudio, documento o imagen original y asegúrese de que el contexto no haya sido distorsionado.

Alucinación en modelos de lenguaje

Una revisión exhaustiva publicada por JI y sus colegas en 2023 señala que la "alucinación", es decir, el contenido que es incorrecto o no respaldado por la fuente, es un fenómeno bien conocido en los sistemas de generación de lenguaje natural, con varias causas relacionadas con los datos de entrenamiento y la forma en que se genera el texto. Sus formas más comunes en la educación incluyen:

  • Referencias científicas que parecen reales pero no existen.
  • Figuras y fechas de aspecto preciso que son erróneos.
  • Citas atribuidas a personas que nunca las dijeron.
  • Resúmenes que agregan cosas que el texto original no contiene.

Cómo comprobar las salidas de IA

  • buscar cada referencia por su título en una base de datos académica o en el sitio del editor; La presencia de un enlace no es suficiente.
  • Compare las cifras con una fuente primaria oficial, como informes estadísticos y organizaciones internacionales.
  • Reformule la pregunta y vea si la respuesta cambia; Un cambio grande indica una fiabilidad débil.
  • Pida a la herramienta que nombre sus fuentes, luego revíselas usted mismo.
  • distinguir entre lo que se puede verificar y lo que es opinión o estimación.

Resumen

La verificación necesita hábitos regulares más que herramientas complejas: detenerse, leer lateralmente, rastrear las reclamaciones en su origen y tratar las salidas de IA como borradores que necesitan verificación.

referencias

  • Wardle, C., & Derakhshan, H. (2017). Information Disorder: Toward an Interdisciplinary Framework for Research and Policymaking. Strasbourg: Council of Europe.
  • Wineburg, S., & McGrew, S. (2019). Lateral reading and the nature of expertise: Reading less and learning more when evaluating digital information. Teachers College Record, 121(11).
  • Caulfield, M., & Wineburg, S. (2023). Verified: How to Think Straight, Get Duped Less, and Make Better Decisions about What to Believe Online. Chicago: University of Chicago Press.
  • Ji, Z., et al. (2023). Survey of hallucination in natural language generation. ACM Computing Surveys, 55(12), Article 248.

Lecturas relacionadas