FUTURIAEl nuevo nombre de la universidad del presente y del futuro Logotipo oficial aprobado de Al-Jazari Digital (DJAIRI)Institución matrizAl-Jazari Digital (DJAIRI)

FUTURIA · Idioma original: árabe · Leer el original

AI generativa en educación: oportunidades reales y riesgos para gestionar

Las herramientas generativas de IA, que pueden producir texto, imágenes y código, se han convertido en parte de la vida de muchos estudiantes y maestros en poco tiempo. Plantean preguntas fundamentales: ¿cómo podemos usarlos para aprender sin dejar que reemplacen el pensamiento? ¿Y cómo protegemos la privacidad y la integridad académica? Este artículo resume lo que dicen los principales organismos internacionales y las investigaciones publicadas, y sugiere hábitos prácticos.

¿Cómo funcionan estas herramientas, en resumen?

Los modelos de lenguaje grande se entrenan estadísticamente en grandes cantidades de texto y aprenden a predecir la siguiente palabra en un contexto dado. Es por eso que producen un texto fluido y convincente, pero no "conocen" la verdad en el sentido humano, y pueden producir información incorrecta o referencias inexistentes con total confianza. Comprender esta naturaleza probabilística es la base del uso sensible.

oportunidades que vale la pena usar

En su revisión de 2023, Kasneci y sus colegas identifican una gama de usos educativos prometedores, que incluyen:

  • Generando variados ejemplos y ejercicios para la práctica.
  • Explicar el mismo concepto de diferentes maneras y en diferentes niveles para adaptarse a los antecedentes del alumno.
  • Dar retroalimentación inicial sobre los borradores escritos antes de que una persona los revise.
  • Apoyar a los estudiantes en varios idiomas y mejorar el acceso de personas con diferentes necesidades.
  • Ayudar a los maestros a preparar materiales y manejar tareas de marcado de rutina.

Riesgos que deben gestionarse

Las mismas fuentes identifican riesgos que no deben ignorarse:

  • Errores y alucinaciones: producir información inventada o referencias que parezcan correctas.
  • Sesgo: Sesgos de reproducción presentes en los datos de entrenamiento, incluido el sesgo contra los idiomas y las culturas menos representados.
  • Confianza excesiva: una disminución en las habilidades de pensamiento y escritura si toda la tarea se entrega a la herramienta.
  • Privacidad: ingresar datos personales o sensibles en sistemas que puedan almacenarlos o usarlos.
  • Integridad académica: Presentar el texto generado como el propio trabajo sin divulgación.

¿Qué recomienda la UNESCO?

En 2023, la UNESCO publicó una guía sobre IA generativa en educación e investigación que enfatiza un enfoque centrado en el ser humano. Sus principales recomendaciones incluyen proteger la privacidad de los datos, establecer una edad mínima para el uso independiente de estas herramientas, capacitar a los maestros y verificar que las herramientas sean apropiadas pedagógicamente y éticamente antes de que las instituciones educativas las adopten. Los informes de la OCDE sobre educación digital también discuten cómo integrar estas tecnologías dentro de políticas educativas claras.

Principios prácticos para los estudiantes

  1. Use la herramienta como un compañero pensante, no como un sustituto del pensamiento: hágalo para preguntas que prueben su comprensión, no las respuestas ya preparadas.
  2. Compruebe cada pieza importante de información y cada referencia en su fuente original.
  3. No ingrese datos personales o confidenciales.
  4. Revele su uso de la herramienta de acuerdo con las reglas del cuerpo a la que envía su trabajo.
  5. Mantenga sus propios borradores para mostrar cómo se desarrolló su pensamiento.

Resumen

La IA generativa es una herramienta poderosa que puede ampliar las oportunidades de aprendizaje, siempre que las personas sigan siendo tomadoras de decisiones y sean responsables. El laboratorio de Futuria para la IA y el futuro humano ofrece actividades prácticas para probar estos principios.

referencias

  • UNESCO (2023). Guidance for Generative AI in Education and Research. Paris: UNESCO.
  • Kasneci, E., et al. (2023). ChatGPT for good? On opportunities and challenges of large language models for education. Learning and Individual Differences, 103, 102274.
  • OECD (2023). OECD Digital Education Outlook 2023: Towards an Effective Digital Education Ecosystem. Paris: OECD Publishing.
  • Holmes, W., Bialik, M., & Fadel, C. (2019). Artificial Intelligence in Education: Promises and Implications for Teaching and Learning. Boston: Center for Curriculum Redesign.

Lecturas relacionadas