Guía para la Inteligencia Artificial Generativa en Educación e Investigación
Todo lo que necesitas saber sobre la guía presentada por la UNESCO para asegurar una implementación ética la IA Generativa en las escuelas
La UNESCO, durante la “Digital Learning Week”, ha lanzado una guía exhaustiva que aborda el uso de la Inteligencia Artificial Generativa (GenAI) en el ámbito educativo y de la investigación. Este documento llega en un momento crucial, dado que menos del 10% de las escuelas y universidades tienen políticas o directrices formales sobre el uso de aplicaciones de GenAI. A continuación, desglosamos los aspectos más relevantes de esta guía.
En este artículo vamos a comentar:
Los apartados que incluye la guía y en qué consisten
Propuesta de pasos para regular la GenAI en las escuelas
Temas clave como la edad mínima para el uso de la IA o la necesidad de repensar la evaluación
¿Qué podemos encontrar en la guía?
El contenido de la guía está dividido en seis apartados principales, cada uno con sus respectivos subapartados:
1. ¿Qué es la IA generativa y cómo funciona?
Este apartado ofrece una introducción a la GenAI, explicando cómo funcionan los modelos de texto e imágenes y cómo diseñar prompts y emplear el prompt engineering para generar los resultados deseados. Además se presenta el emergente modelo EdGPT: un modelo de IA generativa especializado en educación, creado al refinar modelos generales de GenAI con datos educativos de alta calidad. Su objetivo es generar contenidos pedagógicamente adecuados para apoyar la enseñanza y el aprendizaje, aunque aún está en una fase inicial de desarrollo.
2. Controversias en torno a la IA generativa y sus implicaciones para la educación
Esta parte profundiza en las preocupaciones éticas y sociales que rodean el uso de la IA generativa. Se tratan temas como la creciente brecha digital, los desafíos regulatorios, el consentimiento de contenido y el potencial de la IA generativa para “contaminar” internet. También se explora la falta de comprensión del mundo real en los modelos de IA y el riesgo de reducir la diversidad de opiniones.
3. Regulación del uso de la IA generativa en educación
Esta sección desarrolla un enfoque centrado en el ser humano para la IA y discute los pasos necesarios para regular su uso en entornos educativos, que veremos más abajo. Identifica elementos clave para la regulación, incluidos los roles de las agencias gubernamentales, los proveedores de herramientas de IA generativa, los usuarios institucionales y los usuarios individuales.
4. Hacia un marco de políticas para el uso de la IA generativa en educación e investigación
Esta parte se centra en la creación de un marco de políticas integral para el uso responsable de la IA generativa. Enfatiza la necesidad de inclusión, equidad y diversidad, y discute la supervisión y validación de los sistemas de IA generativa. También habla sobre la importancia de construcción de capacidades para profesores e investigadores y la promoción de opiniones plurales.
5. Facilitando el uso creativo de la IA generativa en educación e investigación
Esta sección explora cómo las instituciones pueden facilitar el uso responsable y creativo de la IA generativa. No todo es “ponerle vallas al campo”, sino que también se buscan las oportunidades que esta tecnología ofrece. Propone usos “creativos” para el sector de la investigación y usos para facilitar la práctica docente, como la creación de “tutores virtuales” (para el aprendizaje de idiomas), la integración en el aprendizaje basado en proyectos o la atención a la diversidad.
6. IA generativa y el futuro de la educación e investigación
La sección final examina los problemas éticos y desafíos no explorados que se avecinan, como las preocupaciones sobre derechos de autor y propiedad intelectual. También discuten las fuentes de contenido y aprendizaje, el potencial de respuestas homogeneizadas frente a resultados diversos y creativos, y replantea la evaluación y los resultados del aprendizaje.
Pasos para la Regulación de la IA Generativa
La guía propone siete pasos clave para la regulación de la GenAI en educación:
Adoptar o revisar leyes de protección de datos a nivel nacional o internacional (RGPD): los RGPD proporcionan el marco legal para regular la recopilación y procesamiento de datos personales por parte de los proveedores de IA generativa
Adoptar o revisar estrategias nacionales de IA: regular la IA generativa debe ser parte de estrategias nacionales de IA más amplias que aseguren un uso seguro y equitativo de la IA en todos los sectores, incluyendo la educación.
Consolidar y aplicar regulaciones específicas sobre ética de la IA: se requieren regulaciones específicas para abordar las dimensiones éticas planteadas por el uso de la IA, incluyendo la generativa.
Ajustar o reforzar leyes de derechos de autor para regular el contenido generado por IA: el uso generalizado de la IA generativa ha introducido nuevos desafíos para los derechos de autor, tanto en relación al contenido con derechos de autor usado para entrenar los modelos, como en relación al estatus de los outputs de conocimiento 'no humanos' que producen.
Elaborar marcos regulatorios específicos: el rápido desarrollo de las tecnologías de IA está forzando a las agencias de gubernamentales nacionales a acelerar la renovación de las regulaciones.
Desarrollar capacidad para el uso adecuado de GenAI: las escuelas y otras instituciones educativas necesitan desarrollar capacidades para entender los beneficios potenciales y riesgos de la IA, incluyendo la generativa, para la educación. Esto incluye la formación del profesorado, pero también del resto de la comunidad educativa: las familias y los alumnos.
Reflexionar sobre las implicaciones a largo plazo: el impacto de las versiones actuales de IA generativa recién está comenzando a desarrollarse, y sus efectos en la educación aún no se han explorado ni comprendido completamente.
Repensando la Evaluación y los Resultados del Aprendizaje
Con la irrupción de la IA, una de las mayores preocupaciones por parte del profesorado es el uso de esta tecnología por parte del alumnado de manera fraudulenta o cayendo en el plagio de documentos o tareas. En el apartado 6.5, que se titula "Repensando la evaluación", la guía plantea que es necesario repensar los métodos de evaluación para dar más énfasis al desarrollo de habilidades de pensamiento de orden superior.
Menciona que los sistemas de IA generativa cuestionan la noción tradicional de evaluar sólo el conocimiento fáctico, y en su lugar deberían promoverse competencias de orden superior como la resolución de problemas complejos, el pensamiento crítico y la colaboración. Asimismo, propone centrarse menos en la memorización y más en destrezas como la verificación y el análisis de información, así como la transferencia de conocimientos a nuevos contextos. Finalmente, sugiere explorar modalidades alternativas de evaluación centradas en proyectos y portafolios, que permitan una mejor valoración de las capacidades cognitivas deseadas para el siglo XXI, como el razonamiento y la toma de decisiones.
Edad Mínima para el Uso de GenAI
Otro aspecto clave que aborda este documento es la importancia de establecer límites de edad para el uso de GenAI, recomendando que los usuarios deben tener al menos 13 años y que aquellos menores de 18 años deben contar con el permiso de un padre o tutor legal. Esta recomendación se alinea con la Ley de Protección de la Privacidad en Línea para Niños de Estados Unidos y el Reglamento General de Protección de Datos de la Unión Europea, aunque en este último la edad recomendada para el uso de plataformas de RRSS es de 16 años.
Conclusiones
La guía de la UNESCO ofrece una hoja de ruta integral para abordar los desafíos y oportunidades que la GenAI presenta en el ámbito educativo. Su enfoque centrado en el ser humano y su llamado a la acción reguladora son especialmente relevantes en un momento en que la adopción de estas tecnologías está en rápido crecimiento. Lejos de tomárnosla como un “manual de instrucciones”, en nuestra opinión puede ser un documento útil como punto de partida para el desarrollo de políticas tanto nacionales como locales e incluso a nivel de los centros educativos, así como un material que invita a la reflexión y sirve como apoyo para la creación de nuevos textos en la misma línea.
🔗 ENLACE A LA GUÍA: https://unesdoc.unesco.org/ark:/48223/pf0000386693
Esperamos que te haya resultado interesante este contenido y si ya lo habías leído o lo conocías déjanos tus impresiones en los comentarios o en nuestras redes sociales. ¡No olvides suscribirte para no perderte nada!