XII Jornadas eMadrid: «Educación 4.0»
30 de junio de 2022
Mejorando la evaluación de juegos serios
aplicando analíticas de aprendizaje y
técnicas de minería de datos
Cristina Alonso Fernández
Tesis doctoral dirigida por
Baltasar Fernández Manjón,
Manuel Freire Morán e
Iván Martínez Ortiz
Índice
01
03
04
02
Introducción Proceso de evaluación
Casos de estudio Conclusiones
2
Introducción
01
Juegos Serios
Evaluación
Analíticas de Aprendizaje
Juegos que no tienen como objetivo principal entretener
➔ Enseñar
➔ Crear concienciación
➔ Cambiar actitud
Juegos Serios
exploración libre y
segura
feedback y
adaptación
interactivo e
interesante
progreso y
terminación
motivación,
aprendizaje activo
4
Experimentos pre-post
➔ Validación formal del juego
➔ Evaluación de los jugadores
Inconvenientes:
➔ Cuestionarios previamente validados
➔ Aumento esfuerzo y tiempo
➔ Evaluación realizada fuera del entorno de
aprendizaje
Alternativa: stealth assessment
Evaluación de juegos serios y jugadores
5
Analíticas de Aprendizaje para Juegos
Game Learning Analytics: combinación de los objetivos de Learning Analytics
con las técnicas de Game Analytics en el contexto de Juegos Serios
6
Recolección de datos de juegos: xAPI-SG
El Perfil de Experience API para Juegos Serios (xAPI-SG)
define verbos, tipos de actividad y extensiones usados en
juegos serios.
➔ Completables
➔ Accessibles
➔ Alternatives
➔ GameObjects
Simplifica recolección, análisis,
integración con otros sistemas...
7
xAPI estándar IEEE
https://adlnet.gov/news/2021/10/20/IEEE-to-Stan
dardize-xAPI-v2.0-as-an-International-Standard/
Proceso de
evaluación
02
Validación del juego
Recolección interacciones
Análisis de los datos
Modelos predictivos
Despliegue del juego
Proceso de evaluación: validación del juego
9
1. Recogida de datos
GLA en xAPI-SG
10
Proceso de evaluación: validación del juego
2. Análisis de los datos
Variables GLA por defecto
con xAPI-SG
Análisis y visualizaciones por defecto (independientes de juego)
Ayudar en la selección de variables GLA
T-MON: monitor de trazas xAPI-SG
11
https://github.com/e-ucm/t-mon
12
Proceso de evaluación: validación del juego
3. Modelos de predicción
Variable objetivo aprendizaje (post-pre)
Modelos xAI
13
Proceso de evaluación: despliegue del juego
Casos de
estudio
03
First Aid Game
Conectado
Simulación para enseñar maniobras de
reanimación cardiopulmonar en 3 casos:
1. Dolor torácico
2. Inconsciencia
3. Atragantamiento
Juego previamente validado en colegios y con
grupo de control (2012)
Objetivo: predecir conocimiento final (post-test)
➔ Comparando modelos con y sin pre-test
(pre+game vs game-only)
First Aid Game: el juego
15
227 estudiantes de 12-17 años de un colegio de Madrid
➔ Pre-post validados
➔ Datos de interacción (xAPI-SG)
First Aid Game: datos recogidos
16
➔ Variables GLA
➔ Alta precisión en los modelos predictivos
● Juegos similares con estructura narrativa
➔ Interacciones son suficientes para predecir aprendizaje
➔ Recogida de interacciones guiada por diseño educativo del juego
● Beneficios del uso de xAPI-SG
First Aid Game: predicciones y resultados
17
Mejores resultados con
pre-test, pero solo con
interacciones modelos
suficientemente precisos
Juego para aumentar concienciación de acoso y
ciberacoso. 1era persona como nuevo estudiante en
un colegio durante 5 días de juego:
➔ acoso en colegio
➔ ciberacoso en casa
3 finales posibles según las decisiones tomadas
Juego validado en colegios (2020)
Objetivo: predecir aumento de concienciación
(diferencia entre pre y post)
Conectado: el juego
18
1109 estudiantes de 12-17 años de 11 colegios de España
➔ Pre-post validados
➔ Datos de interacción (xAPI-SG)
Conectado: datos recogidos
19
➔ Variables GLA
Conectado: predicciones y resultados
20
Mayoría de modelos con
precisión similar
Más impacto en aprendizaje:
final del juego e interacciones
con otros personajes
➔ Alta precisión en distinto contexto
● Predicción de aumento de concienciación
● Mayor conjunto de datos y distintos modelos
➔ Beneficios de uso de xAPI-SG
● Simplificar recogida, procesamiento y análisis
● Apoyo selección de variables de GLA
Conclusiones
04
➔ Proceso de evaluación basado en evidencias
○ Utilizando estándar xAPI-SG
○ Herramienta de apoyo T-MON visualizaciones por defecto
➔ Casos de estudio ejemplificando proceso completo:
Limitaciones
➔ Estructura casi lineal de los juegos
➔ Modelos predictivos creados ad-hoc y xAI
➔ xAPI-SG puede omitir información dependiente de juego
Conclusiones
22
diseño educativo
y diseño de juego
recogida de
datos de
interacción
definición de
variables
GLA
modelos
predictivos
➔ Juegos para educar en igualdad de género
○ Estudio de las propuestas actuales
○ Nuevos juegos para combatir estereotipos
● Juego “La entrevista” desarrollado
➔ Juegos geolocalizados utilizando uAdventure
○ Analíticas integradas
○ Extensión del perfil xAPI-SG
○ Nuevos análisis y visualizaciones en T-MON
➔ Integración con SIMVA
○ Simplificar experimentos
○ Datos recogidos: pre-post e interacciones
Trabajo futuro
23
● Proceso de evaluación:
● Caso de estudio First Aid Game:
● Caso de estudio Conectado:
● T-MON:
Referencias
24
Cristina Alonso-Fernández, Manuel Freire, Iván Martínez-Ortiz, Baltasar Fernández-Manjón:
Improving evidence-based assessment of players using serious games.
Telematics and Informatics (2021). DOI: 10.1016/j.tele.2021.101583.
Cristina Alonso-Fernández, Iván Martínez-Ortiz, Rafael Caballero, Manuel Freire, Baltasar Fernández-Manjón:
Predicting students’ knowledge after playing a serious game based on learning analytics data: A case study.
Journal of Computer Assisted Learning (2020). DOI: 10.1111/jcal.12405.
Cristina Alonso-Fernández, Antonio Calvo-Morata, Manuel Freire, Iván Martínez-Ortiz, Baltasar Fernández-Manjón:
Evidence-based evaluation of a serious game to increase bullying awareness.
Interactive Learning Environments (2020). DOI: 10.1080/10494820.2020.1799031.
Cristina Alonso-Fernández, Antonio Calvo-Morata, Manuel Freire, Iván Martínez-Ortiz, Baltasar Fernández-Manjón:
Data science meets standardized game learning analytics.
IEEE Global Engineering Education Conference (EDUCON), 2021.
¡Gracias!
Cristina Alonso Fernández
cristina.alonsof@uam.es
@calonsofdez

Más contenido relacionado

PDF
2021_11_12 «Mejorando la evaluación de juegos serios aplicando analíticas de ...
PDF
Soporte a la validación de juego serios con SIMVA y TxMon
PDF
2020_11_13 «Soporte a la validación de juego serios con SIMVA y TxMon» - Iván...
PDF
«Applying data mining techniques to Game Learning Analytics», by Cristina Alo...
PDF
Serious Games y lecciones Aprendidas: SCORM, xAPI
PPTX
Nuevos desarrollos en tecnologías educativas: juegos serios y analíticas de ...
PDF
03_07_2018 Presentación de la UCM en la mesa redonda del grupo eMadrid sobre ...
PDF
CoSECiVi 2020 - Descubrimiento de modelos de comportamiento de perfiles de ju...
2021_11_12 «Mejorando la evaluación de juegos serios aplicando analíticas de ...
Soporte a la validación de juego serios con SIMVA y TxMon
2020_11_13 «Soporte a la validación de juego serios con SIMVA y TxMon» - Iván...
«Applying data mining techniques to Game Learning Analytics», by Cristina Alo...
Serious Games y lecciones Aprendidas: SCORM, xAPI
Nuevos desarrollos en tecnologías educativas: juegos serios y analíticas de ...
03_07_2018 Presentación de la UCM en la mesa redonda del grupo eMadrid sobre ...
CoSECiVi 2020 - Descubrimiento de modelos de comportamiento de perfiles de ju...

Similar a 2022_06_30 «Mejorando la evaluación de juegos serios aplicando analíticas de aprendizaje y técnicas de minería de datos». (20)

PDF
Presentación PhDay Facultad de Informática UCM 2020
PPTX
Juegos serios y analíticas de aprendizaje
PPTX
Serious Games, Juegos educativos (con ejemplos y experimentos)
PDF
14_12_2018 Seminario eMadrid sobre «Tendencias en tecnología educativa» / UC3M
PPTX
Serious games juegos educativos
PPTX
Investigación en tecnología educativa e-ucm
PDF
Presentacion del Dr. Jesús Valverde Avnaces en Serious Games
PDF
Modelo de diseño instruccional Allure (gamificación)
PDF
ICE-GBL_Intro_2021.pdf
PPTX
Investigacion en Juegos Serios
PPTX
Serious games
PPTX
Juegos serios Herramientas para su creación.
PDF
Juegos de simulación - Juegos de roles
 
PDF
UIU juegos serios y analiticas de aprendizaje
PPT
juegos
PPT
Videojuegos
PDF
2011 revista-cled
PPT
Los micro-juegos y el ciber-avaluo del aprendizaje
PPTX
Creación de juegos educativos con eAdventure: Casos de éxito
Presentación PhDay Facultad de Informática UCM 2020
Juegos serios y analíticas de aprendizaje
Serious Games, Juegos educativos (con ejemplos y experimentos)
14_12_2018 Seminario eMadrid sobre «Tendencias en tecnología educativa» / UC3M
Serious games juegos educativos
Investigación en tecnología educativa e-ucm
Presentacion del Dr. Jesús Valverde Avnaces en Serious Games
Modelo de diseño instruccional Allure (gamificación)
ICE-GBL_Intro_2021.pdf
Investigacion en Juegos Serios
Serious games
Juegos serios Herramientas para su creación.
Juegos de simulación - Juegos de roles
 
UIU juegos serios y analiticas de aprendizaje
juegos
Videojuegos
2011 revista-cled
Los micro-juegos y el ciber-avaluo del aprendizaje
Creación de juegos educativos con eAdventure: Casos de éxito
Publicidad

Más de eMadrid network (20)

PDF
Recognizing Lifelong Learning Competences: A Report of Two Cases - Edmundo Tovar
PDF
A study about the impact of rewards on student's engagement with the flipped ...
PDF
Assessment and recognition in technical massive open on-line courses with and...
PDF
Recognition of learning: Status, experiences and challenges - Carlos Delgado ...
PDF
Bootstrapping serious games to assess learning through analytics - Baltasar F...
PDF
Meta-review of recognition of learning in LMS and MOOCs - Ruth Cobos
PDF
Best paper Award - Miguel Castro
PPTX
eMadrid Gaming4Coding - Possibilities of game learning analytics for coding l...
PDF
Seminario eMadrid_Curso MOOC_Antonio de Nebrija_Apología del saber.pptx.pdf
PPTX
eMadrid-Opportunities and Design Challenges in the Gaming4Coding Project_Pete...
PDF
Open_principles_and_co-creation_for_digital_competences_for_students.pdf
PDF
Competencias_digitales_del_profesorado_universitario_para_la_educación_abiert...
PDF
eMadrid_KatjaAssaf_DigiCred.pdf
PDF
Presentazione E-Madrid - 12-01-2023 Ruth Kerr.pdf
PDF
EDC-eMadrid_20230113 Ildikó Mázár.pdf
PPTX
2022_12_16 «“La informática en la educación escolar en Europa”, informe Euryd...
PPTX
2022_12_16 «Informatics – A Fundamental Discipline for the 21st Century»
PPTX
2022_12_16 «Efecto del uso de lenguajes basados en bloques en el aprendizaje ...
PDF
2022_11_11 «AI and ML methods for Multimodal Learning Analytics»
PDF
2022_11_11 «The promise and challenges of Multimodal Learning Analytics»
Recognizing Lifelong Learning Competences: A Report of Two Cases - Edmundo Tovar
A study about the impact of rewards on student's engagement with the flipped ...
Assessment and recognition in technical massive open on-line courses with and...
Recognition of learning: Status, experiences and challenges - Carlos Delgado ...
Bootstrapping serious games to assess learning through analytics - Baltasar F...
Meta-review of recognition of learning in LMS and MOOCs - Ruth Cobos
Best paper Award - Miguel Castro
eMadrid Gaming4Coding - Possibilities of game learning analytics for coding l...
Seminario eMadrid_Curso MOOC_Antonio de Nebrija_Apología del saber.pptx.pdf
eMadrid-Opportunities and Design Challenges in the Gaming4Coding Project_Pete...
Open_principles_and_co-creation_for_digital_competences_for_students.pdf
Competencias_digitales_del_profesorado_universitario_para_la_educación_abiert...
eMadrid_KatjaAssaf_DigiCred.pdf
Presentazione E-Madrid - 12-01-2023 Ruth Kerr.pdf
EDC-eMadrid_20230113 Ildikó Mázár.pdf
2022_12_16 «“La informática en la educación escolar en Europa”, informe Euryd...
2022_12_16 «Informatics – A Fundamental Discipline for the 21st Century»
2022_12_16 «Efecto del uso de lenguajes basados en bloques en el aprendizaje ...
2022_11_11 «AI and ML methods for Multimodal Learning Analytics»
2022_11_11 «The promise and challenges of Multimodal Learning Analytics»
Publicidad

Último (20)

PDF
Reduciendo el Ciber Riesgo en Entornos Financieros
DOCX
Practica Final - Modulo fundamentos.docx
PDF
Especificación Técnica - Cable TSCGEWOEU _ Feichun Cable Co., Ltd_.pdf
PDF
Introducción a REALITY (agosto de 2024).pdf
PDF
Más Allá de la Autenticación: Gestión Moderna de Identidad en el sector Finan...
PDF
Control total para proteger tus activos en base al riesgo
PPTX
LABORATORIO REPORTE de trabajo en el laboratorio.pptx
PDF
Sociedad y ética digital en inteligencia artificial
PPTX
Más Allá del SOC Tradicional: IA y Automatización para Cumplimiento y Respues...
PPTX
IMPORTANCIA EMPRESARIAL , TIPOS DE ESTRUCCTURAp.pptx
PPTX
LEGALIZACIÓN Y VERIFICACIÓN DE UN APARATO TAXÍMETRO
PPTX
proceso de la comunicación entre computadoras 21111.pptx
PDF
¿Qué hace un Data Warehouse Engineer blog.victorsantiz.com.pdf
PPTX
1.Introducción a los sistemas de control.pptx
PPTX
Desarrollo Seguro en un mundo multi-stack con Pruebas de Seguridad de Forma A...
PDF
sol tecnología 2025.pdf........pdf10-7grado
PDF
Virus y otras amenazas _ Ciudadanía _ INCIBE.pdf
PDF
Tipos de capacitores o condensadores .pdf
PPTX
La evolución e Historia de la computadora
PPTX
Preparación de las operaciones en internet de las empresas habilitada por la ...
Reduciendo el Ciber Riesgo en Entornos Financieros
Practica Final - Modulo fundamentos.docx
Especificación Técnica - Cable TSCGEWOEU _ Feichun Cable Co., Ltd_.pdf
Introducción a REALITY (agosto de 2024).pdf
Más Allá de la Autenticación: Gestión Moderna de Identidad en el sector Finan...
Control total para proteger tus activos en base al riesgo
LABORATORIO REPORTE de trabajo en el laboratorio.pptx
Sociedad y ética digital en inteligencia artificial
Más Allá del SOC Tradicional: IA y Automatización para Cumplimiento y Respues...
IMPORTANCIA EMPRESARIAL , TIPOS DE ESTRUCCTURAp.pptx
LEGALIZACIÓN Y VERIFICACIÓN DE UN APARATO TAXÍMETRO
proceso de la comunicación entre computadoras 21111.pptx
¿Qué hace un Data Warehouse Engineer blog.victorsantiz.com.pdf
1.Introducción a los sistemas de control.pptx
Desarrollo Seguro en un mundo multi-stack con Pruebas de Seguridad de Forma A...
sol tecnología 2025.pdf........pdf10-7grado
Virus y otras amenazas _ Ciudadanía _ INCIBE.pdf
Tipos de capacitores o condensadores .pdf
La evolución e Historia de la computadora
Preparación de las operaciones en internet de las empresas habilitada por la ...

2022_06_30 «Mejorando la evaluación de juegos serios aplicando analíticas de aprendizaje y técnicas de minería de datos».

  • 1. XII Jornadas eMadrid: «Educación 4.0» 30 de junio de 2022 Mejorando la evaluación de juegos serios aplicando analíticas de aprendizaje y técnicas de minería de datos Cristina Alonso Fernández Tesis doctoral dirigida por Baltasar Fernández Manjón, Manuel Freire Morán e Iván Martínez Ortiz
  • 2. Índice 01 03 04 02 Introducción Proceso de evaluación Casos de estudio Conclusiones 2
  • 4. Juegos que no tienen como objetivo principal entretener ➔ Enseñar ➔ Crear concienciación ➔ Cambiar actitud Juegos Serios exploración libre y segura feedback y adaptación interactivo e interesante progreso y terminación motivación, aprendizaje activo 4
  • 5. Experimentos pre-post ➔ Validación formal del juego ➔ Evaluación de los jugadores Inconvenientes: ➔ Cuestionarios previamente validados ➔ Aumento esfuerzo y tiempo ➔ Evaluación realizada fuera del entorno de aprendizaje Alternativa: stealth assessment Evaluación de juegos serios y jugadores 5
  • 6. Analíticas de Aprendizaje para Juegos Game Learning Analytics: combinación de los objetivos de Learning Analytics con las técnicas de Game Analytics en el contexto de Juegos Serios 6
  • 7. Recolección de datos de juegos: xAPI-SG El Perfil de Experience API para Juegos Serios (xAPI-SG) define verbos, tipos de actividad y extensiones usados en juegos serios. ➔ Completables ➔ Accessibles ➔ Alternatives ➔ GameObjects Simplifica recolección, análisis, integración con otros sistemas... 7 xAPI estándar IEEE https://adlnet.gov/news/2021/10/20/IEEE-to-Stan dardize-xAPI-v2.0-as-an-International-Standard/
  • 8. Proceso de evaluación 02 Validación del juego Recolección interacciones Análisis de los datos Modelos predictivos Despliegue del juego
  • 9. Proceso de evaluación: validación del juego 9 1. Recogida de datos GLA en xAPI-SG
  • 10. 10 Proceso de evaluación: validación del juego 2. Análisis de los datos Variables GLA por defecto con xAPI-SG
  • 11. Análisis y visualizaciones por defecto (independientes de juego) Ayudar en la selección de variables GLA T-MON: monitor de trazas xAPI-SG 11 https://github.com/e-ucm/t-mon
  • 12. 12 Proceso de evaluación: validación del juego 3. Modelos de predicción Variable objetivo aprendizaje (post-pre) Modelos xAI
  • 13. 13 Proceso de evaluación: despliegue del juego
  • 15. Simulación para enseñar maniobras de reanimación cardiopulmonar en 3 casos: 1. Dolor torácico 2. Inconsciencia 3. Atragantamiento Juego previamente validado en colegios y con grupo de control (2012) Objetivo: predecir conocimiento final (post-test) ➔ Comparando modelos con y sin pre-test (pre+game vs game-only) First Aid Game: el juego 15
  • 16. 227 estudiantes de 12-17 años de un colegio de Madrid ➔ Pre-post validados ➔ Datos de interacción (xAPI-SG) First Aid Game: datos recogidos 16 ➔ Variables GLA
  • 17. ➔ Alta precisión en los modelos predictivos ● Juegos similares con estructura narrativa ➔ Interacciones son suficientes para predecir aprendizaje ➔ Recogida de interacciones guiada por diseño educativo del juego ● Beneficios del uso de xAPI-SG First Aid Game: predicciones y resultados 17 Mejores resultados con pre-test, pero solo con interacciones modelos suficientemente precisos
  • 18. Juego para aumentar concienciación de acoso y ciberacoso. 1era persona como nuevo estudiante en un colegio durante 5 días de juego: ➔ acoso en colegio ➔ ciberacoso en casa 3 finales posibles según las decisiones tomadas Juego validado en colegios (2020) Objetivo: predecir aumento de concienciación (diferencia entre pre y post) Conectado: el juego 18
  • 19. 1109 estudiantes de 12-17 años de 11 colegios de España ➔ Pre-post validados ➔ Datos de interacción (xAPI-SG) Conectado: datos recogidos 19 ➔ Variables GLA
  • 20. Conectado: predicciones y resultados 20 Mayoría de modelos con precisión similar Más impacto en aprendizaje: final del juego e interacciones con otros personajes ➔ Alta precisión en distinto contexto ● Predicción de aumento de concienciación ● Mayor conjunto de datos y distintos modelos ➔ Beneficios de uso de xAPI-SG ● Simplificar recogida, procesamiento y análisis ● Apoyo selección de variables de GLA
  • 22. ➔ Proceso de evaluación basado en evidencias ○ Utilizando estándar xAPI-SG ○ Herramienta de apoyo T-MON visualizaciones por defecto ➔ Casos de estudio ejemplificando proceso completo: Limitaciones ➔ Estructura casi lineal de los juegos ➔ Modelos predictivos creados ad-hoc y xAI ➔ xAPI-SG puede omitir información dependiente de juego Conclusiones 22 diseño educativo y diseño de juego recogida de datos de interacción definición de variables GLA modelos predictivos
  • 23. ➔ Juegos para educar en igualdad de género ○ Estudio de las propuestas actuales ○ Nuevos juegos para combatir estereotipos ● Juego “La entrevista” desarrollado ➔ Juegos geolocalizados utilizando uAdventure ○ Analíticas integradas ○ Extensión del perfil xAPI-SG ○ Nuevos análisis y visualizaciones en T-MON ➔ Integración con SIMVA ○ Simplificar experimentos ○ Datos recogidos: pre-post e interacciones Trabajo futuro 23
  • 24. ● Proceso de evaluación: ● Caso de estudio First Aid Game: ● Caso de estudio Conectado: ● T-MON: Referencias 24 Cristina Alonso-Fernández, Manuel Freire, Iván Martínez-Ortiz, Baltasar Fernández-Manjón: Improving evidence-based assessment of players using serious games. Telematics and Informatics (2021). DOI: 10.1016/j.tele.2021.101583. Cristina Alonso-Fernández, Iván Martínez-Ortiz, Rafael Caballero, Manuel Freire, Baltasar Fernández-Manjón: Predicting students’ knowledge after playing a serious game based on learning analytics data: A case study. Journal of Computer Assisted Learning (2020). DOI: 10.1111/jcal.12405. Cristina Alonso-Fernández, Antonio Calvo-Morata, Manuel Freire, Iván Martínez-Ortiz, Baltasar Fernández-Manjón: Evidence-based evaluation of a serious game to increase bullying awareness. Interactive Learning Environments (2020). DOI: 10.1080/10494820.2020.1799031. Cristina Alonso-Fernández, Antonio Calvo-Morata, Manuel Freire, Iván Martínez-Ortiz, Baltasar Fernández-Manjón: Data science meets standardized game learning analytics. IEEE Global Engineering Education Conference (EDUCON), 2021.