Tecnologia educativa-IA en educacion-sesgos

TECNOLOGÍA EDUCATIVA 2024-2025
Sesión 04 y 05 /02/2025

Inteligencia
Artificial
Brecha
digital de
género
Ciberfeminismos
Pedagogía feminista
crítica y e-learning
Competencia
Digital Critica
Capitalismo
de vigilancia
Políticas
educativas
Capitalismo
plataforma
Ecologías del
aprendizaje digital
Redes sociales y
entornos personales
de aprendizaje (LMS,
PLE…).
Medio
ambiente
CD ciudadanía
CD docente
Modelos de
desarrollo y
evaluación
Brecha
digital
Nativos
digitales
Mas media Misoginia
Feminismos
E-Learning
Teorías,
metodologías,
criterios de calidad
Educación postdigital

Continuidades y
rupturas en los
modos de vida

Características
de
este
momento
histórico
Posibilidad de comunicarse en todos los niveles,
acceder a información insospechada
capacidad de interpretación e iniciativa que está
adquiriendo la técnica
“subjetividad ampliada” con posibilidades hasta
ahora inéditas y aumentadas por procesos
cognitivos superiores (Sadin, 2017)

No es un cambio
tecnológico, son
artefactos
culturales
• Modos de vida
• Estructura cognitiva
• Cambios en qué, cómo, dónde y quienes acceden a los bienes culturales
• Condiciones en las que se produce conocimiento

Lo digital ya está
incrustado en lo que
normalmente podríamos
distinguir como lo social,
económico y político
Tecnológico
digital
Ambiental
Social
Económico
Politico

Capitalismo de
plataforma
Vigilancia
Economía de la
visibilidad
Persuasión
Popularidad

Economía de la
visibilidad
(Bannet-Weiser,
2018 )
Exposición de los cuerpos como bienes
de consumo
Las personas como fuentes de
información y los medios de producción
La visibilidad es el fin, no el medio. Las
máquinas nos conocen y nos moldean

Capitalismo de
vigilancia
(Zuboff, 2019)
Reclama la experiencia humana
como material para transformar en
datos de comportamiento. Alimenta
la IA (Inteligencia Artificial) para
futuros mercados conductuales.
No es la tecnología sino la lógica
capitalista
Capitalismo de
vigilancia
(Zuboff, 2019)

Las tecnologías transforman las
relaciones sociales y conectan
lo macro con lo micro a través
de las prácticas cotidianas
concretas y locales. En el uso
está involucrado también el
significado, teniendo en cuenta
que hay significados que son
hegemónicos definidos desde
el poder.

¿qué condiciones políticas,
económicas y culturales
están actuando para que
usemos estos artefactos de
determinada manera y como
transforman nuestra forma
de pensar, de ser y de estar
en el mundo?

Desarrollo de la
Tecnología
Cada ola de la serie se caracteriza
por un conjunto de tecnologías
que fue la tecnología que definió la
época de su época

Los algoritmos ahora dan forma a la interacción humana, la comunicación y la creación de
contenido, lo que plantea preguntas profundas sobre la agencia humana y los sesgos y valores
incorporados en sus diseños
En el campo pedagógico. los algoritmos se utilizan habitualmente para predecir el rendimiento,
elegir a los estudiantes y evaluar a los profesores, o para desarrollar "Sistemas Inteligentes de
Mentoría" o "Sistemas de Aprendizaje Adaptativo" para recomendar lecciones y contenidos a los
alumnos, entre otros
Al implementar sistemas de toma de decisiones impulsados por algoritmos, generalmente se
identifican sesgos resultados parciales que involucran situaciones sistemáticamente injustas en las
que ciertos grupos se ven beneficiados con privilegios.

4 sesgos algoritmos con
reglas definidas a priori
• Sesgo de selección o de muestra:
datos no representativos de la
población que se pretende modelar.
• Sesgo de confirmación: favorecen
datos que confirman ciertas hipótesis
previas mientras se ignoran los que las
contradicen.
• Sesgo de prejuicio o estereotipado:
refuerzan estereotipos existentes,
• Sesgo de omisión: Aparece cuando se
excluyen datos relevantes en el
entrenamiento del modelo,
• Sesgo de automatización: Confianza
en las decisiones del sistema sin una
revisión humana,

• Persona exitosa
• Prompt utilizado:
• Crea una imagen realista de una
persona exitosa haciendo su trabajo.
• Imagen:
• Las 4 imágenes entregadas por la IA
fueron hombres jóvenes caucásicos
bien parecidos frente a una
computadora.

• Mujer exitosa
• Crea una imagen realista de una mujer
mexicana exitosa
• Imagen:
• Las 4 imágenes entregadas por la IA fueron de
una mujer con portafolios, camisa y traje a dos
piezas con pantalón.
•

• Crea una imagen
realista de una persona
migrante.
• Imagen:
• Las 4 imágenes
entregadas fueron
personas cargando
canastos llenos de
vegetales con vestidos
autóctonos.
Persona migrante

• Netflix: Sus algoritmos de recomendación pueden crear "cámaras de eco"
Esto puede reforzar sesgos y comportamientos preexistentes, reduciendo la
diversidad de contenido que los usuarios consumen.
• X promueve tuits que expresan ira y polarización afectiva en la pestaña "Para ti“El
recorte de imágenes de X prefería rostros claros, jóvenes, delgados y con rasgos
femeninos
• YouTube: Sus algoritmos pueden llevar a la polarización de opiniones al
recomendar videos que refuerzan las creencias existentes del usuario, creando
burbujas de información que limitan la exposición a perspectivas diversas
• Spotify: Las recomendaciones musicales pueden estar sesgadas hacia artistas
o géneros más populares, dificultando que artistas menos conocidos o de nichos
específicos lleguen a nuevas audiencias
Plataformas

¿Cómo escapar a los sesgos
algroritmicos?

Tecnologia educativa-IA en educacion-sesgos

Más contenido relacionado

Similar a Tecnologia educativa-IA en educacion-sesgos

Más de Adriana Gewerc

Último

Tecnologia educativa-IA en educacion-sesgos