Inteligencia Artificial en las aulas
2 recomendaciones481 vistas
Este documento discute los sesgos y efectos de la inteligencia artificial. Señala que la IA no es neutral y puede moldear nuestro pensamiento al delegar funciones cognitivas en los sistemas. También advierte sobre el "sedentarismo intelectual" y los sesgos algorítmicos como el de género o raza que perjudican sistemáticamente a ciertos grupos. Finalmente, argumenta que debemos asegurarnos de que los datos con los que se entrenan los sistemas de IA sean representativos y no perpetúen
Más contenido relacionado
Similar a Inteligencia Artificial en las aulas (20)
![ACTUALIZADO 3RO CONTENIDOS, PDA Y PROYECTOS[1].pdf](https://cdn.slidesharecdn.com/ss_thumbnails/actualizado3rocontenidospdayproyectos1-250829030651-13adb013-thumbnail.jpg?width=560&fit=bounds)
Inteligencia Artificial en las aulas
- 1. IA en las aulas Ni inteligencia, ni artificial Lorena Fernández Álvarez (@loretahur)
- 3. La tecnología NO ES NEUTRA El efecto Google (Sparrow,B.,Liu,J.,& Wegner,D. M. (2011). Google effects on memory: Cognitive consequences of having information at our fingertips. science,333(6043),776-778.)
- 4. ¿QUÉ HARÁ LA IA GENERATIVA SOBRE NUESTRA CAPACIDAD ANALÍTICA, CRÍTICA, CREATIVA?
- 5. Sedentarismo intelectual Santiago Bilinkis: la Inteligencia Artificial seduce a la ciudadanía con delegar en ella todos los pensamientos y decisiones,como la capacidad de concentración,la competencia lectora,el buen uso del lenguaje,el pensamiento lógico y matemático o la pérdida de la tenacidad necesaria para realizar un esfuerzo sostenido y deliberado para resolver un problema difícil. Si esto sucede la tecnología no moldea nuestro pensamiento,sino que toma su lugar.
- 6. ¿QUÉ MUNDO ESTÁ DEVOLVIENDO LA IA A GOLPE DE PROMPT?
- 7. Creemos que las decisiones que tome un algoritmo no estarán sujetas a condicionamientos humanos ligados a sesgos y estereotipos. El gran gol que nos ha metido la tecnología es hacernos creer que tomará mejores decisiones… y no siempre es así . Están creando "verdades algorítmicas" irrefutables que refuerzan un modelo único.
- 8. EL SESGO ALGORÍTMICO Sesgo algorítmico: sistemas cuyas predicciones benefician sistemáticamente a un grupo de personas frente a otro,resultando así injustas o desiguales. Sesgos de género,raciales,de orientación sexual,de edad, ubicación física… Los algoritmos son “opiniones encerradas en matemáticas” Cathy O’Neil
- 9. Déficit de indignación algorítmica según → estudio,la gente se indigna menos cuando la discriminación de género se produce a causa de un algoritmo y no por la participación humana directa. A menos indignación, menos motivación para hacer algo al respecto.
- 10. Cuando lo "estándar" es el privilegio Hombre,caucásico,heterosexual,cis,de mediana edad, clase media-alta,sin discapacidades... Superpoder: representa a todo el mundo
- 11. • Recolectando la información de la que aprenderá: • Si no es representativa de la realidad. • Si refleja prejuicios existentes (cómo el poder opera en el mundo). • Marcando qué atributos y modelos son los importantes para el algoritmo. Cuando se hacen las preguntas equivocadas. • De manera premeditada. La IA no crea, recrea. ¿Cuándo aparece el sesgo algorítmico?
- 12. The Washington Post analiza el dataset C4 de Google,que se usa para entrenar IAs como T5 de Google y LLaMA de Meta y aquí está el listado de webs de donde "bebe". 1. Patentes: solo el 12,8 % corresponden a mujeres en EEUU. 2. Wikipedia: hay menos artículos de mujeres y hay asimetrías de género en el contenido textual de estos.
- 13. – Persona molona «Voy a citar a alguien»
- 16. Stable Diffusion muestra imágenes de hombres blancos cuando se le pide que represente a personas con trabajos bien pagados,y de mujeres negras cuando se le pide que represente a personas con trabajos mal pagados.
- 17. Los sesgos de la inteligencia artificial pueden pasar a las personas Personas aconsejadas por una IA sesgada pueden adaptar sus decisiones a lo que recomienda el agente artificial,incluso cuando ya no cuentan con su asistencia Vicente,Lucía,& Matute,Helena. “Humans inherit artificial intelligence biases”. Scientific Reports,2023
- 18. “Hasta las sillas en las que os sentáis han pasado controles para que nadie se haga daño con ellas. Sin embargo,la IA es el Far West." Gemma Galdon,Eticas
- 20. La IA y ciencia de datos hace tiempo que no predicen el futuro. Causan el futuro. Hagamos que aquellas que han sido históricamente marginalizadas tengan la oportunidad de decidir y construir sus propios futuros sociotécnicos dignos. https://manyfesto.ai