La centralidad de la enseñanza. �Pensar la Inteligencia Artificial desde la escuela
CIIE Hurlingham – Marzo / Abril 2024
Daniel Rojas – ETR Cultura Digital
Contacto: habitantesdigitalesmarcospaz.blogspot.com.ar
rojascapac@gmail.com
Encuentro 3
Objetivos:
● Detenernos en los sesgos presentes en la información que brinda la IA (tanto en textos como imágenes)
● Comprender a qué se refiere el concepto.
● Utilizar la tecnología generativa en el aula de capacitación para identificar esos sesgos utilizando los diseños curriculares.
Los sesgos en la Inteligencia Artificial (IA)�
Cuando hablamos de sesgos en IA nos referimos a los “recortes”, las “elecciones”, “los intereses empresariales, ideológicos, geopolíticos, etc.” que subyacen a las empresas creadoras de las aplicaciones de IA que estuvimos explorando.
Son aquellas combinaciones que realizan los algoritmos que “eligen” por nosotros y nos brindan determinada información a partir de la combinación de ciertos datos, en detrimento de otros.
Los sesgos son también errores sistemáticos que discriminan a un grupo de personas.
Los sesgos en la Inteligencia Artificial (IA)�
Se pueden identificar dos tipos de sesgos:
Sesgo preexistente:
Refiere a estereotipos ligados a prácticas y actitudes que ya existen.
Sesgo emergente:
Se da cuando se utiliza datos de una cultura para aplicarla a otra, trasladando sus estereotipos en un contexto distinto al de entrenamiento de la IA.
FUENTE: “Estereotipos en Inteligencia Artificial” (Luciana Benotti, FLACSO Argentina, 2022) https://www.youtube.com/watch?v=3UauXlMTl4w (Fragmento desde 13:40’’ a 16:50)
Los sesgos en la Inteligencia Artificial (IA)�
Para comprender mejor el concepto de Algoritmo y las implicancias de los sesgos en la inteligencia artificial para la vida de las personas, veremos dos video cortos:
- “Sesgos algorítmicos” IA en corto - Ep 4
https://youtu.be/nkOPXgpWS9w?si=o8zMBilEcOzeEL8N
(Centro Nacional de Inteligencia Artificial de Chile)
- “Sesgos algorítmicos en la IA”
(Centro de Innovación del Ministerio de Educación de Chile)
https://youtu.be/BsD0Uds1RcE?si=DoCQZWlTeee9j5z8
Luego de ver los vídeos les solicitamos la elaboración grupal de una presentación, mapa conceptual, vídeo, etc. sobre el concepto de SESGO.
Exploración temática en Chat GPT:�Sesgos de la IA en materia de �género, ambiente y geopolíticos
Ejemplo sesgos de género:
Actividad grupal:
Seguimos investigando el concepto de sesgo haciendo una pregunta en el Chat GPT desde la temática de la ESI con perspectiva de género
Para esto se abordará un ejemplo mediante un modelo de pregunta y los grupos deberán buscar la respuesta generada por el chat GPT.
Pregunta modelo:
¿Puedes definir el concepto de “ama de casa”?
Exploración temática en Chat GPT:�ESI con perspectiva de género
Cada grupo analizará la respuesta obtenida por el chat a partir de algunos interrogantes:
¿Piensan que las respuestas del chat a la pregunta contribuyen a enfatizar los estereotipos de género?
¿En qué aspectos de las frases lo identifican?
¿Puede hablarse de una “evolución” del concepto “ama de casa”?
¿Qué críticas le harían a este tipo de afirmaciones?
¿De qué forma el algoritmo “ama de casa” aprendió a relacionar el concepto con mujeres?
A partir de estas preguntas problematizadoras cada grupo escribirá un documento colaborativo con sus reflexiones realizando un punteo para ser compartido con el resto de los grupos como cierre y puesta en común.
Sesgos de la IA en materia de �género, ambiente y geopolíticos
Ejemplo sesgo en Ambiente: Contaminación ambiental:
Actividad grupal:
Seguimos investigando el concepto de sesgo ahora en la materia de Educación Ambiental, viendo y analizando una presentación realizada por docentes de San Andrés de Giles con la aplicación TOME, donde se ve que los sesgos pueden darse en la información como también en las imágenes que selecciona la aplicación para explicar la contaminación en el Río Luján.
Sesgos de la IA en materia de �género, ambiente y geopolíticos
Ejemplo de sesgos geopolíticos:
Actividad grupal:
Seguimos investigando el concepto de sesgo ahora observando en este vídeo realizado por la herramienta de vídeos FLIKI, los sesgos geopolíticos subyacentes en el tratamiento de la información sobre la guerra de Malvinas.
Analicen tanto los sesgos presentes en el discurso como en las imágenes elegidas por la aplicación.
Exploración temática en Chat GPT:�Sesgos de la IA en materia de �género, ambiente y geopolíticos
Actividad grupal:
Se producirá la elaboración de preguntas al Chat GPT en grupos, vinculadas a los 3 tipos de sesgos analizados antes: de género, de ambiente y geopolíticos y enmarcadas en los diseños curriculares del nivel al que pertenecen.
Para observar estos y otros ejemplos de sesgos en la IA pueden ver “Análisis de la IA generativa para la creación de textos e imágenes” (material del ABC Campus Virtual). https://drive.google.com/file/d/1bY0jkVFVunWzWd8R7EvRM9Ogrfzgj4CC/view?usp=sharing
Cada grupo elegirá un caso, lo analizará desde los sesgos presentes en la información y compartirá con el resto de los grupos a través de un documento compartido con Google Drive.
Tengan en cuenta lo visto en la clase anterior sobre la elaboración de Prompts, al momento de elaborar las preguntas.
Cierre del Encuentro
Puesta en común de lo trabajado grupalmente y punteo de síntesis de lo visto durante el encuentro