“Taller sobre los sesgos de la inteligencia artificial y su efecto en las percepciones de los estudiantes de secundaria” es el título del paper que releva el trabajo realizado en un taller sobre inteligencia artificial y ética impartido durante las JADICC 2022.

El artículo describe cómo el taller aborda simultáneamente las dimensiones técnicas y éticas de la IA, permitiendo a los estudiantes explorar conceptos como el sesgo en los modelos de IA y su impacto en las decisiones generadas por estos sistemas. A través de una serie de experimentos con computadoras, los participantes comprendieron cómo los datos de entrenamiento y los criterios establecidos por los desarrolladores influyen en las respuestas de los modelos, introduciendo subjetividades que pueden derivar en discriminación.

El impacto del taller fue evaluado mediante un esquema de pre y post tests, revelando resultados significativos. Entre los hallazgos, se destaca que los estudiantes relativizaron la confianza en las respuestas generadas por los modelos de IA (sesgo de automatización) y el reconocimento de una subjetividad expresada por estas respuestas, que puede llegar a generar discriminación (sesgo social). Además, el taller fue percibido como una experiencia educativa desafiante y motivadora, alineada con un enfoque pedagógico basado en el aprendizaje a través de la experimentación. 

El artículo fue presentado por Marcos Gómez, Julian Dabbah y Luciana Benotti puede consultarse en la revista ScienceDirect.