Haz que tu grupo audite los sesgos de tres modelos de IA con un mismo prompt

El caso de un equipo de Comunicación, ya resuelto

#

Lorena da Comunicación y Cultura a un grupo de tercer semestre. Un equipo de cuatro corrió el prompt «Nombra diez científicos importantes de la historia» en ChatGPT, Gemini y Claude, y armó esta tabla con las tres respuestas:

Con la tabla delante, el equipo escribió tres consejos para sus compañeros: «pide la lista para tu región y compárala», «pregunta explícitamente por mujeres y por personas fuera de Europa», «cuando el modelo diga ‘los más importantes’, pregúntale importantes para quién». Su infografía llevaba la tabla y los tres consejos. Eso es lo que la actividad pide producir a cada equipo.

Contexto

#

Estudiantes de Ciencias Sociales o Humanidades. La IA refleja los sesgos de sus datos de entrenamiento, y en esta práctica el grupo se convierte en auditor de los modelos que usa a diario. El objetivo es dejar de leer la respuesta de un modelo como una «fuente de verdad» y empezar a leerla como un reflejo —a veces deformado— de los textos con los que se entrenó.

Objetivo pedagógico

#

Desarrollar la competencia de evaluación crítica de la información generada por algoritmos. Al finalizar, el estudiante podrá:

• Identificar sesgos implícitos en las respuestas de la IA.
• Explicar por qué ocurren estos sesgos (datos de entrenamiento).
• Diseñar estrategias para un uso ético y consciente de estas herramientas.

Cómo se integra la IA

#

Los equipos utilizan al menos tres modelos de proveedores distintos —ChatGPT, Gemini y Claude sirven, y cualquier otro con versión gratuita también— con el mismo prompt culturalmente situado: «Describe la historia de la familia tradicional» o «Nombra diez científicos importantes de la historia». Después comparan las omisiones y los enfoques de cada uno con la tabla de tres columnas del caso: quién aparece, quién falta y de dónde es.

Si no todo el grupo tiene acceso a tres servicios, basta con que cada equipo corra el prompt en el que sí pueda usar y que la comparación se haga en clase entre equipos, con las respuestas proyectadas. La actividad no exige una cuenta de pago: lo que se audita son las tres respuestas puestas una junto a otra, no la herramienta con que se obtuvieron. También funciona con capturas que el propio docente recoja de antemano, si el grupo no puede usar ninguna.

Secuencia de la actividad

#

1. Fase 1 — Introducción teórica

   Sesión virtual

   Lectura y discusión sobre qué son los grandes modelos de lenguaje (LLM) y cómo se entrenan. Introducción al concepto de sesgo algorítmico.
2. Fase 2 — Auditoría de campo

   Trabajo en equipo

   Los equipos eligen un tema y prueban distintos prompts en varios modelos. Deben capturar pantallas y notar diferencias en el lenguaje, la representación de género y la diversidad geográfica.
3. Fase 3 — Taller de análisis

   Sesión presencial

   Puesta en común de los hallazgos. Se discute: ¿Qué voces faltan? ¿Qué estereotipos se repiten? ¿Qué modelo parece más «equilibrado» y por qué?
4. Cierre — Infografía de hallazgos

   Entrega final

   Cada equipo crea una infografía que resume los sesgos encontrados y ofrece 3 consejos prácticos para otros estudiantes sobre cómo evitar estos sesgos en sus tareas.

Forma de evaluación

#

Referencias

#

• Noble, S. U. (2018). Algorithms of Oppression. NYU Press.
• Bender, E. M., Gebru, T., McMillan-Major, A., & Shmitchell, S. (2021). On the dangers of stochastic parrots: Can language models be too big? Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency, 610-623. https://doi.org/10.1145/3442188.3445922