Page 58 - Libro Interactivo La revolución educativa silenciosa GPT-4

LA REVOLUCIÓN EDUCATIVA SILENCIOSA:
desatando el poder de chat GPT-4 en la escuela

La IA tiene un gran potencial para mejorar la educación, pero
también plantea serias preocupaciones sobre la privacidad y la
protección de los datos. Como educadores, debemos ser conscientes
de estas preocupaciones y trabajar para garantizar que los datos de
nuestros estudiantes estén seguros.

- Continuando con nuestro viaje a través del terreno de la ética
en la educación impulsada por la IA, llegamos a nuestro segundo
hito:

SESGO ALGORÍTMICO, EQUIDAD Y JUSTICIA EN LA
EDUCACIÓN

No podemos hablar de ética en la IA sin mencionar el sesgo
algorítmico. Como bien sabemos, los algoritmos de aprendizaje
automático, que son el motor de la IA, aprenden a partir de los datos
con los que se les alimenta. Si esos datos son sesgados, entonces las
conclusiones que el algoritmo saque también lo serán.
Por ejemplo, si en un sistema de aprendizaje automático se
introducen datos de estudiantes de diferentes grupos étnicos,
géneros o socioeconómicos, y estos datos reflejan inequidades
existentes en la sociedad, el sistema puede reproducir o incluso
exacerbar estas inequidades. Esta es una consideración crucial
cuando se implementan soluciones de IA en la educación, donde la
equidad y la justicia deben ser valores fundamentales.
Para poner esto en contexto, piensa en los años que pasaste
trabajando con estudiantes de todos los orígenes y habilidades en tus
clases. Te habrás dado cuenta de que no todos los estudiantes tienen
las mismas oportunidades o acceso a recursos, lo que puede afectar
su rendimiento académico. Si un sistema de IA no tiene en cuenta
estos factores, puede terminar perpetuando estas desigualdades en
lugar de ayudar a superarlas.
Un famoso caso de sesgo algorítmico es el del algoritmo de
sentencias judiciales COMPAS en Estados Unidos. Este algoritmo
fue criticado por su supuesta tendencia a prever una mayor
probabilidad de reincidencia entre los delincuentes negros que entre
los delincuentes blancos. Si bien el uso de IA en la educación es muy
diferente, el caso de COMPAS sirve como recordatorio de que

42