Por: Edwin Tovar Briñez[1] y Diego Bersain Villareal[2]
En una soleada mañana de junio, los estudiantes de una escuela secundaria al norte de una ciudad capital de alguno de nuestros países latinoamericanos recibieron sus tareas a través de un nuevo sistema de inteligencia artificial. Este sistema, prometido por las autoridades educativas, tenía la capacidad de personalizar el aprendizaje para cada estudiante, adaptándose a sus necesidades y ritmos individuales. La promesa era clara: una educación más eficiente y equitativa para todos. Sin embargo, detrás de estas optimistas afirmaciones, se esconden desafíos profundos que amenazan con perpetuar y, en algunos casos, aumentar las desigualdades existentes. En este breve escrito queremos brindar algunas reflexiones desde las miradas conjuntas que pueden emerger en nuestra América Latina con relación al papel de la inteligencia artificial en los contextos educativos.
Enunciamos el primer elemento, que llamaremos el “peligroso canto de las sirenas tecnológicas” este nos afirma que, en el aula, la IA se presenta como la solución milagrosa a las deficiencias del sistema educativo tradicional. Los docentes, esperanzados, depositaron su confianza en estos algoritmos avanzados que prometían identificar las fortalezas y debilidades de cada educando, ofreciendo un camino de aprendizaje adaptado a sus necesidades. Miremos por ejemplo el caso de María, una estudiante brillante pero tímida, que esperaba con ansias ver cómo esta tecnología podría ayudarla a superar sus dificultades en matemáticas. Sin embargo, al recibir material de estudio repetitivo y simplista, se sintió subestimada y desmotivada. Sin una explicación clara de cómo y por qué se le asignaban esos recursos, María y sus maestros se encontraron atrapados en un laberinto de opacidad y frustración.
Un segundo elemento tiene que ver con la transparencia, ese valor tan aclamado, se convierte en una condición indispensable cuando hablamos de inteligencia artificial en la educación. Los sistemas de IA, aunque impresionantes, operan a través de complejos algoritmos que a menudo son cajas negras para el usuario común. Sin transparencia, ni María ni sus maestros pueden entender ni corregir el sesgo implícito en el sistema, perpetuando una injusticia silenciosa. La falta de claridad en el funcionamiento de estos algoritmos puede llevar a la perpetuación de desigualdades existentes y a la creación de nuevas formas de exclusión. Los algoritmos que no son auditables ni comprensibles resultan ser un enemigo silencioso, capaz de discriminar sin ser detectado, marginando a estudiantes que, como María, merecen un trato justo y equitativo (UNESCO, 2023).
Un tercer aspecto crucial es el asunto de la ética en la IA educativa. Hay que asegurar que esta tecnología beneficie a todos los estudiantes, y no solo a aquellos con acceso a recursos avanzados, requiere una diligencia consciente. En las zonas rurales o en comunidades marginadas, donde el acceso a la tecnología es limitado, los estudiantes se encuentran en desventaja desde el principio. La IA, en lugar de cerrar estas brechas, a menudo las amplía. En un mundo ideal, esta tecnología actuaría como un gran nivelador, proporcionando a todos los estudiantes las mismas oportunidades de aprendizaje. Sin embargo, la realidad nos muestra como lo plantea Nguyen et al (2023) que aquellos con menos acceso a la tecnología quedan rezagados, mientras que sus compañeros más privilegiados avanzan a pasos agigantados.
Y el cuarto aspecto relevante a mirar, pero que muchas veces pasa de forma desapercibida es la corrupción, esa sombra persistente, encuentra en la IA un nuevo campo de juego. Sin políticas claras y accesibles, los datos pueden ser manipulados, los recursos desviados y las decisiones influenciadas por intereses particulares. En un contexto donde la transparencia es limitada, las prácticas corruptas pueden florecer fácilmente. Es fundamental que tanto las prácticas como las políticas de IA sean transparentes y accesibles para todos los interesados, incluyendo estudiantes, padres y educadores. Solo así se puede garantizar que la tecnología se utilice de manera justa y equitativa, previniendo la manipulación y el uso indebido de datos.
Los cuatro (4) anteriores aspectos nos permiten generar preguntas de sentido sobre una cuestión central en esta discusión: la gobernanza de la IA. En la educación no puede ser una simple añadidura; debe ser el cimiento sobre el cual se construya todo el sistema. Mecanismos robustos de rendición de cuentas y supervisión son necesarios para asegurar un uso responsable y equitativo de esta tecnología. Imaginemos un marco regulatorio claro, donde los estándares éticos y de transparencia sean definidos y seguidos estrictamente. Además, una cultura de integridad y responsabilidad debe ser fomentada desde las primeras etapas de desarrollo hasta la implementación de la IA. Es imperativo como lo expresa el Consejo Europeo (2023) en su informe “Artificial intelligence and education a critical view through the lens of human rights, democracy and the rule of law” que todos los actores involucrados, desde los desarrolladores de tecnología hasta los responsables de políticas educativas, trabajen conjuntamente para establecer y mantener estos estándares, en el marco de comprensión que la IA tiene el potencial de revolucionar la educación, pero su implementación debe ser guiada por principios de ética y transparencia para evitar perpetuar las desigualdades y la corrupción. Solo a través de un enfoque ético y transparente podemos asegurarnos de que la IA contribuya a una educación más justa y equitativa para todos. En una mañana soleada de junio o en cualquier otra, la promesa de la IA debe ser una promesa de justicia y oportunidad para todos los estudiantes, sin excepción.
Así, mientras caminamos hacia un futuro donde la inteligencia artificial jugará un papel cada vez más importante en nuestras vidas, debemos mantenernos vigilantes y comprometidos con la creación de un sistema educativo que no solo sea eficiente, sino también justo y accesible. Porque en la educación, como en la vida, el verdadero progreso no se mide solo por los avances tecnológicos, sino por nuestra capacidad de utilizarlos para construir un mundo más equitativo y compasivo.
Referencias:
- Council of Europe. (2023, September 11). EduTalks@Council of Europe – Artificial Intelligence and education. Retrieved from https://www.coe.int/en/web/education/-/edutalks-council-of-europe-teaching-and-learning-with-and-about-ai
- Nguyen, A., Ngo, H.N., Hong, Y. et al. Ethical principles for artificial intelligence in education. Educ Inf Technol 28, 4221–4241 (2023). https://doi.org/10.1007/s10639-022-11316-w
- (2023). Hacia una Inteligencia Artificial (IA) que acote las desigualdades. Retrieved from https://www.unesco.org/es/articles/hacia-una-inteligencia-artificial-ia-que-acote-las-desigualdades
[1] Doctor en Ciencias de la Educación, Por la Universidad Cuauhtémoc de Aguascalientes (México) , correo edwin.tovar@uptc.edu.co , Orcid: https://orcid.org/0000-0001-9116-6839
[2] Doctor en Desarrollo Educativo, por el Instituto de Estudios de Posgrado Chiapas (México), correo diego.bersain@ipecal.edu.mx .
