ChatGPT en las aulas: los graves riesgos para el aprendizaje

El uso de la aplicación de inteligencia artificial generativa ChatGPT tuvo una rápida expansión en las aulas: hoy 9 de cada 10 estudiantes ya la utilizan, pese a que su información no es fiable. Así lo advirtieron recientemente especialistas del Instituto Universitario para el Desarrollo Productivo y Tecnológico Empresarial de la Argentina (IUDPT) durante un encuentro que convocó a más de medio centenar de docentes de los niveles superior, medio y primario con el objetivo de repensar el proceso de enseñanza y aprendizaje a partir de la irrupción de este novedoso desarrollo.
La instancia de reflexión fue conducida por Mariana Gild, especialista en políticas educativas y secretaria académica del IUDPT, quien exhibió los resultados de una encuesta realizada entre docentes y estudiantes de ese instituto universitario. Según el relevamiento, “el 92% de los estudiantes usa ChatGPT para ayudarse con las tareas académicas, pese a que esta herramienta no es capaz de verificar la información que proporciona ni evaluar su fiabilidad”, detallaron. Como consecuencia, “el 59% de los docentes ya modificó su propuesta de enseñanza y el 80% de ellos ya cambió las consignas de evaluación”, añadieron.
La experta que lideró el debate consideró que la gran pregunta es “si existe aprendizaje, aunque se use inteligencia artificial” y “cómo se puede garantizar que la relación entre estudiantes y docentes sea honesta y ética”.
Entre los principales riesgos que podría implicar el uso de ChatGPT, los docentes que participaron del encuentro mencionaron la dependencia intelectual, la pérdida de hábitos o herramientas de estudio, la intención de conformarse con respuestas rápidas sin mediar reflexión y, finalmente, los riesgos de plagio.
No obstante, Gild plateó que la inteligencia artificial generativa representa “una oportunidad para revisar las prácticas de enseñanza y aprendizaje”, al tiempo que evaluó que “es imprescindible preparar a los alumnos para este escenario todavía incierto”.
“Se necesita potenciar la creatividad, la imaginación y la didáctica en vivo”, como manera de experimentar e inventar en clase, aprovechando la tecnología, sugirió, pero aclaró que “se requieren políticas educativas, inversión y marcos normativos que contemplen esta nueva realidad”.
Respecto de la dependencia intelectual que los estudiantes pueden desarrollar con el uso de ChatGPT, Gild precisó en una entrevista con La Prensa que se trata de esta tendencia a utilizar la aplicación de inteligencia artificial generativa para corroborar las propias ideas o para poder avanzar en el estudio.  “Hay estudiantes que llaman a ChatGPT ‘maestra particular’ o ‘profesor particular’”, contó la especialista, quien añadió: “De ahí la necesidad de generar criterios válidos para poder analizar lo que sucede en ese diálogo con la inteligencia artificial, que es tan conversacional”.
-¿Los estudiantes están al tanto de las falencias que tiene esta herramienta de inteligencia artificial?
-Cada vez más. He dado charlas y he observado a lo largo del año que fue avanzando muy rápido la difusión de los riesgos que tiene ChatGPT. En particular, en el instituto donde trabajamos, como tiene carreras tecnológicas, muy vinculadas con la física, la matemática, la química, es bastante sencillo darse cuenta cuándo no está bien el resultado o cuándo hay algún error. No obstante, se requieren ciertas habilidades y muchas veces se cae en la tentación de copiar y pegar lo que allí sucede. Porque es tan asertivo, esto de dar una respuesta como si fuera real… no dice “tal vez es esto”, “tal vez lo otro”, no duda al respecto. Por eso está la fuerte necesidad de generar criterios y formación de docentes para poder alertar sobre estas cuestiones e introducir en la enseñanza aspectos relacionados con la inteligencia artificial para acelerar esta preparación de nuestros estudiantes en el uso adecuado o íntegro de la inteligencia artificial generativa.
-Al encontrarse aún ChatGPT en una instancia preliminar, que requiere de correcciones o ajustes para brindar resultados con mayor precisión, ¿no termina por entorpecer la educación de estos primeros usuarios que la utilizan para hacer sus trabajos universitarios o sus investigaciones?
- Depende. Porque justamente es una herramienta. Si entendemos la enseñanza como una instancia mediacional -es decir, uno enseña y no es causal, no es que yo enseño y el otro aprende, sino que siempre hay algo en el medio-, yo tengo que brindar las herramientas para que se pueda aprender. Si como docente, puedo formarme en el uso de estas herramientas y en las potencialidades y limitaciones que tiene, y de ese modo formo a mis estudiantes con esos criterios -fundamentalmente en el caso de la educación superior que estamos preparando alumnos para el mundo del trabajo profesional-, allí hay muchas pistas y muchas potencialidades, porque es el mundo que estamos viviendo hoy en día.
Si yo lo niego o no lo profundizo, corro el riesgo de dejar a mis estudiantes por fuera de ciertas discusiones o de que no formen capacidades para el mundo del trabajo, el mundo profesional y el mundo cívico… esto de ser ciudadano en esta ciudadanía digital, como se trabaja actualmente.
Por lo tanto, creo que siempre ante un trabajo entregado, una propuesta de evaluación o de ejercitación, o en el propio estudio, tiene que estar esto sobre la mesa. Ya es algo que no se puede obviar en la conversación pedagógica.
- El segundo riesgo que ustedes mencionan es la pérdida de hábitos o herramientas de estudio. ¿Por qué puede darse esta situación?
- Si yo solamente puedo estudiar con el ChatGPT, hay ciertos modos que son muy regulares. Es como que voy al mismo lugar para obtener todo tipo de actividad o todo tipo de información o todo tipo de producción. Entonces, se vuelve casi rutinario. Pero hay otros modos de aprender. De hecho, cada ciencia, cada disciplina, tiene sus formas de aprender y está bueno que los estudiantes puedan desarrollarlas, cada una en su ámbito.
Igualmente, hay un montón de conocimientos que no pasan por la inteligencia artificial, por lo menos hoy en día, relacionados, por ejemplo, con la práctica en laboratorio, que sí o sí necesitan una presencia y un desarrollo de hipótesis y de comentarios que se hacen in situ.
De todas formas, cada vez más la inteligencia artificial va a empezar y, de hecho, puede empezar a abarcar ciertos espacios de este estilo. Por lo tanto, tenerlo como riesgo implica que puedo proponer distintos modos de aprender la materia que dicto, sabiendo que ellos tienen esta potente herramienta en la mano. Y así la integro de algún modo, para que puedan, por ejemplo, comparar una producción hecha por el ChatGPT con una producción científica de un paper internacional o con una producción que hagan en grupo en clase. Ese tipo de actividades generan habilidades de orden superior: uno puede analizar, comparar, hipotetizar, discutir. Se puede discutir lo que sale de diferentes herramientas de inteligencia artificial generativa y ver qué aplicación sería más recomendable para determinado tipo de actividad. Es decir, la integro, la cuestiono y genero habilidades mucho más potentes.
-La intención de conformarse con respuestas rápidas sin mediar reflexión es uno de los peores riesgos sobre los que advirtieron, ya que si uno se conforma con respuestas pierde el sentido crítico.
-Exacto. Este tipo de herramientas de inteligencia artificial generativa son diferentes a lo que me ofrece Google, monografías.com o elrincondelvago… En los últimos 20 años hubo mucha difusión de espacios donde uno puede copiar y pegar. Pero como ChatGPT hace producciones originales, lo saco de ahí, lo pego y en el medio no hubo ningún tipo de proceso de aprendizaje. De ahí también la pregunta sobre si hay aprendizaje utilizando inteligencia artificial. Si bien podíamos copiar y pegar de otros lados, en este caso se vuelve todavía más compleja la cuestión y lo que necesitamos nuevamente es la mediación pedagógica. Necesitamos un docente que pueda alertar sobre estas cuestiones, que pueda decir cómo conviene incorporar eso que ofrece ChatGPT para poder cuestionarlo, para poder compararlo con las distintas versiones que puede hacer. Además, está la diferencia entre los usos más profesionales o expertos y los usos más iniciales o de alguien más novato.
Los estudiantes, si bien no son novatos en el uso de la tecnología, en cuanto al uso educativo de la herramienta y las potencialidades y limitaciones que tiene, necesitan orientación y es importante que ese debate sea en las aulas.
- ¿Y cuáles son los peligros vinculados con el plagio del material que ofrece ChatGPT?
- Uno no sabe de dónde sale la información que produce la aplicación. Por ejemplo, una colega que es directora de tesis contaba que una tesista presentó una bibliografía que utilizaría para su tesis con un listado de autores que no habían escrito los textos que allí se consignaba. Evidentemente, la tesista había confiado en la producción de ChatGPT, que había dicho que esos autores habían producido esos materiales y ni siquiera eran reales.
Así que, en ese sentido, el riesgo de plagio es lo primero que salta en el uso del ChatGPT. ¿Por qué en las universidades en el mundo lo primero que hicieron fue prohibir su uso? Porque hay allí una opacidad en las características respecto de su uso y la posibilidad del plagio, que la hacen muchísimo menos posible de gobernar, porque ni siquiera las aplicaciones de control de plagio están pudiendo realmente detectarlas.
- Sin embargo, ustedes creen que no hay que prohibirlo en las aulas, sino enseñar a usarlo.
-Sí. Fundamentalmente en el nivel superior, aunque en el resto de los niveles también porque son herramientas para la vida, que hoy en día se usan en cualquier ámbito. Es un derecho también. El derecho a la ciudadanía digital implica generar normativas, de formación docente. En el Instituto estamos desarrollando un programa de formación docente en tecnología y, específicamente, con una línea sobre inteligencia artificial. Esto lo pusimos en el reglamento docente como parte de las tareas docentes: que estén formados en estas tareas, que enseñen bajo esta lógica y que a la vez permita que nuestros estudiantes sepan cómo utilizarlo de manera respetuosa con esta categoría de integridad académica que se trabaja en este momento con el ChatGPT, relacionado con el uso honesto, con este diálogo honesto en las aulas del nivel superior. Poder manejarse éticamente o con valores morales y que esto no sea un uso sesgado, sino ponerlo sobre la mesa y poder pensar cuáles son las actividades que potencian su uso más que el restringirlo. Mejor habilitarlo respetuosamente, responsablemente y de una manera formada.
- Además de información falaz, ChatGPT incorpora sesgos -intencionales o no-. Las consecuencias de esta combinación, en algunos asuntos -por ejemplo, en materia de salud, medicina, tratamientos- pueden ser muy graves…
-Sin duda, los sesgos son muchos. También hay mucha biografía que se produjo en este último año, en donde confluyen estas ideas de los sesgos de género, de comercialización -porque estas son empresas, o sea, OpenAI, no es una sociedad de beneficencia-. Justamente, para poder alertar sobre los sesgos y poder trabajar sobre ellos, es que tenemos que dotar a nuestros estudiantes de estas herramientas para que puedan leerlo y criticarlo, cuestionarlo, ver su veracidad o no. Después, ir a buscar a otro lado para ver si eso que te dijo es verdad o no. Si no les doy esas herramientas, lo estoy dando por hecho y hasta lo termino validando.
También es importante conocer cómo produce la información ChatGPT. La UNESCO, a través de un consenso que se hizo en Beijing en 2019, planteaba tres escenarios para la educación con la inteligencia artificial: enseñar con la inteligencia artificial, aprender sobre la inteligencia artificial (es decir, cómo produce la información, qué es lo que está atrás de los algoritmos). Enseñar programación, robótica, en la educación, que son temáticas transversales hoy en día en los sistemas educativos, porque es de esta manera que uno lo puede gobernar. Si no sé cómo funciona, solamente me trae la información y me falta entender cómo se usa. Si uno no sabe cómo funciona, es muy probable que mi uso sea superficial. Y el tercer escenario que plantea la UNESCO es la idea de prepararse para la inteligencia artificial, porque esto es ahora, pero está en desarrollo constante. Hay que prepararse para la inteligencia artificial en el mundo del trabajo, en la producción científica… todo esto es necesario y creo que es un desafío para la educación superior.
-¿Cómo incide esta herramienta en la crisis educativa que arrastra el país desde hace años?
-El sistema educativo reproduce desigualdades y con cuantas menos oportunidades dotemos a nuestros estudiantes para poder conocer el mundo que lo rodea y tener herramientas para poder cuestionar, debatir, discutir y criticar lo que allí sucede, menos oportunidades y más falencias habrá. Creo que esto es una oportunidad para revisar las prácticas de enseñanza y de aprendizaje.
-Se dio a conocer hace un par de meses que Suecia daría marcha atrás con el uso de pantallas en las aulas y que volverá a la enseñanza tradicional con libros de texto. ¿Qué opina al respecto?
-No necesariamente uno tiene que pararse en un extremo o levantar una bandera de una sola forma, porque la enseñanza es contextualizada, es en situación. En cuestiones transversales, la heterogeneidad, por lo menos en nuestro país, la diversidad y la desigualdad, es muy grande. Cada escuela, cada espacio, cada institución de educación superior tiene sus lógicas, sus formas. Soy muy respetuosa de la formación de los docentes y tampoco es cuestión de darle marketing a la cosa o verlo con espejitos de colores. Lo importante es ver dónde está la fortaleza y lo importante de cada disciplina que yo estoy enseñando, de cada materia, de qué modo es mejor enseñarlo para que sea mejor aprendido y utilizar todos los recursos que tenga a disposición. Cuantos más recursos tenga -algo que depende mucho de las oportunidades, las posibilidades, la inversión-, más variedad de posibilidades voy a tener para elegir. Si tengo las capacidades docentes para poder llevarlo adelante y tengo un repertorio de recursos amplio, obviamente mis estudiantes van a tener más oportunidades que otros que no la tienen.