¿Va a arruinar la IA la educación?
Hace dos años, en la Facultad de Educación de la Universidad Complutense, nos asaltaron los miedos propios de quienes nos dedicamos a las Ciencias Sociales y utilizamos ensayos escritos como vía de evaluación del conocimiento de los estudiantes. Irrumpió ChatGPT. Lo probamos y quedamos abrumados. No hacía maravillas (por aquel entonces), pero elaboraba textos muy dignos si sabías cómo preguntar. Ahí comenzamos a retomar los exámenes orales y escritos como único modo de evaluación hasta nuevo aviso. Necesitábamos pensar e investigar el asunto.
El siguiente paso que dimos fue hacer algún experimento con estudiantes, para comprobar si el uso de ChatGPT mejoraba productos o personas, esto es, si hacer preguntas al chatbot incrementaba la calidad de los escritos o si dejaba algún poso en las cabezas de los estudiantes. Y así nació el proyecto ChatGPTeaching.
La IA y el efecto San Mateo
Dejando a un lado el camino metodológico que convertiría este escrito en un artículo académico, pudimos concluir provisionalmente que se cumplía –para sorpresa de nadie– el Efecto San Mateo de ‘A quien más tiene, más se le dará; y a quien no tiene se le quitará incluso lo que cree tener’ (Mt 13, 11).
Los estudiantes que partían de mejores niveles de conocimiento (sin la IA) alcanzaron un uso más provechoso para sus trabajos y además retenían esa nueva información a lo largo del tiempo.
A los que partían de la ignorancia, les ayudó sólo levemente a mejorar sus trabajos y, además, no les había dejado ningún poso en la memoria pasado un tiempo, rindiendo incluso peor que antes de haber utilizado la IA. Así se cumplía también la expresión que utiliza Gregorio Luri cuando dice que la tecnología funciona a modo de prótesis antropológica amplificando lo que ya somos. De ahí la importancia de la vida offline si se quiere tener algún provecho de la vida online.
Si bien parece que todo (lo obvio) está dicho en cuestiones de IA y educación, querría aquí abrir dos interrogantes, por si pueden ayudarte, querido lector, a abrir nuevas vías de reflexión.
Para ello, hay que partir de que la IA es más que ChatGPT: es el Apple Watch de tu muñeca, la Alexa de la cocina, los famosos hologramas, y las recomendaciones de Spotify y Netflix. Considero que observar la IA en su amplitud nos ayuda a hacernos preguntas más importantes. Comencemos, pues, por la datificación y la infantilización.
¿Pasa algo por dejar de dar paseos y empezar a dar 10.000 pasos diarios?
En el capitalismo cognitivo, término acuñado por Moulier-Boutang en el año 2008, el conocimiento es el punto de partida para las nuevas relaciones del capital, mientras que en el capitalismo informático (como en 2006 lo llamaron Bryan y Rafferty) el dato es el punto de partida.
El protagonismo de la información frente al conocimiento tiene evidentes consecuencias pedagógicas relacionadas con el tipo de empoderamiento que genera en las personas, pero también tiene unas primeras implicaciones antropológicas que merece la pena analizar.
La datificación, una reducción de lo humano
Si con la revolución industrial nos preocupaba la fragmentación y separación del ser humano con la naturaleza, con el capitalismo informático ocurre una fragmentación en la propia relación con nosotros mismos, al ser los datos fragmentos abstractos e insignificantes. Respecto a la datificación que provoca el capitalismo informático, López Gabrielidis en el 2020 afirmaba que este “interpela al sujeto como entidad significante (…) para luego extraer valor de la recombinación de sus transacciones dividuales en una variedad potencialmente infinita de conjunto de datos” (p. 124).
Un caso claro de datificación de los sujetos es el reloj inteligente que llevamos en nuestras muñecas. Nos informa de nuestras pulsaciones, nos cuenta los pasos, nos dice la body battery que tenemos al despertamos, nos registra con parámetros nuestras horas y calidad de sueño, e incluso puede detectar un principio de Parkinson. Todo lo datifica, monitorizando la realidad.
No tenemos gran consciencia de cómo estos dispositivos lo hacen ni de lo que hacen exactamente con nosotros, pero mediante algoritmos inteligentes generan recomendaciones basadas en cálculos. De este modo, un paseo se convierte en un número determinado de pasos y una noche de descanso se convierte en tiempo dormido, índice respiratorio y fases del ciclo de sueño por las que has pasado.
De la experiencia al dato: algunos ejemplos cotidianos del uso de la IA
En definitiva, todas estas Apps son objetos que datifican la vida como “unidades discontinuas de breve actualidad que no se combinan para constituir una historia” (Han, 2018, p. 6). Pensemos en la madre con tres hijos pequeños cuyo Apple Watch a las 08.00 de la mañana le dice “Tan solo tienes un 9% de body battery. ¡Ánimo, hoy puedes intentar dormir mejor!”. Su vida se ríe del dato.
Pero es que el fenómeno de la datificación parece imparable: reconocidas divulgadoras de psiquiatría hablan de la batería mental, en un intento de observarnos como máquinas que van gastando energía a lo largo del día y, sobre todo, cuyo objetivo último es el bienestar.
La continuidad narrativa de la vida (un paseo, una noche, una mala racha) que genera historia y memoria, pasa a ser interpretada por una acumulación de datos, reduciendo, de algún modo, lo humano a lo psicológico y cuantificable y, lo que es peor, obviando que la vida exige biografía.
El Apple Watch tiene la pretensión de facilitarnos la existencia, de liberarnos de este peso de auto-interpretar nuestra vida en narrativas coherentes con algún sentido unitario, tarea a menudo fatigosa pero que, por otro lado, nos humaniza y no nos reduce a nuestras funciones ejecutivas.
¿Qué riesgos tiene dialogar con bots que siempre nos dan la razón?
Si compartimos la idea de Biesta de que estar en el mundo de una manera adulta tiene que ver con que las cosas y el mundo no sean como deseamos, algunos objetos de la IA pueden estar apuntado a un sujeto que permanezca, como dice la canción de Alphaville, ‘Forever Young’, con una aparente liberación de las imposiciones duras de la alteridad tozuda que no parte ni tiene en cuenta nuestros deseos y preferencias.
Si algo nos han demostrado las prácticas con procesadores de información y chatbots en los últimos tiempos es que quieren aligerarnos la vida, estar a nuestra disposición y llevarnos poco la contraria. Estos objetos han sido entrenados para evitar sesgos discriminatorios y posturas controvertidas a nivel social. Pero es que, además, el nivel de respuesta se adapta siempre al nivel de la pregunta. No hay malas preguntas para la IA. ChatGPT nunca te dirá: “esa pregunta es pobre e incluso preocupante para la edad y formación que usted tiene”.
Como siempre parten de nosotros mismos, no nos enfrentan al mundo, no nos fuerzan a oponer resistencias, sino que nos condenan a un círculo constante de autorreferencia.
Justo lo contrario que pretende la educación: introducirnos en la totalidad de la realidad.
La datificación y la infantilización son contrarias a la educación, porque nos reduce una, y no nos deja crecer la otra.
En definitiva, ahora que ya se nos ha pasado el susto inicial de la IA, toca ayudarnos, desde todas las disciplinas, a hacernos buenas preguntas sobre las condiciones de posibilidad de desarrollo humano (objetivo de la educación) que pueden darse en el contexto de la IA y actuar, con prudencia y determinación, en consecuencia.
Muchas gracias por tu reflexión, Tania. Es muy luminosa en varios aspectos. El efecto San Mateo me parece muy bien traído para ilustrar el impacto exponencial que la IA puede tener en el aprendizaje de nuestros estudiantes y en el nuestro propio. Me encantaron tus referencias musicales y el ejemplo tan cotidiano de una madre con tres hijos a las 8 de la mañana, que refleja perfectamente tu argumento sobre la excesiva – y a veces inútil- dependencia de los datos en nuestra vida.
Coincido plenamente con tu conclusión sobre la urgencia de repensar la visión de lo humano que subyace en muchos de nuestros esquemas pedagógicos y evaluativos. Evaluar es dar valor, y la IA nos ha hecho ver que, sin darnos cuenta, hemos estado valorando demasiado los resultados —como los datos, la eficacia y la eficiencia— en detrimento del proceso —como la vida, los errores y la relación con otros—. Todo esto debemos abordarlo con prudencia pero sin demora. Desde la Universidad de Navarra también estamos trabajando en ello. Ojalá que entre todos colaboremos como comunidad educativa para integrar la IA al servicio de las personas y de un aprendizaje integral.
Gracias de nuevo, Tania.
Dani Sierra
Excelente perspectiva.
Muchas gracias, Tania, por abordar con tanta lucidez un tema fundamental para la educación actual y futura. Tu reflexión sobre el efecto San Mateo es especialmente valiosa, ya que pone de manifiesto una realidad clave: la IA no solo amplifica nuestras fortalezas, sino también nuestras desigualdades educativas. Me parece esencial, entonces, que al integrar estas herramientas tecnológicas en las aulas, lo hagamos desde un enfoque inclusivo y consciente, centrado en la equidad educativa y en fortalecer las habilidades críticas, sociales y emocionales de todos los estudiantes, independientemente de su punto de partida.
Comparto plenamente tu preocupación por la «datificación» (proceso de transformar información en datos cuantificables que se pueden analizar y monitorear) y su potencial para simplificar peligrosamente la complejidad humana. Como educadores, tenemos la responsabilidad de formar personas que no solo gestionen datos eficazmente, sino que también sepan cuestionarlos, interpretarlos con sentido crítico y utilizarlos éticamente. Al mismo tiempo, coincido en que debemos resistir la tentación de ceder nuestra autonomía al confort tecnológico y esforzarnos por preservar aquellos espacios educativos en los que la interacción humana directa sigue siendo insustituible.
Gracias nuevamente por abrir este valioso debate. Sin duda, es un momento clave para redefinir el papel de la educación, no como una mera transmisora de información, sino como un verdadero motor de desarrollo humano integral en la era digital.
Saludos, Tania
Siento estar en desacuerdo, profundo, tanto de partes del contenido del artículo, como de los comentarios adicionales.
El síndrome de San Mateo es cierto. El que más tiene, más obtiene con la IA, hecho que amplifica las diferencias. Y yo digo, ¡por fin! Por fin ocurre en el aula, que veamos la importancia de adquirir información de valor, y lo que ello representa. Se convierte en un ejemplo para los que más dificultades tienen, para que entiendan el valor del trabajo constante en aprendizaje. Y, por supuesto, debemos utilizar el tiempo en el aula para trabajar estos aspectos.
Y es que la IA ha puesto el dedo en la llaga, sobre nuestra forma de enseñar y evaluar.
Y, por otro lado, permitidme la siguiente afirmación: sin datos no sabemos nada.
Tal como lo leéis.
¿Desde cuándo los datos nos quitan nuestra capacidad de análisis, nuestra capacidad de sentir, o nuestra capacidad de ser? Nunca. Y, en cambio, nos llevan a cometer muchos errores, porque los análisis sin datos hacen relevantes los hechos irrelevantes, puesto que sin datos no podemos calibrar su peso en la realidad que nos rodea. Sólo el análisis cuantitativo pone las cosas en su sitio.
Permitidme profundizar más en mis polémicas afirmaciones. Vayamos por partes.
Primero la docencia, y cómo se ve afectada por la IA.
Nuestra forma de enseñar, reconozcámoslo ya de una vez, está basada en la suposición medieval de que la información sólo es poseída por unos pocos. De ahí que obliguemos a los pobres alumnos a asistir a clase para escuchar monólogos paupérrimos, que nada aportan hoy en día.
La IA obliga, definitivamente, a modificar ese paradigma de hace 800 años, y abordar mediante aprendizaje activo las clases universitarias.
Porque si no, ¿Cómo justificamos la existencia de unas instituciones complejísimas y carísimas, si no es porque sólo en ellas se realizan actividades que van más allá del nivel más bajo en la taxonomía de Bloom? ¿Cómo afrontamos las clases hoy en día, teniendo en cuenta que los alumnos pueden verificar, en cero segundos y gratis, lo que nosotros, profesores, estamos diciendo?
Por fin, la tecnología nos está obligando a ponernos las pilas, y a entender que la enseñanza no va de profesores explicando, sino de alumnos aprendiendo.
Escuchad a vuestros alumnos, después de clase, y veréis cuán descontentos están de las clases magistrales, de los «lectores de powerpoint», o de los profesores para los que la docencia es una excusa frente a sus proyectos de investigación.
Y no me entendáis mal. La investigación es muy, muy importante. Quizás es la actividad de mayor valor estratégico para el ciudadano. Pero no a costa de la buena docencia. ¡Qué barbaridad, que la investigación justifique ser mediocres docentes! Una buena docencia lleva a buenos profesionales, y éstos a buenas empresas, que añaden valor añadido, pagan más impuestos, y proporcionan entre otras cosas más medios para enseñar mejor.
Aprendizaje activo, ahí está la cuestión. Mediante aprendizaje activo, la IA se convierte en una herramienta más, extraordinariamente útil. Favorece el análisis crítico, el trabajo autónomo y, finalmente, el autoaprendizaje, algo que debemos incorporar, si no se ha hecho ya, a nuestra forma de ejercer nuestras profesiones.
Por lo que respecta a los datos, unas cuantas reflexiones.
La primera. ¿Cuántas veces se rechazan los datos, aduciendo su frialdad, para no tener que analizarlos, puesto que nos es difícil, o incluso no los entendemos para nada? ¿Si no tenemos base estadística para entender los datos, cómo sabemos que no aportan nada?
¿No será que la modernidad nos lleva, sin remisión, a modificar los contenidos de nuestros planes de estudios, para que el análisis cuantitativo de datos esté presente en todos los casos?
Es lo que la tecnología está proporcionando por primera vez, la capacidad de recopilar datos, en todos los ámbitos del conocimiento, como nunca antes había sucedido. Es una señal, no un problema. Es un vector que promueve el cambio, no una moda que conviene rechazar porque pronto quedará desfasada.
«Datificación» no es nada negativo, puesto que en nada nos limita nuestra capacidad de análisis. Al contrario, aporta una información que no teníamos.
Eso sí, hace falta ser consciente que, sin las herramientas de análisis de datos, no podemos obtener todo lo que los datos proporcionan.
¿A qué esperamos, para adaptar nuestros grados a la nueva realidad datificada?
Opino que: Tendríamos que leer más artículos como este, no solo yo que nada tengo que ver con la educación… más que un par de hijos que educar… nada importante, por otro lado, por qué total ya los educarán otros y si no chapgpt o un humanIA
[…] Nos enfrentamos a un cambio de era en la educación, es decir, estamos incorporando la IA como una nueva herramienta en el proceso de aprendizaje. La primera cuestión que surge es la utilización responsable de los datos que la alimentan y el […]
La IA es una herramienta. Como toda herramienta, hay que saber utilizarla.
En su momento, la calculadora ahorró mucho tiempo en actividades que no aportaban valor. La contabilidad analítica de una empresa, por ejemplo, alivió los tiempos de respuesta. Ahora bien, el que usara la calculadora, tenía que saber qué es la suma y qué es la multiplicación. Pero, entre hacerlas el contable, o que la hiciera la calculadora, mediaba un ahorro de tiempo.
En el ejemplo anterior, nadie se preocupó por el dato, porque en ambos caso, manual con con calculadora, la calidad del dato dependían del mismo actor. Seguíamos en el mundo analógico.
Al entrar en la era digital, el control sobre la calidad del dato, se debilita. Por contra, la automatización de procesos multiplica exponencialmente la productividad y la eficiencia (parámetros clave en la supervivencia de la empresa). Compensa, enormemente, aumentar los mecanismos que aseguren la calidad del dato en aras del objetivo marcado.
La IA creo que no tiene discusión. Tiene que estar sí o sí. Y, en los procesos de aprendizaje y formación, también.
La datificación, siempre ha existido. Lo que ha cambiado es el formato. Y, con el cambio de formato, de analógico a digital, se ha transformado la capacidad de manipulación.
Es la manipulación del dato la que produce la información. Aquí entran otras disciplinas como el ML o el BD para asistir en ese proceso.
En resumen, para mí, lo importante es poder controlar la calidad del dato, que como ya he comentado, se debilita en este cambio de formato y a partir de ahí, usar la IA, el ML o el BD para producir información que nos habilite para tomar decisiones.
[…] disruptiva de estos tiempos. Afecta a todos los ámbitos económicos y sociales y, por supuesto, al proceso de enseñanza-aprendizaje, a la investigación y a la gestión institucional de la enseñanza […]