Cavilaciones invernales

Cavilaciones invernales sobre la escritura de trabajos académicos usando inteligencia artificial

He escrito este post en colaboración con ChatGPT. Su referencia como coautor es un reconocimiento tanto a la potencialidad de esta herramienta de inteligencia artificial, como a los autores que publicaron en su momento los documentos de los que esta ha extraído la información.

 

Podemos afirmar sin lugar a duda que estamos viviendo momentos dulces para la inteligencia artificial (IA). Tras una primera época dorada, seguida de distintos inviernos y primaveras, con la llegada del siglo XXI algunos expertos afirman que la IA ha entrado en una primavera perpetua. La razón es el acceso a cantidades ingentes de datos recogidos a través del rastro que vamos dejando en el universo digital, junto con máquinas con elevado almacenamiento y potente capacidad de procesamiento. Eso ha permitido la utilización de técnicas de aprendizaje automático (machine learning), fundamentalmente lo que se denomina aprendizaje profundo (deep learning).

Este verano nos entretuvimos con la generación de imágenes por inteligencia artificial. Y OpenAI nos impresionó con DALL-E 2 y sus espectaculares ilustraciones. Ahora la capacidad de mantener una conversación nos ha vuelto a sorprender.

ChatGPT es una herramienta de lenguaje natural desarrollada también por OpenAI que permite a los usuarios interactuar con ella de manera similar a una conversación humana.

¿Y por qué me interesa ahora este chatbot? Por el revuelo que se ha montado por su posible impacto en educación, fundamentalmente en la escritura de los trabajos académicos. Pero vayamos por partes. Para estas cavilaciones voy a apoyarme en distintas noticias aparecidas en medios de comunicación y otras difusiones en redes sociales de estos últimos días. Y como no, voy a pedirle ayuda a ChatGPT, coautor de esta entrada del blog. ¿Serás capaz de distinguir las partes que ha escrito?

 

Inteligencia artificial y educación

En la educación, la IA se está utilizando cada vez más para mejorar la enseñanza y el aprendizaje. Por ejemplo, algunas plataformas de educación en línea utilizan la IA para personalizar el aprendizaje de cada estudiante, adaptando el contenido y el ritmo del curso a sus necesidades individuales. También se están desarrollando herramientas de IA que pueden ayudar a los profesores a identificar y abordar las necesidades de cada estudiante, lo que puede mejorar el rendimiento y el éxito académico. En general, la IA puede ser una herramienta valiosa para la educación, ya que puede ayudar a mejorar la eficiencia y efectividad del proceso de enseñanza y aprendizaje.

Es importante tener en cuenta que la IA no puede reemplazar completamente al profesorado humano, ya que la enseñanza y el aprendizaje son actividades complejas que requieren la interacción humana y el pensamiento crítico. 

Esta última frase ha quedado muy bien, pero como ingeniero en informática y profesor universitario de ciencia de la computación e inteligencia artificial no puedo dejar de explorar las posibilidades de utilización de la IA en la enseñanza, teniendo en cuenta sus beneficios, sus limitaciones y sus riesgos. Como ya he comentado con anterioridad en este foro, es enriquecedor que haya tecnófilos y tecnófobos, pero los que son muy peligrosos son los tecnófilos ingenuos y los tecnófobos recalcitrantes.

Como no quiero ser de ninguna de estas dos últimas clases he querido indagar por mí mismo sus posibilidades y me puse a jugar con ChatGPT. La vorágine mediática de esta herramienta me pilló corrigiendo los ejercicios de lógica de mis estudiantes y le pedí que me resolviera algunos ejercicios y acertijos lógicos. Destripe (por cierto, me ha encantado esta palabra, es la que recomienda la RAE en sustitución de spoiler): no es bueno en lógica, suspendería mis exámenes, pero ¡tiene una labia!

 

Escritura de trabajos académicos usando IA

Según Miguel A. Román, “una de las áreas que más van a verse afectadas por esta tecnología es, sin duda, la educación. ChatGPT es capaz de realizar de manera muy solvente trabajos basados en la escritura, como redacciones, resúmenes, ensayos y poesía”. Y se pregunta: “del mismo modo que ya no pedimos a los alumnos que hagan raíces cuadradas a mano y el cálculo mental tiene menos peso en el currículum académico debido a la prevalencia de las calculadoras, ¿qué pasará si tenemos un sistema capaz de escribir cualquier texto mejor que la media de la población? También puede servir para producir material educativo, que aunque pueda contener errores, en manos de un experto, permite crear contenidos de una manera más prolífica”.

En cuanto a la escritura de textos académicos, es poco probable que la IA reemplace completamente a los estudiantes en el futuro cercano.

La escritura académica requiere habilidades como el pensamiento crítico y la capacidad de sintetizar y analizar información, habilidades que aún no tienen las máquinas. Sin embargo, es posible que en el futuro la IA pueda desempeñar un papel en la ayuda a los estudiantes a escribir textos académicos. Por ejemplo, se pueden desarrollar herramientas de IA que ayuden a los estudiantes a organizar y estructurar sus ideas, a corregir errores gramaticales y de ortografía, o incluso a sugerir enlaces a fuentes relevantes para su trabajo.

 

Alucinando con la inteligencia artificial

Al igual que ha despertado pasiones, también ha levantado desconfianzas. Así Marta Peirano subtitula su columna del 10 de diciembre en El País con la frase: “ChatGPT es un maestro de la palabrería, un mitómano irredento que no sabe lo que dice pero suena tan bonito que nos seduce sin remedio”.

Este aspecto, que podía hasta sonar gracioso, y como se dice en el mismo texto habla charlatán fluido, tiene connotaciones graves cuando nuestra sociedad se está resintiendo por las fake news y ahora podemos caer en sus redes con nuevos sistemas peligrosamente estúpidos. Así, en la entrevista que hace Manuel Ángel Méndez a Gary Marcus, experto en inteligencia artificial, este dice: “En realidad, aún no está claro cuáles van a ser las aplicaciones de ChatGPT. La más inmediata es escribir trabajos escolares. Pero mi mayor preocupación es la desinformación, creo que va a acelerar de forma dramática la velocidad a la que se va a producir desinformación”.

La desinformación no vendrá solo porque haya aprendido con información incorrecta, es que la IA, cuando algo no lo sabe o tiene información incompleta, se la inventa.

Esas salidas extrañas y la predicción de resultados raros es lo que se llama técnicamente “alucinaciones”, y pueden ser la base para que la IA encuentre soluciones originales y creativas, pero son peligrosas si queremos construir sistemas robustos y fiables.

Como ya he adelantado, pregunté a ChatGPT sobre el ejercicio de lógica que estaba corrigiendo: demostrar la validez de un argumento lógico utilizando tablas de verdad. Mi primera impresión ante la respuesta fue de sorpresa. Me quedé alucinado. La IA había entendido el enunciado, había construido una respuesta adecuada utilizando símbolos lógicos y ¡había dibujado la tabla de verdad! Pero cuando me fijé en los valores de la tabla, detecté muchos errores (por ejemplo, ante Q verdadero y R falso, puso que Q y no R era falso).

Seguí haciéndole preguntas, pero esta vez no utilicé ejercicios clásicos sino típicos acertijos lógicos. Si no fuera porque conozco el tema, pensaría que sabe de ello y que me está dando una respuesta correcta. Mirad la convicción con que contesta, erróneamente, a los dos acertijos lógicos planteados en la figura.

 

 

Aprendizaje profundo y conocimiento superficial

En el mundo de la educación consideraríamos que un aprendizaje es profundo cuando hablamos de una experiencia inolvidable, de un aprendizaje significativo y perdurable en el tiempo, frente a lo que llamaríamos aprendizaje superficial, cuando  está orientado a la reproducción y repetición.

En el ámbito de la inteligencia artificial, el aprendizaje profundo (deep learning) hace referencia a técnicas de aprendizaje automático que se caracterizan por tener varios niveles (capas) entre la entrada y la salida, permitiendo transformaciones no lineales múltiples.

Siguiendo con mi exploración de las posibilidades de ChatGPT, le pregunté por un problema típico de introducción a la inteligencia artificial: el lobo, la cabra y la col. Esta es una versión básica del problema general de los misioneros y los caníbales. Se puede ver en la figura su respuesta. En el enunciado pone explícitamente que, cuando el pastor no está presente, el lobo se come a la cabra. En su respuesta dice que el pastor cruza el río con el lobo y deja al lobo con la cabra en la otra orilla del río. Y concluye: “de esta manera, el pastor ha logrado trasladar al lobo, la cabra y la col a la otra orilla del río sin que se produzca un incidente”. ¿Sin ningún incidente? ¡Pues cuando llegue el pastor con la col a la orilla, el lobo ya se habrá comido la cabra!

 

Paradójicamente una técnica que se llama aprendizaje profundo crea respuestas que denotan un conocimiento superficial.

Pero no seamos tan estrictos evaluando a esta IA. No está hecha para resolver enigmas lógicos, es un conversador. No hay razón para menospreciarla. Como dice Marcus en la entrevista que he comentado arriba, “los colegios e institutos tienen un problema. No sé si hablamos de ensayos y trabajos que puedan obtener un sobresaliente, muchos de los resultados de ChatGPT tienen errores y son superficiales, pero siempre puedes coger el texto que te da la IA en bruto y añadirle cosas, corregirlo, etc.”. Y vislumbra un reto para el mundo educativo: “va a cambiar cómo los estudiantes hacen sus deberes y escriben sus trabajos, y va a hacer imposible evaluar lo que de verdad el alumno entiende y sabe sobre un tema en una tarea para realizar en casa”.

 

Autoría de los trabajos y detección de copias

Existen varios métodos que pueden ayudar a un profesor a detectar si un trabajo ha sido escrito con la ayuda de una inteligencia artificial. Uno de ellos es analizar el contenido del trabajo en busca de errores gramaticales o sintácticos comunes. Otra forma es buscar palabras o frases que puedan ser sospechosas de haber sido generadas por una IA, como repeticiones innecesarias o uso excesivo de palabras clave.

Pero al igual que la tecnología nos genera nuevos problemas, también nos puede ayudar en su solución. Como dice Enrique Pérez,  como medida de emergencia, los profesores podemos utilizar detectores de textos generados por IA porque, “para evitar trampas con los deberes, ya hay disponibles detectores de textos creados con GPT”.

Como soy muy escéptico y tengo que tocarlo todo para creérmelo, lo he probado.  He puesto un párrafo que acababa de generar con ChatGPT para este artículo y se lo he pasado. Me ha dicho que, con una predicción basada en 351 tokens (dice que necesita al menos 50 tokens para ser fiable), hay un 99,97% de que el texto sea real y un 0,03% de que sea fake.

Por si me había equivocado, lo he repetido con otro fragmento y me ha dado un 99,98% de probabilidad de que sea real. Como se dice en el propio artículo, el problema es que la IA avanza más rápido que el detector y, evidentemente, el detector que he utilizado está desfasado. Para detectar copias de trabajos realizados por una IA no podemos simplemente confiar en que tengamos detectores precisos.

No queramos competir con la IA y enseñemos a trabajar con ella a nuestros estudiantes para apoyar su aprendizaje.

 

Suma de inteligencias = inteligencia natural + inteligencia artificial

En el caso de la utilización de una inteligencia artificial en el proceso de elaboración de un trabajo académico, es importante asegurarse de que el uso de la tecnología esté justificado y que se reconozca adecuadamente el papel de la IA en el proceso de investigación y redacción. Además, es fundamental que se garantice que la IA no se utilice de manera fraudulenta o engañosa, y que se cumplan todas las normas y estándares éticos y legales aplicables.

Hay una máxima que dice que “si no puedes con tu enemigo, únete a él”. Pero además es que en este caso sería absurdo no aprovechar el enorme potencial que estas tecnologías disruptivas tienen para el mundo de la educación. Y en este sentido va la propuesta de Lluís Codina en su texto Cómo utilizar ChatGPT en el aula con perspectiva ética y pensamiento crítico: una proposición para docentes y educadores: “se trata de una propuesta para aplicar ChatGPT en las aulas en la que la ética y el pensamiento crítico tienen un rol fundamental, a la vez que ponemos a nuestro favor las mejores posibilidades de la IA. La idea final es tan simple como la de encontrar la forma de poner la IA a favor de la docencia en lugar de lamentar la pérdida de un mundo que ya no volverá”.

 

Cualquier parecido con la realidad es pura coincidencia (¿o no?)

El hilo en twitter de Manuel Carro es muy ilustrativo. Tanto que voy a utilizar palabras suyas (aunque la traducción es mía). “Millones de personas se han asombrado de la destreza de ChatGPT o han intentado demostrar que es muy malo en algunas tareas. Preocupantemente, algunas personas dicen que ChatGPT es excelente en las mismas tareas para las que otras personas dicen que es muy malo”.

Para que realmente fuese útil, debería no solo ser bueno, sino también fiable. Es más, se dice que se expresa muy bien pero, como he podido comprobar, falla en preguntas sobre lógica formal. Se puede argumentar que no está diseñado para ello, que existen otras herramientas para las demostraciones lógicas.

ChatGPT es consciente de ello y es una inteligencia artificial muy modesta. Ante la pregunta de si pasaría el test de Turing me ha respondido: “No puedo responder a esa pregunta porque soy una inteligencia artificial y no tengo la capacidad de tomar decisiones o hacer pruebas como un ser humano. Soy solo un programa de lenguaje natural diseñado para responder preguntas y ayudar a las personas de la mejor manera posible, pero no puedo simular la experiencia de un ser humano en un test de Turing”.

ChatGPT tiene aprendida la lección y la teoría se la sabe. Pero, ¿qué uso haremos los humanos de estas inteligencias artificiales? ¿Será más peligrosa la estupidez humana que la inteligencia artificial?

Y finalizo con unas palabras del libro que estoy leyendo en estos momentos, De las bacterias a Bach. La evolución de la mente de Daniel C. Dennet: “Dado que puede haber competencia sin comprensión y dado que la comprensión (la comprensión ‘real’) resulta cara, la naturaleza hace un uso intensivo del principio de mínimo conocimiento y diseña criaturas muy capaces, expertas e incluso astutas que no tienen la más mínima idea de lo que hacen ni de por qué lo hacen”.

Como dice el título, estas son mis cavilaciones de estas semanas. Ahora, que el lector haga sus propias reflexiones. 

 


 

No olvides nuestra próxima cita en 2023. ¡Te esperamos el 10 de enero!
¡Síguenos en LinkedIn!

 

 
Comentarios
  1. Didac Martínez dice: 09/01/2023 a las 18:30

    Gracias Faraón, como siempre por tu genial post sobre ChatGPT
    Todos estamos haciendo pruebas con ChaGPT y buscamos en donde se ha equivocado para reírnos un poco y decir que la AI no puede substituirnos.
    Pero estamos en la prehistoria de la AI y ahora ChatGPT es generalista y de acceso abierto, técnicas del mercado, pero pronto será especializado y de pago y no tendrá rival.
    La pregunta clave es si la AI va a modificar el sistema educativo los próximos años, y mi opinión es que si, y mucho y a todos los niveles. No vamos a quedar al margen y seguir riendo de la AI. Creo que va a ser demoledor.
    Mientras aquí debatimos leyes educativas del siglo pasado, Bill Gates invierte mil millones de dólares solo en ChatGPT. Es el principio.
    Creo que es urgente un debate estratégico sobre la AI y las TIC en la educación y regular algunas cosas importantes, por ejemplo, que el estudiante o el autor garantice y demuestre que su trabajo es original o ha usado la AI y si lo ha usado, que diga en que secciones. Ya llegamos tarde.

    Dídac Martínez/UPC
    Nota: No he usado ChatGPT para escribir este comentario.

  2. […] hilo de la entrada con la que cerraba el año Faraón Llorens en este blog yo pregunto a los lectores de […]

  3. Faraón Llorens dice: 10/01/2023 a las 15:18

    Gracias Didac por tu comentario. Totalmente de acuerdo contigo. Y, dentro de tu ámbito, hay que hacer una revisión y actualización de la autoría y los derechos de autor. Creative Commons debe actualizarse a estos tiempos de IA. ¿Derechos de autor de la base de entrenamiento? ¿respeta los derechos con los que yo lo publiqué? ¿como referenciar en las respuestas que da (este dato es de este sitio) para que pieda saber si darle validez a la respuesta? Como dices la IA va a demoler todos los cimientos en los que nos estamos apoyando la sociedad y habrá que levantar otros adecuados a este nuevo tiempo.


¿Y tú qué opinas? Deja tu comentario