ChatGPT y Universidad: obteniendo las respuestas, ¿conocemos las preguntas?

En un artículo publicado anteriormente en Universídad hacía referencia al liderazgo de las universidades españolas en la implantación de la IA. Desde mediados de los noventa sigo viendo y defendiendo la tecnología digital como una enorme oportunidad para el sistema educativo en sus muchas manifestaciones (campus virtuales, plataformas de enseñanza online, MOOCs..).  ChatGPT ha ocasionado un terremoto en el ámbito de la tecnología y en el mundo educativo. Esta herramienta solo es la punta de iceberg de lo que está por llegar en los próximos años. Por ello, urge un debate profundo y sosegado, también una estrategia universitaria inteligente. Estos artículos no tienen otra pretensión que contribuir a esto, aunque sea en una muy modesta medida.

¿Qué es ChatGPT?

¿Qué es ChatGPT? “ChatGPT es un modelo de lenguaje desarrollado por OpenAI que es capaz de responder a preguntas y mantener conversaciones con personas en una forma natural. Se entrena en una gran cantidad de texto de Internet para poder responder a una variedad de preguntas sobre diferentes temas…” Este modelo puede ser afinado para diferentes aplicaciones y tareas, como la respuesta a preguntas, la generación de texto, la traducción, entre otros”^[1]. (respuesta dada por el propio ChatGPT)^[2]

Un GPT (Generative Pre-trained Transformer) es un modelo de lA “trasformador preentrenado generativo”  es decir, un tipo de modelo que utiliza deep learning para generar textos similares a los que crean los humanos. Reciben el nombre de «transformadores» porque utilizan redes neuronales basadas en “transformadores” que procesan texto de entrada y generan un texto de salida. «Preentrenados» porque se entrenan en un gran corpus de texto para comprender cómo funciona el lenguaje humano antes de ajustarlos para tareas específicas y «generativos» porque pueden generar texto nuevo en función de los “inputs” que reciben.

Pese al impacto desde su aparición, ChatGPT plantea desafíos y riesgos de cara a un uso masivo según algunos expertos. Se trata de un modelo pionero de IA generativa que crea contenido a partir de datos de Internet. Aparte de los problemas actuales de espera para acceder al sistema -en vía de solución-,  se han señalado otras cuestiones:

• El sesgo de los datos de una fuente como Internet, no siempre veraz o precisa. Paradójicamente las fuentes que podrían ser más rigurosas y exactas en los ámbitos de la ciencia y la tecnología son fuentes cerradas. Por tanto, no es un problema de la tecnología sino de los humanos y nuestras restricciones en torno a los contenidos abiertos.
• La falsedad y la falta de atribución de las afirmaciones generadas. ChatGPT puede hacer argumentos que “suenen” extremadamente convincentes pero que son 100% incorrectos. Los desarrolladores se refieren a esto como «alucinación«. En el modelo ofrecido por Bing se soluciona la falta de atribución y aparecen las fuentes en las que se basa el texto ofrecido.
• La posible fuga de información confidencial. Algunas empresas han dado severas instrucciones a sus empleados para no introducir información confidencial de sus empresas y evitar la fuga de información crítica o confidencial.
• Las controversias sobre los derechos de autor. ¿El contenido que crean estos modelos son duplicaciones de obras con derechos de autor? ¿Lo son los textos de los humanos escritos sobre la base de otros textos?

Sin entrar a valorar estas cuestiones, y asumiendo su relevancia, lo cierto es que estamos ante una de las propuestas más disruptivas que ha desarrollo en mundo digital en los últimos 25 años.

La IA y la revolución del texto generativo

Hace algún tiempo que venimos investigando y trabajando estos temas. Hará menos de un año tuve la oportunidad de exponer ante los Presidentes de los Tribunales Constitucionales iberoamericanos y especialistas en el ámbito del Derecho, en un encuentro en la R. Dominicana, el papel de la IA y específicamente el texto generativo como herramienta de apoyo a jueces^[3] y magistrados, minimizando sesgos, riesgos y aprovechando su enorme potencial.

Desde que salió la luz ChatGPT hemos estado trabajando con varios equipos de IA para explotar su potencial y generar nuevos desarrollos y productos. De hecho ya hemos integrado en una plataforma propia “Millie” un bot mixto que permite generar nuestras propias respuestas a preguntas muy específicas y conectar con ChatGPT en caso de preguntas sin respuesta prevista. Con esto garantizamos la precisión en temas específicos o críticos e incrementamos el potencial de nuestras herramientas y del propio ChatGPT, más proclive a fallos en temas muy específicos. Actualmente estamos desarrollando no menos de una veintena de aplicaciones relevantes basadas en ChatGPT, algunos de cuyos resultados y utilidades son impresionantes.

ChatGPT genera código, explica algoritmos complejos, hace análisis de sentimientos de textos, genera bots de terapia personalizados, ayuda a crear aplicaciones desde cero, te identifica diferencias y similitudes entre conceptos, teorías  y modelos científicos o te permite escribir un ensayo universitario. Acotando los inputs podemos limitar los sesgos e incrementar la precisión de las respuestas, aunque también limitamos en parte su potencial.

Oro parece, plata no es

Insistamos: ChatGPT, como hemos dicho, no siempre proporciona respuestas satisfactorias en su estado de desarrollo actual. Su propia génesis, el haber sido entrenado con una cantidad masiva de datos procedentes de la web sin un cuidadoso filtrado previo, explica que, a veces, las respuestas no sean correctas o incluso, en ocasiones, contradictorias, en su estado de desarrollo actual. Sobre todo en temas muy específicos es imprescindible la revisión y contrastación de sus respuestas.

Indudablemente, en esta versión de la IA los humanos todavía somos imprescindibles, ya sea para corregir las respuestas o para cuidar mejor los datos con los que se alimenten las futuras versiones de esta herramienta, para tranquilidad de los que ven una amenaza continua de desplazamiento del talento humano.

Su potencial, sin embargo, está también fuera de dudas. Los gigantes tecnológicos Microsoft y Google se enzarzan en una lucha para lograr la hegemonía ante el uso masivo de usuarios, ganados en un tiempo récord que ha fulminado la velocidad de introducción de herramientas anteriores de uso masivo (redes sociales, plataformas más populares…)^[4]. Los expertos están de acuerdo en que ChatGPT se  convertirá en una de las fuerzas más disruptivas para las grandes tecnologías, las industrias y el futuro del trabajo a nivel mundial.

ChatGPT y las universidades

¿Qué papel tiene ChatGPT en las universidades? ¿Cómo afecta a los estudiantes y profesores?

Pincha aquí para leer la segunda parte de la entrada de Andrés Pedreño sobre ChatGPT

Notas al pie

^[1]  Hay otras herramientas de este tipo menos conocidas. Entre ellas Google ha anunciado en los últimos días su propia plataforma Bard, basada en LaMDA.

^[2] ChatGPT es un chatbot de inteligencia artificial basado en el modelo GPT-3.5 de OpenAI, que puede generar texto para diversas tareas. No es el único en este campo. Otras empresas como Co:here, Anthropic y AI21 Labs también compiten con OpenAI34. Además, Google y Microsoft han lanzado sus propios chatbots, Bard y Claude56, integrados en sus motores de búsqueda. En el ámbito de la generación de imágenes, hay modelos como MidJourney, Stability.ai y DALLE-2 que pueden crear imágenes a partir de texto. Estos avances permiten desarrollar aplicaciones para automatizar procesos o crear contenidos.

^[3] . Curiosamente este caso es digno de mención: un juez de Cartagena de Indias (Colombia) utilizó la inteligencia artificial de ChatGPT para definir sentencia.

^[4] No pasa desapercibido que Google genera un imperio publicitario de 220.000 millones de dólares al año. Un imperio al que Microsoft le acaba de declarar la guerra con ChatGPT.