El desconcierto creciente de las cosas inteligentes

“Lo que pasa es que está aumentando el nivel de desconcierto de las cosas. Ya no somos nosotros los que hablamos a las cosas, sino que son las cosas las que nos hablan a nosotros, sobrepasándonos y sin que nos demos cuenta.”

Xavier Rubert de Ventós

 

En verano de 1956, un grupo de jóvenes profesores se reunieron en la Universidad de Dartmouth, New Hampshire (Estados Unidos), y se inventaron el nombre de inteligencia artificial (IA) para describir lo que podrían hacer aquellas primeras computadoras en relación con los procesos cognoscitivos. Hacia una década que había acabado la II Guerra Mundial y empezaba la Guerra Fría, con la consiguiente carrera científica en todos los campos. La especialización de la ciencia hizo que se pasara de publicar 10.000 títulos de revistas científicas a más de 30.000. Era la época en que proliferaban las pruebas nucleares en el Pacífico como capacidad de disuasión, mientras que las artes y la ciencia ficción facilitaban el sueño ilimitado del poder de la tecnología. Aquel típico encuentro académico sirvió, en el fondo, para pensar hasta qué punto las máquinas podrían aprender por sí solas y decidir sin intervención humana. ¡Casi nada!

El desarrollo de la Inteligencia Artificial

Han trascurrido más de setenta años y esas dos palabras aparentemente contradictorias –inteligencia y artificial– han empezado a tener éxito, porque la ciencia de la supercomputación ha evolucionado en muchos campos, también en el de la IA y, sobre todo, porque el pasado mes de noviembre el mundo por primera vez conoció ChatGPT de la empresa OpenAI y estos días hemos sabido el lanzamiento de su versión 4.0.

El éxito de ChatGPT, basado en la IA generativa de textos, nos incumbe a profesores y bibliotecarios porque los estudiantes, que como siempre son los más espabilados con las TIC, han descubierto que los trabajos de clase puede hacerlos ChatGPT.

¿Y en la universidad?

Solo tienen que preguntar y ChatGPT empieza a escribir las respuestas de una manera razonable e, incluso, con un lenguaje amable y bastante humano. De hecho, podríamos decir que es una especie de enciclopedia en tiempo real, pero con la ventaja de que los estudiantes se ahorran tener que escribir las respuestas –por ahora, salvo que haya algunas barbaridades flagrantes, no podemos detectar si las han escrito los propios estudiantes o una inteligencia no humana-. Ni que decir tiene que esto es un chollo para ellos. “¡He sacado un 9!” decía un estudiante el otro día en una entrevista sobre el tema.

Con ChatGPT, los estudiantes no tienen que hacer búsquedas, análisis y lecturas sobre los temas que les piden los profesores ni ir a la biblioteca. Y, sobre todo, no tienen que escribirlos, pues ya lo hace ChatGPT. (Abro paréntesis para traer a colación lo que nos decía el otro día el rector de la UB Joan Guardia en un debate sobre tecnología y humanismo: “La competencia más importante que se va a exigir a los titulados en un futuro próximo no va a ser la competencia sobre el liderazgo o sobre trabajar en grupo, etc., sino la de saber escribir.” Todo tiene relación.)

Muchos profesores dicen que ChatGPT es peor que plagiar o copiar un examen, ya que el autor no es el estudiante y que estas aplicaciones basadas en la IA generativa de textos escritos con lenguaje natural reducirán las capacidades críticas, intelectuales y memorísticas de los estudiantes en sus procesos de aprendizaje, de manera que deberían prohibirse. Como siempre ocurre en la educación, muchas veces se demoniza a los estudiantes, pero en este caso no es totalmente cierto, ya que ChatGPT también pueden utilizarlo los profesores para preparar las clases, redactar los temarios y elaborar exámenes. Por tanto, a corto plazo, deberemos integrar todos estos sistemas de AI en los procesos educativos, como siempre hemos hecho.

Con todo, creo que la IA supone un salto cualitativo de otro nivel, que comportará cambios sustantivos en toda la sociedad.

¿Cómo afecta la IA a nuestras vidas?

ChatGPT y las muchas aplicaciones basadas en la IA van a incidir –ya lo están haciendo– en numerosos temas que nos afectarán y mejorarán la calidad de nuestras vidas, de la sociedad y también –eso espero– del planeta, si es que aún estamos a tiempo. Basta con visitar nuestras universidades y centros de investigación para comprobar la gran variedad de proyectos basados en la IA: sobre transporte y movilidad, sobre la calidad del aire que respiramos, sobre el avance en el descubrimiento de nuevas vacunas o la cura de enfermedades, sobre las nuevas energías renovables, la mejora del medio ambiente y una lista inacabable de temas… Así pues, ¡bienvenida IA!

El alimento de la IA generativa son los datos que se obtienen de nuestra interacción con las TIC. Cada vez que pulsamos una tecla en un móvil o de un ordenador conectado a la red, se convierte en un dato informático susceptible de ser analizado y procesado por grandes supercomputadoras para extraer patrones y, a partir de esta información, mediante algoritmos (fórmulas), predecir y crear nueva información, que denominamos inteligencia artificial. Por tanto, somos nosotros los que alimentamos la IA.

Si a ello le añadimos que en los últimos treinta años hemos digitalizado millones de textos escritos, pues ya tenemos esa gran enciclopedia de información que el algoritmo busca y sobre la cual escribe cuando le preguntamos acerca de cualquier tema.

Avanzo un debate muy interesante que se producirá muy pronto: el problema del Copyright de los millones y millones de textos que la empresa OpenAI ha usado sin permiso de sus  autores para generar las respuestas de ChatGPT.

¿Qué tan novedoso es ChatGPT?

Esto siempre ha ocurrido en cierto modo, ya que los hombres han utilizado los datos extraídos de la experiencia para tomar decisiones, pero con la ayuda de los ordenadores se pueden tratar datos de forma masiva. Si, en los años ochenta, los ordenadores solo podían almacenar y clasificar datos y hacer cálculos para que nosotros pudiéramos tomar una decisión –recuérdense los “centros de cálculo” que se crearon en todas las universidades–, ahora, la supercomputación y los nuevos desarrollos en materia de IA hacen que los ordenadores no solo calculen, sino que presenten la mejor solución e, incluso, decidan ejecutarla ellos mismos, sin intervención humana.

De hecho, las máquinas pueden ya tomar decisiones sin dicha intervención y seguir aprendiendo, porque tienen un poder casi sobrenatural de cálculo y de análisis de posibilidades que nosotros, los humanos, no tenemos. Los mismos especialistas en neurología nos dicen que el conocimiento humano es lineal y el de las máquinas es exponencial, por lo que no vale la pena rivalizar.

La supercomputación, la robótica y la IA van en esta dirección, y la gran novedad que se vislumbra suscita también grandes preocupaciones, que pueden resultar letales para las personas y para las democracias –y no estoy hablando de los admirados replicantes de Blade Runner, creados per The Tyrrel Corporation-, sino de la IA actual. Muchos proyectos de AI que se están implementando nos causan una gran repulsa e indignación, como la vigilancia social mediante el análisis facial de las personas; el control y la manipulación de las redes sociales, llenándolas de información falsa que hace tanto daño a la educación y a las personas; el uso indebido de los datos personales de la gente, o los robots autónomos que se están desarrollando en la carrera armamentista actual: los drones que se utilizan en la guerra de Ucrania llevan componentes de IA que calculan y deciden los objetivos a derribar.

La noción de autor y la IA

Si la IA avanza en todas las direcciones, como es previsible, también lo hará en el ámbito de la cultura y pondrá en solfa la noción de “autor”, que es la piedra angular de la cultura moderna.

Hasta ahora, habíamos asumido que el autor era una persona humana, pero esto tendrá que repensarse y, posiblemente, admitir a autores no humanos. Ahora, algunos artículos de revistas científicas ya incluyen coautores no humanos, basados en la IA, y los bibliotecarios estamos discutiendo si se deben poner como autores en las citas bibliográficas o deben aparecer como bibliografía de referencia, o incluir las respuestas de estas aplicaciones en el texto con una cita a pie de página, por ejemplo.

Pronto una ópera, un concierto, una obra musical o una pintura estarán ejecutados con IA; de hecho, ya está pasando y tampoco es nada nuevo.

Ahora recuerdo la Sextina cibernètica del poeta Joan Brossa, que unos informáticos de Vilafranca del Penedès crearon con un ordenador introduciendo todos sus poemas y, mediante una combinatoria de palabras, crearon un poema nuevo. El resultado fue muy interesante y poca gente descubrió que no lo había escrito el propio Joan Brossa: ¡Y esto sucedió en 1977! Por tanto, ya nos podemos ir preparando para dar el Premio Nobel de Literatura a un autor no humano, basado en la IA generativa.

Regulación de la IA

La IA debe potenciarse porque aportará mejoras, ahora inimaginables, a nuestras vidas, y también extraordinarias mejoras educativas e informativas para los ciudadanos. Pero deberá regularse muy seriamente, porque una AI que dependa solo de las potentes empresas tecnológicas puede destruir y modificar nociones éticas, políticas, económicas y laborales consolidadas, y ello nos perjudicaría de forma irreparable. Y, seguramente, además de una regularización atenta, se deberá intervenir en el origen de la programación de los datos y de los algoritmos para que no introduzcan sesgos de género, raza o religión, como ya se está dando, o ideas políticas de sistemas autoritarios que cercenen nuestra libertad, nuestra privacidad y nuestro derecho como ciudadanos a acceder al conocimiento científico verdadero y relevante. Sin duda, deberemos también educar la AI en su estado infantil.

Necesitamos disponer de una ética antes de diseñar los algoritmos, porque no puede ser que solo se programen para incrementar la cuenta de explotación de las big tech. Y en la elaboración de esta necesaria regulación han de participar los expertos de nuestras universidades.

A Xavier Rubert de Ventós

Xavier Rubert de Ventós fue un profesor extraordinario de la Escuela Técnica Superior de Arquitectura de Barcelona de la UPC que nos dejó hace unos meses. Como buen postkantiano, analizó las relaciones entre la sensibilidad del sujeto y la estética del objeto, y afirmó que estos eran los dos elementos clave de la modernidad. Ahora estaría sorprendido por esta nueva simbiosis entre los hombres y las máquinas, entre nosotros y las cosas que nos hablan y nos mandan, y nos haría pensar en la cuestiones epistemológicas y éticas no resueltas de esta pretenciosa “inteligencia artificial” y seguro que nos propondría elaborar una “critica de la razón artificial” que nos oriente en esta futura convivencia entre humanos y no humanos que irremediablemente parece que vamos a  vivir.