Ética para ingenieros

Hace unas semanas leía este breve artículo de Andy Miah en el Times Higher Education sobre la reciente película de Christopher Nolan: ‘Oppenheimer’ is a warning against the pursuit of STEM for its own sake. El autor dice:

Tal vez la mayor sabiduría de Oppenheimer sea que la búsqueda sin sentido de las STEM por sí mismas, sin prestar atención a cómo las aventuras intelectuales deben estar informadas por el discernimiento moral y social, pone al mundo en un estado persistente de tensión. Si buscamos el reconocimiento de esto en los planes de estudio de las asignaturas más avanzadas de ciencia y tecnología, encontramos muy poco. ¿Cuántos cursos sobre inteligencia artificial, por ejemplo, dedican tiempo al debate ético?

 (Tengo que decir que en el Máster en Inteligencia Artificial Aplicada de mi universidad sí que hay un curso dedicado específicamente a las Implicaciones Éticas y Legales de la IA.)

Albert Einstein (1879-1955) y Robert Oppenheimer (1904-1967)

 

Desde hace tiempo estoy personalmente comprometido con esta tarea de promover la reflexión ética sobre la tecnología, y su importancia en la enseñanza universitaria. En este mismo portal publiqué hace poco más de un año un artículo sobre Einstein y la ética, donde recogía un alegato suyo de 1946 en pro de la renovación de nuestra forma de pensar tras el desastre de la Segunda Guerra Mundial:

Nuestro mundo se enfrenta a una crisis todavía imperceptible para aquellos que poseen el poder de tomar grandes decisiones para bien o para mal. El poder desencadenado del átomo lo ha cambiado todo excepto nuestras formas de pensar, y de este modo, avanzamos sin rumbo hacia una catástrofe sin precedentes. Los científicos que hemos liberado este inmenso poder tenemos una responsabilidad abrumadora en esta lucha mundial a vida o muerte para dominar el átomo en beneficio del género humano, y no para la destrucción de la humanidad. Necesitamos doscientos mil dólares de una vez para lanzar una campaña nacional que haga saber a las personas que una nueva forma de pensar es esencial para que la humanidad sobreviva y avance hacia niveles más altos.

Pero esta “nueva forma de pensar” no es nada fácil de articular en un curso universitario.

¿Cómo vamos a enseñar ética en la universidad cuando la sociedad es mayoritariamente escéptica respecto a la racionalidad de la ética? ¿Y qué ética podemos enseñar en la universidad?

Queremos enseñar ética a los ingenieros, queremos programar máquinas éticas; pero no creemos en la racionalidad de la ética. Entonces, ¿qué nos queda? No podemos enseñar la ética más que como una visita a un museo de curiosidades.

La influencia de Nietzsche

Friedrich Nietzsche es uno de los pensadores más influyentes en la ética desde el siglo XIX. Frente a una tradición moral occidental que él describe como esclavizadora, puesto que consiste principalmente en el sometimiento a un conjunto de normas cuyo origen y significado se ha perdido en la niebla de los tiempos, Nietzsche es un vitalista, alguien que apuesta por la exuberancia de la vida.

Tu vida no consiste en realizar un programa diseñado por otros, sino en romper todas las barreras y cumplir las metas que tú mismo te propongas.

Esta crítica de Nietzsche a la moral occidental la vemos continuamente en el cine, cada vez con más frecuencia en las películas de Disney-Pixar (Vaiana, Red, Elemental…), donde los adolescentes se enfrentan a sus padres, sus prejuicios morales, y todo lo que representan: estabilidad, saber cuál es tu sitio, cumplir las normas que nos mantienen a salvo; no preguntes, no arriesgues, no te saltes los límites.

Friedrich Nietzsche (1844-1900)

 

Cuando empecé a escribir –con Ignacio Quintanilla Navarro– sobre los robots y la libertad dije algo muy parecido: libertad es autodeterminación. Y no solo para seguir o no el camino que otros han trazado, sino para elegir tu propio camino. ¿Cómo no me va a resultar interesante Nietzsche? Pero ya entonces señalaba dos dificultades en esta noción de libertad como absoluta autodeterminación:

Así entendida, la autodeterminación plantea dos difíciles problemas que no vamos a resolver aquí. El primero, de carácter metafísico, es el problema mente-cuerpo, es decir, la relación entre lo inmaterial y lo material (…). El segundo es el problema moral de la arbitrariedad en la elección autodeterminada de los fines: ¿Importa si uno elige este o aquel fin para su vida? ¿Hay ciertos fines mejores que otros?

En la formación de los y las estudiantes de ingeniería –el ámbito donde yo enseño– es clave un enfoque adecuado sobre la autodeterminación y la educación en libertad: un ingeniero que solo es capaz de aplicar normas y estándares, y hacer lo que le digan (y solo lo que le digan), es un ingeniero muy mediocre. Un ingeniero que tiene inventiva para resolver problemas difíciles, a menudo en situaciones nuevas e inesperadas, es mucho más valioso. Pero solo ha alcanzado su pleno desarrollo el ingeniero que tiene el empuje necesario para proponerse él mismo los problemas que quiere resolver. 

Educar a una persona libre debe dejar espacio para la creatividad y la autodeterminación, puesto que una persona libre, al contrario que una máquina, no ha sido diseñada con un objetivo bien definido que tenga que lograr de modo verificable.

 Una persona libre tiene que descubrir su propio camino hacia la plenitud, su ideal personal y su originalidad, también en el desarrollo de la vida profesional, que no puede consistir sólo en alcanzar objetivos elegidos por otros.

Nietzsche rechaza cualquier determinación externa de los fines de la vida, ve en ello siempre el fantasma de una moral teológica absoluta venida del cielo. Su postura puede expresarse así: yo doy sentido, yo soy el que da sentido a mi vida, mi vida no tiene ningún otro sentido fuera del que yo mismo le doy. En eso consiste el Übermensch, la superación del animal-hombre, sometido a un código moral extrínseco: el superhombre, el hombre superior capaz de generar su propio sistema de valores.

¡Mirad, yo os enseño el superhombre!

El superhombre es el sentido de la tierra. Diga vuestra voluntad: ¡sea el superhombre el sentido de la tierra! ¡Yo os conjuro, hermanos míos, permaneced fieles a la tierra y no creáis a quienes os hablan de esperanzas sobreterrenales! Son envenenadores, lo sepan o no.

 Son despreciadores de la vida, son moribundos y están, ellos también, envenenados, la tierra está cansada de ellos: ¡ojalá desaparezcan!

Así habló Zaratustra

La idea de Bien: lo sagrado y lo extrínseco

Decía Ludwig Wittgenstein que “la filosofía desata los nudos de nuestro pensamiento, los nudos que nosotros estúpidamente hemos hecho en él” (Philosophical Remarks, p. 52. Editado por R. Rhees, Oxford: Blackwell, 1975). A mi modo de ver, aquí hay un nudo mental difícil de desatar:

• Con Nietzsche: la vida ética no puede consistir únicamente en seguir un código moral extrínseco y, por supuesto, no es eso lo que se debe enseñar en un curso universitario de ética.
• Contra Nietzsche: la vida ética no puede consistir sin más en la elección arbitraria, caprichosa, de valores morales. Ni de modo individual, ni tampoco colectivamente.

¡Menudo lío!

No sé si soy capaz de arrojar algo de luz sobre esta cuestión. Pero pienso que una forma eficaz de empezar a deshacer este nudo es preguntarse: ¿Puede haber algo más importante que el placer, el poder y el dinero? ¿Puede haber algún Bien al que yo me someta libremente, sin que eso implique la castración de mi propio ser? ¿Puede ser que la búsqueda de ese Bien redunde no en mi aniquilación sino en mi propio crecimiento hacia mi plenitud personal?

Tal vez, me atrevo a decir, Nietzsche incurre en un falso dilema: o moral teológica absoluta y extrínseca que viene del cielo, o moral creada por los hombres sin ningún referente externo a su voluntad. ¿No puede ser que la raíz de la moral esté justamente en el reconocimiento de lo que somos? En respuesta a un anti-esencialista escribí que sólo podemos escapar de la arbitrariedad si nos sometemos a algo que reconocemos superior a nosotros mismos: el Otro, reconocido por lo que es, es decir, por su esencia. Yo, hereje esencialista, defiendo que el reconocimiento de la dignidad del otro es lo único que nos protege de la voluntad arbitraria, del puro deseo sustentado en el poder de actuar. Solo el reconocimiento de la dignidad del otro puede hacer que yo prefiera un bien que no sea mi propio bien egoísta. Y así es como cedo ante la fuerza de la razón, en lugar de ceder ante la razón de la fuerza.

Reconocer la dignidad del otro como algo intocable, sagrado (homo homini sacra res), no es apelar a una fuente de moralidad extrínseca, venida del cielo, impuesta desde fuera. (De hecho, lo extrínseco sería otorgar dignidad al otro porque me da la gana otorgársela.) Ciertamente, la ética no debe fundamentarse en algo extrínseco; pero es que fundamentar la ética en lo que las cosas son, es justo lo contrario, es reconocer que la dignidad es algo intrínseco de todas las personas.

Misión de la universidad

Homo homini sacra res –el hombre es algo sagrado para el hombre– es una célebre frase del filósofo romano-cordobés Séneca, adoptada como lema por mi universidad (Carlos III de Madrid). Otras universidades tienen otros lemas que también expresan buenas intenciones.

No me cabe duda de que la universidad está llamada a la misión de educar éticamente a sus estudiantes, tanto a nivel personal como profesional. Especialmente, en el ámbito de las carreras científico-tecnológicas, hay que evitar “la búsqueda sin sentido de las STEM por sí mismas, sin prestar atención a cómo las aventuras intelectuales deben estar informadas por el discernimiento moral y social”, como clama Andy Miah en el artículo citado al principio y que motivó esta reflexión. Pero también pienso que los académicos de las áreas de humanidades tienen una responsabilidad especial en esta tarea, puesto que su reflexión puede ayudar a combatir el escepticismo ético que predomina en nuestra sociedad o, por el contrario, puede consolidarlo.

 

Aprovecho para añadir que en este curso académico organizo en mi universidad un ciclo de conferencias denominado Lecciones éticas de la inteligencia artificial.

 

---

 

Nota del autor: Este artículo es una versión abreviada de Ética en la universidad: de Oppenheimer a Nietzsche, aparecido anteriormente en el blog de divulgación del autor, De máquinas e intenciones.