La IA: delegación absoluta

Los parágrafos centrales de Magnifica Humanitas se hallan en el capítulo tercero. Los anteriores recordaron la doctrina social de la iglesia. Estos, que van desde el 93 al 127, aplican esa doctrina como criterio de juicio sobre la IA. El sentido más profundo de estos parágrafos, que citan Romano Guardini -la iglesia tiene su propia tradición filosófica- nos recuerda que una cosa es el progreso moral y otra cosa el progreso técnico. Esto es una vieja evidencia, pero la iglesia, que no está loca por ir a la moda, parte de estos viejos enunciados como destilados de la historia.

La tesis se dice de muchas maneras. Una de ellas es que el espíritu de la técnica no es técnico. Este no es el viejo argumento de que la técnica es un instrumento y dependerá de su uso. Esto no es viejo, sino pueril. Lo que dice la encíclica es que el espíritu de esta técnica es la dominación del ser humano. Se trata de que esta técnica lleva en su seno la voluntad de dominar el ser humano. No es una técnica para un uso ambivalente. Es que en sus tripas, en su diseño, en su estructura, en su criterio todo está dispuesto para el dominio del ser humano. No es un instrumento de usos plurales. Tiene un único uso: dominar.

Cuando el papa pide desarmar la IA, exige que la IA no sea un arma de dominación. Pues la tesis es que la IA está diseñada con “una idea de persona y de sociedad” que queda inscrita en “los datos y en los modelos que la guían”. Pero lo decisivo es que esa dominación no está al servicio de otra cosa que la mayor eficiencia, económica o militar, y piensa en un ser humano que se pliegue a una acumulación capitalista acelerada y concentrada. Diseña un ser humano que facilite este dominio, dócil, plegado a este fin. La estrategia para potenciar ese proceso es la aceleración, de tal manera que se imponga al ritmo lento de formación humana. La aceleración es una estrategia de invasión, de coacción, de anulación de resistencias, de privar al humano de tiempo para posicionarse ante ella.

La encíclica habla de la IA como un Umwelt, un ambiento o entorno, que como en otras época de la evolución y de la historia humana requiere adaptación y tiempo. Los actores de la IA no quieren concederlo, porque la competencia capitalista no lo concede a la humanidad. Por eso, la encíclica habla no de ética, sino de marcos jurídicos y sobre todo de política, la capacidad humana de administrar el tiempo. Se trata de exigir a los responsables de la IA que nos revelen el código, la moral invisible, desde la que están diseñados los programas y que respondamos a ellos desde dispositivos jurídicos y políticos de acompañamiento y protección. Si eso no sucede, confesarán que su arcana es la dominación.

Que esta dominación afecta a la doctrina social de la iglesia es evidente. En realidad afecta a cualquier doctrina social, pues destruye toda sociedad. Si toda técnica se abrió paso en un entorno comunicativo, en un aprendizaje grupal, en un programa de maduración del mundo propio del singular humano - el contexto de formación del carácter-, la IA tiende a reducir tanto como sea posible ese entorno grupal o social y a pretender una interlocución general con el yo. Eso escandaliza a la encíclica. Si toda técnica se abre paso en un entorno de delegación, la IA irrumpe con una alteración completa de la técnica anterior en la medida en que ofrece la posibilidad de una delegación absoluta del yo en ella. Si toda delegación divide poder, la delegación absoluta de la IA no hace sino acumularlo. La encíclica habla de monopolio, de asimetría epistémica que redunda en una asimetría económica. Pero habla también de “trabajo invisible explotado” y sugiere que consiste en una expropiación del saber humano en manos de unos pocos, constituidos en el único entendimiento agente de la humanidad que dará sus cómodas píldoras a los entendimientos pasivos, a cambio de unos euros.

La humanidad se ha constituido a lo largo de su evolución por procesos de delegación que permitían y facilitaban la distribución de trabajo y la selección de capacidades. La delegación absoluta de la IA rompe ese dispositivo y amenaza con destruir la dimensión social de toda delegación parcial. Lo que subyace como marco cultural, como trasfondo ideológico de la IA, es el sueño del individualismo que puede hacerlo todo por sí mismo al tiempo que no hace nada propio. Por supuesto, por debajo del transhumanismo y el posthumanismo está la ilusión del superhombre. Este es siempre individual. En este sentido, la IA recoge todas las ilusiones de un control evolutivo sobre el ser humano, pensado desde, por y para el individualismo.

Cuando la encíclica llama a custodiar lo humano, habla siempre de mantener la relación y la comunidad, pues sin sociedad no hay doctrina social. Cuando habla de habitar el límite, y de contener la evolución prometeica, no hace sino señalar hacia las estructuras que limitan el narcisismo individual. Al denunciar esta técnica de delegación absoluta de la IA, señala lo evidente: que el narcisismo es la forma de un ser infantilizado y dependiente, administrado y dominado, que ha interiorizado el poder que lo controla como si fuera suyo. Más allá de los símbolos, lo único que doblega la lógica del poder es la libertad que controla las delegaciones y las vincula a los hilos de confianza común. El totalitarismo sueña con frágiles yo, fácilmente dominables. La IA para la encíclica es la técnica de conseguirlo.