La última Exhortación Apostólica del papa
Francisco, titulada Laudate Deum y
publicada el 4 de octubre de 2023, dedica un capítulo al paradigma tecnocrático
que se ha impuesto en todo el mundo, al que aplica la siguiente definición: un modo de entender la vida y la acción humana que se ha
desviado y que contradice la realidad hasta dañarla. Se refiere sobre todo a la degradación del medio ambiente en relación con el cambio climático de origen
antropogénico, aunque la frase utilizada puede interpretarse de una forma más
amplia, pues hay muchas más formas de degradar el medio ambiente, además de
lanzando gases a la atmósfera.
Pero no se detiene ahí. El
párrafo siguiente dice esto:
21. Durante los últimos años hemos podido confirmar este diagnóstico al mismo tiempo que hemos asistido a un nuevo avance de dicho paradigma. La inteligencia artificial y las últimas novedades tecnológicas parten de la idea de un ser humano sin límite alguno, cuyas capacidades y posibilidades podrían ser ampliadas hasta el infinito gracias a la tecnología. Así, el paradigma tecnocrático se retroalimenta monstruosamente.
Podría objetarse el uso del término inteligencia artificial, como he venido señalando
en estos artículos, pero es obvio que la culpa no es del Papa, pues los medios,
e incluso algunos expertos, se empeñan en llamar así los últimos avances en
informática, como los que reciben el nombre de inteligencia
artificial generativa. Como señala Eduardo César Garrido Merchán
en una
nota publicada en LinkedIn:
Inteligencia es
una palabra enorme. Básicamente, estos [programas] son modelos estadísticos gigantescos.
No hacen otra cosa que optimizar variables para generar algún resultado respecto
a los datos. Nada más. Ahí no hay inteligencia.
Cualquier experto en lo que se ha dado en llamar inteligencia
artificial está de acuerdo con esto. Parece mentira que algunos se
hayan dejado engañar por la estupidez de los medios y se empeñen en afirmar que
estos programas muestran consciencia y otras propiedades humanas.
Pero el uso que hace el Papa Francisco del término inteligencia
artificial es anecdótico. Lo importante es lo que dice en el resto del
párrafo, donde arremete contra la teoría de la singularidad
tecnológica, que está tan de moda en nuestros tiempos. En los dos
párrafos siguientes dice esto al respecto:
22. …el mayor problema es la ideología que subyace a
una obsesión: acrecentar el poder humano más allá de lo imaginable, frente al
cual la realidad no humana es un mero recurso a su servicio. Todo lo que existe
deja de ser un don que se agradece, se valora y se cuida, y se convierte en un
esclavo, en víctima de cualquier capricho de la mente humana y sus capacidades.
23. Provoca escalofríos advertir que las capacidades
ampliadas por la tecnología «dan a quienes tienen el conocimiento, y sobre todo
el poder económico para utilizarlo, un dominio impresionante sobre el conjunto
de la humanidad y del mundo entero. Nunca la humanidad tuvo tanto poder sobre sí
misma y nada garantiza que vaya a utilizarlo bien, sobre todo si se considera
el modo como lo está haciendo […]. ¿En manos de quiénes está y puede llegar a
estar tanto poder? Es tremendamente riesgoso que resida en una pequeña parte de
la humanidad».
 |
| C.S. Lewis |
Estas palabras me recuerdan el
libro de C.S. Lewis La abolición del hombre
(1943), al que dediqué un
artículo de este blog. En ese libro, Lewis afirma que lo que suele llamarse
“dominio de la naturaleza por el hombre” se reduce en definitiva al “dominio de
gran número de seres humanos por un pequeño número de seres humanos”. Me
pregunto si el apartado 23 del documento del Papa ha sido influido directa o
indirectamente por el libro de Lewis, a quien no cita. Me pregunto también si
estas palabras podrían considerarse como una crítica a la Agenda 2030, que en
el fondo intenta llegar precisamente a dicha acumulación, en unas pocas manos,
de un poder enorme sobre el resto de la humanidad.
En párrafos sucesivos, Francisco
abunda en esta idea:
24. No todo aumento de poder es un progreso para la
humanidad. Basta pensar en las tecnologías “admirables” que fueron utilizadas
para diezmar poblaciones, lanzar bombas atómicas, aniquilar etnias... No es
extraño que un poder tan grande en semejantes manos sea capaz de arrasar con la
vida, mientras la matriz de pensamiento propia del paradigma tecnocrático nos
enceguece y no nos permite advertir este gravísimo problema de la humanidad
actual.
25. En contra de este paradigma tecnocrático decimos
que el mundo que nos rodea no es un objeto de aprovechamiento, de uso
desenfrenado, de ambición ilimitada…
26. …[El ser humano debe[ ser considerado como parte
de la naturaleza. La vida humana, la inteligencia y la libertad integran la
naturaleza que enriquece a nuestro planeta y son parte de sus fuerzas internas
y de su equilibrio.
27. …El gran problema actual es que el paradigma
tecnocrático ha destrozado esta sana y armónica relación...
28. Necesitamos repensar entre todos la cuestión del poder
humano, cuál es su sentido, cuáles son sus límites. Porque nuestro poder ha
aumentado frenéticamente en pocas décadas…
Resumiendo:
el Papa nos avisa de que el crecimiento tecnológico sin límites, en dirección a
la singularidad tecnológica, es inmoral. Le falta considerar un punto: es casi
seguro que no será factible. Esta es mi opinión, que expresé en otro
artículo.
Hilo Temático sobre Qué es el Hombre: Anterior Siguiente
Manuel Alfonseca
Dedicado a Gonzalo Génova, que me sugirió este artículo
Gracias por el artículo, Manuel. Recomiendo también el mensaje del Papa del pasado 1 de enero para la Jornada Mundial de la Paz, Inteligencia artificial y paz. Aunque no dice nada especialmente novedoso, las reflexiones antropológicas y morales sobre la IA a la luz de la fe católica son en mi opinión totalmente pertinentes. El asesor o asesores de este documento saben bien de qué hablan. Botón de muestra:
ResponderEliminarLa inteligencia artificial será cada vez más importante. Los desafíos que plantea no son sólo técnicos, sino también antropológicos, educativos, sociales y políticos. Promete, por ejemplo, un ahorro de esfuerzos, una producción más eficiente, transportes más ágiles y mercados más dinámicos, además de una revolución en los procesos de recopilación, organización y verificación de los datos. Es necesario ser conscientes de las rápidas transformaciones que están ocurriendo y gestionarlas de modo que se puedan salvaguardar los derechos humanos fundamentales, respetando las instituciones y las leyes que promueven el desarrollo humano integral. La inteligencia artificial debería estar al servicio de un mejor potencial humano y de nuestras más altas aspiraciones, no en competencia con ellos.
De Jose Paulino Lozada
ResponderEliminarUna vez más Manuel nos deleita, en un par de páginas, con un artículo preciso y conciso sobre un tema que por nuestra parte tomaría semanas para investigarse a fondo.
Estoy de acuerdo que el término inteligencia artificial no debería ser utilizado, dado que la palabra inteligencia implica: consciencia, que ni siquiera hemos logrado definir, e implica un alma inmortal agregada.
En mi novela de ciencia ficción mística,, Entre Los Designios del Creador, expreso que el término adecuado sería Automatización Avanzada..
Teniendo en cuenta que hace décadas que tenemos bombas atómicas suficientes para destruir (varias veces) este planeta, me parece que la inteligencia artificial viene a ser un añadido a la situación de potencial autodestrucción en la que nos encontramos ya. Me parece bien que actúe de revulsivo, nos hemos acostumbrado a una situación intolerable.
ResponderEliminar