La encíclica Magnifica Humanitas y el ludismo

The same post in English

La publicación de la encíclica Magnifica Humanitas del Papa León XIV ha provocado que algunos levanten la voz acusándola de ser un ejercicio de ludismo y una vuelta al medievo, a veces acompañadas de imágenes espeluznantes de quema de robots en la hoguera, sin duda generadas mediante herramientas de IA. A veces, la rapidez de sus respuestas es sorprendente, y uno se pregunta si están juzgando el texto sin haberlo leído. ¿Tienen razón estas personas? ¿Se puede acusar a la encíclica de ludismo?

Empecemos por definir la palabra ludismo, tal como aparece en el diccionario histórico de la lengua española de la RAE:

Calco del inglés luddism… [definida] como 'aversión intensa u oposición a la innovación tecnológica'… [L]a voz se forma a partir del antropónimo Lud o Ludd; según se indica en algunas fuentes, Ned Lud, que vivió en un pueblo de Leicestershire alrededor de 1779, destruyó dos telares, por lo que su nombre pasó a ser un referente para los saboteadores o destructores de maquinaria.

Se trata, por lo tanto, de un término que se aplica principalmente al uso de la violencia contra los avances de la tecnología. Desde luego, la violencia es difícilmente justificable, aunque en el caso de Lud sea comprensible, teniendo en cuenta las consecuencias de la introducción de maquinaria (telares) en las fábricas de tejidos, que algunos empresarios aprovecharon para despedir a sus obreros, diciéndoles más o menos esto:

Enviadnos a vuestros niños, pues serán capaces de manejar estas máquinas tan sencillas tan bien como vosotros.

Eso sí, pagándoles la mitad del jornal que cobraban sus padres. Afortunadamente, estos abusos han sido abolidos.

Veamos algunos de los párrafos de la encíclica que algunos pueden confundir con ludismo:

95. Cuando un poder de tal magnitud se concentra en pocas manos, tiende a hacerse opaco y a eludir el control público, y crece el riesgo de un desarrollo distorsionado que provoca nuevas dependencias, exclusiones, manipulaciones y desigualdades.

Como dijo Juvenal: ¿Quis custodiet ipsos custodes? ¿Quién controla a quienes nos controlan? Esa media docena de empresas multinacionales que acumulan tanto poder y suelen sustraerse al control de los usuarios y de los gobiernos.

104-105. Por eso, el discernimiento ético no se puede limitar a preguntarse si usamos un determinado sistema para un fin bueno o malo, sino que debe interrogarse también sobre el modo en el que está diseñado y qué idea de persona y de sociedad queda inscrita en los datos y en los modelos que lo guían… es esencial que las responsabilidades estén claras en todas las etapas: desde quienes diseñan y programan los sistemas hasta quienes los utilizan y quienes resuelven confiarles las decisiones concretas. En muchos casos, sin embargo, los procesos internos que conducen a un resultado pueden ser poco transparentes, y eso hace más difícil atribuir responsabilidades y corregir los errores. Es aquí donde se vuelve decisivo lo que llamamos “responsabilidad” (accountability): la posibilidad de identificar quién debe “rendir cuentas” de las decisiones, motivarlas, controlarlas y, cuando es necesario, cuestionarlas y remediar los daños que derivan de ellas.

Esto no sólo se aplica a lo que se suele llamar IA, sino también a la conducción automática, que es tecnológicamente factible, pero que apenas se aplica en la práctica, precisamente porque, en caso de accidente, no está claro quién es el responsable. Esta misma idea se aplica también en el capítulo 5, al hablar del uso de la IA en la guerra.

110. Desarmar la IA significa sustraerla a la lógica de la competencia armamentística, que hoy ya no es sólo militar sino económica y cognitiva. Es la carrera por el algoritmo más eficaz y por el banco de datos más amplio, para consolidar una ventaja geopolítica o comercial sobre todos los demás. Desarmar quiere decir romper esta equivalencia entre poder tecnológico y derecho a gobernar. Desarmar no significa renunciar a la tecnología, sino impedirle el dominio sobre lo humano. Significa sustraerla a los monopolios, hacerla discutible, refutable, y por tanto habitable, restableciendo en ella la pluralidad de las culturas humanas y de las formas de vida… La IA es ya un ambiente en el que estamos inmersos y un poder que debemos afrontar. Por eso, no basta regularla; es necesario desarmarla y hacerla acogedora.

Esto significa que debemos aplicar controles éticos y antropológicos sobre los avances científicos, especialmente aquellos que puedan afectar negativamente el futuro de la humanidad.

En el capítulo 4, el Papa revisa con detalle los principales peligros que plantea hoy la tecnología para la sociedad, mucho de ellos anteriores al auge de la IA, pero a veces exacerbados por esta: 

180. …la búsqueda de la verdad… la educación en el entorno digital, las transformaciones del mundo laboral, la fragilidad de las familias y las nuevas formas de esclavitud… Todos ellos ponen en juego lo mismo: si la técnica se convierte en criterio absoluto, la persona corre el riesgo de ser tratada como un dato, un engranaje o una mercancía; si, por el contrario, la técnica se inscribe en un horizonte de sabiduría, puede convertirse en una oportunidad de crecimiento, justicia y fraternidad.

Los que acusan al Papa de ludismo porque pide que se establezcan controles éticos y antropológicos sobre los usos de la IA deberían reflexionar, porque la aplicación de esa regla de medir les obligaría a considerar ludismo lo siguiente:

1.      La prohibición del uso de armas químicas y biológicas.

2.      El tratado de no proliferación de armas nucleares.

3.      Los acuerdos de la Conferencia de Asilomar sobre ADN recombinante, que estableció límites a dicha investigación, prohibiendo indefinidamente la realización de ciertos experimentos.

Los que acusan de ludismo al Papa suelen ser partidarios convencidos de la inminencia y deseabilidad del transhumanismo y el posthumanismo, esas teorías que me atrevo a calificar de wishful thinking, pues son igual de absurdas que la teoría de que vivimos en una simulación. Es curioso el hecho de que ambas hayan sido promovidas por el mismo filósofo: Nick Bostrom. No me extraña, pues, que los partidarios del transhumanismo arremetan contra esta encíclica, pues León XIV se refiere desfavorablemente a su teoría favorita en los párrafos 115 y siguientes. Estoy de acuerdo con el Papa.

La encíclica no apela a la violencia contra los avances de la tecnología, ni tampoco a detenerlos. Propone someterlos a controles éticos y antropológicos. Eso no es ludismo, sino sentido común.

Hilo Temático sobre Inteligencia Natural y Artificial: Anterior Siguiente

Manuel Alfonseca