 |
| Kazuo Ishiguro |
No es corriente que aquellos a quienes
se considera grandes escritores dediquen parte de sus esfuerzos a
la ciencia-ficción. Este género se ha considerado tradicionalmente de segunda
categoría, a pesar de que algún autor de prestigio se haya dedicado
ocasionalmente a él. La obra más citada, en este contexto, es Un mundo feliz de Aldous Huxley (1932), un libro
de rabiosa actualidad, del que he hablado en varios
artículos anteriores de este blog.
Por eso aplaudo la reciente incursión en este campo, nada menos que de un Premio Nobel de Literatura: Kazuo Ishiguro, que escribe en inglés y recibió ese premio en 2017. Se le conoce por obras como Lo que queda del día, o Un artista del mundo flotante, así como su novela perteneciente al género de la ciencia-ficción, Nunca me abandones, una distopía que toca un tema en la misma línea de I am Margaret, de Corinna Turner, que mencioné en mi artículo sobre distopías en este blog. Ahora, en 2021, ha publicado una novela de ciencia-ficción que incide en el tema de la inteligencia artificial fuerte.
En el mundo futuro que describe
esta obra hay dos avances científicos importantes: robots con una elevada inteligencia,
dedicados principalmente al cuidado de los niños; y manipulación genética generalizada
de los niños, para mejorarlos. Como cualquier descubrimiento científico,
estos avances dan lugar a problemas nuevos. Por ejemplo, el despertar de una
nueva conciencia de clase que da lugar a discriminación contra los niños que,
por decisión de sus padres, no han sido sometidos a mejora. En
general, ese mundo futuro es deprimente, aunque está descrito de forma muy sutil.
Hay algunos indicios de violencia social, pero no entra nunca en detalle.
Uno de los personajes sostiene
que los avances mencionados demuestran que en el hombre no hay más que materia,
y que sería posible descargar la mente en una máquina. Pero otros personajes (creo
que, entre ellos, el autor) no están de acuerdo, aunque yo no coincido con los
argumentos que se ofrecen por medio de Klara, la autómata protagonista, que también
desempeña el papel de narradora. Sí se puede afirmar que el procedimiento
propuesto para descargar la mente es absolutamente inviable y no produciría los
resultados apetecidos.
A través de la narración de
Klara, nos vamos enterando poco a poco de cómo piensan los autómatas
inteligentes de la novela, aunque no todos son iguales, porque se dice
explícitamente que Klara es distinta, mejor que todos los demás. Se fija más
que ningún otro robot en todo lo que la rodea, y saca conclusiones, que pueden
ser acertadas o no. Eso la convierte en un elemento esencial para cuidar a una
niña enferma, cuya curación definitiva ella cree poder conseguir ofreciendo un
sacrificio para conseguirla, y cuando su esfuerzo acaba en fracaso, vuelve a
intentarlo. Y eso, a pesar de que algunas de las personas que rodean a la niña
esperan utilizar a Klara de manera completamente diferente, para enfrentarse a
la posible muerte de aquella.
Este libro me ha recordado una novela
que yo escribí, Operación Quatuor,
que aborda cuestiones parecidas. Mi enfoque, sin embargo, fue diferente, más de
acuerdo con mis ideas. En una cosa, sin embargo, coincido con Kazuo Ishiguro:
en que, si la inteligencia artificial fuerte fuese realmente posible (aunque no
creo que llegue a serlo nunca), nada impediría que esos robots tuvieran
creencias religiosas.
Hilo Temático sobre Literatura y Cine: Anterior Siguiente
Manuel Alfonseca
Manuel, como siempre te felicito por tus artículos. Aunque esta vez no coincido contigo, si es que te he entendido bien. Por mucho que se desarrollen los robots y la inteligencia artificial todo mecanismo que consigamos crear no puede superar el límite que Goedel encontró con su teorema: Un sistema axiomático desarrollado con un procedimiento impecable no puede garantizar la verdad de sus conclusiones. En cambio el ser humano es aquel que tiene la capacidad de comprender la certeza de las conclusiones de incertidumbre de Goedel. Es un salto cualitativo en la mente humana que no se alcanza aumentado la complejidad de los sistemas artificiales.
ResponderEliminarEsto en cuanto a la inteligencia. Pero es que el salto a la dimensión religiosa es aún más inalcanzable por un robot. La religión más elemental, de las comunidades humanas más primitivas, consiste en la aparición de lo “sagrado”. Ello tiene una cualidad de ser inexistente en todo lo que nos rodea. Ni se encuentra por mucho que nos esforcemos, como quien busca setas en el bosque. Lo “sagrado” implica que es él a manifestarse. En lo que Mircea Eliade llamaba “ierofanias”. Y si el ser humano es capaz de percibirlo es porque el alma humana posee una sensibilidad y una exigencia de absoluto, como de “la belleza”, o “la verdad”. Un absoluto, trascendente toda dimensión terrena, a lo que “lo sagrado” da respuesta. Perdona Manuel, pero este salto trascendente no conseguiremos elaborarlo por mucho que aumentemos la capacidad de cálculo de un robot, o como dices: con una “inteligencia artificial fuerte” y abriendo la posibilidad de que de esta manera “un robot tenga creencias religiosas”.
Gracias, Jordi. Estoy de acuerdo contigo, como he demostrado ampliamente en artículos anteriores, y volveré a hacerlo antes de que termine el año.
EliminarPero recuerda que estoy hablando de ciencia-ficción. La posibilidad de construir seres inteligentes artificiales da tema inagotable para este género. Si yo quiero escribir una novela al respecto, tengo que ponerme en esa actitud que los ingleses llaman "tongue-in-cheek" (o sea, afirmar algo que ni yo mismo creo), porque de lo contrario no habría novela.
Jordi, creo que es importante matizar lo que dices en el primer párrafo. Efectivamente, el límite de Gödel implica que un sistema deductivo automático no puede demostrar la verdad o falsedad de cualquier proposición. ¡Pero es que la razón humana tampoco puede!
EliminarO sea, a partir de axiomas podemos demostrar algunos teoremas, pero no todos. Y eso es igual para máquinas y para humanos. No es que los humanos sí podamos demostrarlos y las máquinas no. Porque los humanos demostramos igual que las máquinas. De hecho, lo que hacen las máquinas es implementar el razonamiento deductivo humano.
Otra cosa muy diferente es que la inteligencia no es solo demostración, deducción, silogismo. Claro que conocemos y comprendemos realidades de forma no deductiva. Ahí es donde abundas en tu segundo párrafo, y te doy la razón: lo sagrado no se conoce de forma deductiva, mecánica. Y, por tanto, está más allá de las capacidades de una máquina.
Pero, como dice Manuel, la ciencia-ficción se puede permitir la licencia de jugar con ideas... ¿y si pudiéramos construir seres artificiales pero no mecánicos?
Gonzalo, creo que Jordi se refiere al argumento de Roger Penrose en "The emperor's new mind" sobre que los teoremas de Gödel en sí mismos constituyen una diferencia entre el hombre y cualquier dispositivo de cálculo artificial, y por tanto la inteligencia artificial fuerte sería imposible. El argumento de Penrose es a su vez discutible, por supuesto.
EliminarSí, eso puede ser. El acto de plantearse el problema, y el darse cuenta de lo que implica el resultado, son ambos operaciones intelectuales no deductivas, por lo tanto no mecanizables.
Eliminar“Why must we speak of an inert matter into which life and consciousness would be inserted, as in a frame? By what right do we put the inert first?” -Henri Bergson
ResponderEliminar