Como hemos visto en el artículo anterior, el libro Agentes libres (Free
agents) de
Kevin Mitchell trata sobre el origen de la consciencia humana
y del libre albedrío. En un breve epílogo, el libro aborda el tema de la
inteligencia artificial fuerte, la de verdad, la que aún no existe, y formula
algunas hipótesis sobre la posibilidad de que llegue a ser factible.
Hace hincapié en el hecho de que una de las ramas más activas de la investigación en IA, especialmente en los últimos años, es el campo de las redes neuronales artificiales, que ha conducido a avances como los grandes modelos de lenguaje (Large Language Models, LLM), y compara esas redes neuronales de nuestros programas con las que existen en nuestros cerebros y los de muchos animales más o menos semejantes a nosotros. Dice que estamos viendo avances impresionantes en campos como el reconocimiento de imágenes, la predicción de texto, el reconocimiento de voz y la traducción de idiomas, avances que se basan en el uso del aprendizaje profundo (deep learning), que se inspira lejanamente en la arquitectura de la corteza cerebral.
Estos sistemas responden espectacularmente a cierto
tipo de peticiones, pero fracasan, también espectacularmente, con otro tipo de
preguntas. Desde que apareció ChatGPT hace poco más de tres años, muchos de nosotros
hemos sido testigos de algunos de esos fracasos, de los que he mencionado
varios en este blog. Las preguntas que descomponen a estos sistemas son las que
presentan escenarios nuevos, que no están representados en
los datos de entrenamiento. En cambio, para los seres humanos, es fácil
responder a ese tipo de preguntas.
¿A qué se debe? Según Mitchell, a que nuestros
programas han sido diseñados de forma totalmente distinta a los seres vivos, y
están sometidos a limitaciones inherentes a ese diseño. Para acercarnos a la
inteligencia artificial general no deberíamos fijarnos en las aplicaciones
actuales, sino en la inteligencia de los animales, que son capaces de
enfrentarse a entornos nuevos e inciertos y aplican su experiencia
pasada para predecir el futuro; un futuro que incluye los
resultados de sus propias acciones. Esto es muy distinto a lo que hacen los LLM, que
sólo predicen la palabra siguiente.
Otra característica de la inteligencia natural es
que se obtiene con pocos recursos. Un ser vivo es pequeño; incluso una ballena azul
es pequeña, comparada con nuestros gigantescos centros de datos. Un ser vivo
gasta muy poca energía, muy lejos de los megavatios de nuestros centros de
datos. Un animal no puede entrenarse con millones de fuentes de
datos ni
tiene tiempo para calcular exhaustivamente su comportamiento. Si lo hace
se expone a ser capturado por un predador, o a que se le escape la presa.
Una de las características más útiles de la
inteligencia natural es la capacidad de relacionar causa y efecto. ¿Qué hace
falta para ello? ¿Podrían hacerlo las máquinas?
Para comprender la causalidad, un ser vivo se fija
en que un suceso X va siempre seguido por un suceso Y. Pero esto puede ser
debido a dos motivos: porque X es la causa de Y, o porque ambos están
correlacionados estadísticamente (véase el artículo de mi blog titulado Correlación
o causalidad). ¿Cómo podemos distinguirlos? Actuando sobre el mundo,
modificando las condiciones, impidiendo que ocurra el suceso X y comprobando si
el suceso Y desaparece. Si esto ocurre, es muy probable que haya causalidad. En
caso contrario, lo que había era correlación estadística. Mitchell lo expresa
así: La hipótesis debe comprobarse. Por lo tanto, el
conocimiento causal proviene de la intervención causal en el mundo.
Es evidente que los programas actuales de IA no son
capaces de interaccionar causalmente con el mundo. Por lo tanto, ni siquiera
están preparados para comportarse como animales inteligentes, mucho menos como
seres humanos. Si se quiere avanzar hacia la inteligencia artificial fuerte,
será preciso realizar un cambio radical de paradigma:
Esto
implica que la inteligencia artificial general no surgirá en sistemas que solo
reciben datos pasivamente. Deben poder actuar sobre el mundo y observar cómo
cambian esos datos en consecuencia. Por lo tanto, esos sistemas tendrían que
materializarse de algún modo: ya sea en forma de robots físicos, o como
entidades de software capaces de actuar en entornos simulados.
Los dos sistemas que propone son los que yo he
utilizado en mis novelas de ciencia-ficción relacionadas con la inteligencia
artificial fuerte. En dos de las novelas de mi serie sobre el Sistema Solar (Operación
Quatuor y Operación
Viginti) aparecen robots inteligentes. Y en La
Escala de Jacob hay entidades de software inteligentes que actúan en
entornos simulados. No está mal, para ser un autor que duda de que este
objetivo pueda conseguirse, al menos a corto plazo.
Esta es la conclusión del epílogo:
En
resumen, la evolución nos ha dado una hoja de ruta para alcanzar la
inteligencia: construir sistemas capaces de aprender, basándose desde el
principio en la experiencia real y la autonomía causal. No se puede construir
un montón de algoritmos y esperar que de repente aparezca en ellos un ser
consciente. Quizá haya que construir la arquitectura de un ser consciente y
dejar que surjan los algoritmos. Para obtener inteligencia, quizá haya que
construir una inteligencia. La siguiente pregunta es si deberíamos hacerlo.
El epílogo del libro de Mitchell tiene sólo cinco
páginas, pero no tiene desperdicio.
Hilo Temático sobre Inteligencia Natural y Artificial: Anterior Siguiente
Manuel Alfonseca
Me parece a mí que en esta exposición sigue latiendo una concepción funcional de la inteligencia: qué clases de problemas puede resolver la inteligencia humana o la inteligencia artificial, cuál de las dos resuelve más clases de problemas, y más rápido, cómo las comparamos. Pero para entender la inteligencia humana es preciso superar esta visión reductiva:
ResponderEliminar"La inteligencia humana no consiste, principalmente, en realizar tareas funcionales. (...) Establecer una equivalencia demasiado fuerte entre la inteligencia humana y la IA conlleva el riesgo de sucumbir a una visión funcionalista." (Antiqua et Nova, 33-34).
Inteligencia es capacidad de resolver problemas, pero sobre todo capacidad de reconocer los problemas como problemas. Y esto va necesariamente unido a la vida, a las finalidades que surgen del propio ser, que no vienen impuestas desde fuera como en una máquina. Ningún ser fabricado puede "tener" problemas propios, solo resuelve los problemas de otros.
En este sentido, ningún ser fabricado puede ser verdaderamente inteligente, por muy eficazmente que resuelva multitud de problemas diferentes. Los problemas de las máquinas.
Como dije en el artículo anterior, la postura filosófica de Mitchell es el monismo emergentista, con el que yo no estoy de acuerdo. Pero incluso partiendo de esa postura dice cosas muy sensatas, que no suelen oírse. He intentado seleccionar aquí las que me parecen más oportunas, como la diferencia esencial entre la inteligencia animal y la de los programas de ordenador. Y reacciono contra las afirmaciones que frecuentemente oímos que dicen que estamos a punto de obtener inteligencias artificiales iguales o superiores a la humana. En esto, Mitchell está claramente de acuerdo.
EliminarLas máquinas son una unión accidental. No hay ninguna sustancia en ellas, por lo que jamás tendrán inteligencia.
ResponderEliminarEn la sustancia única que constituye el hombre en su conjunto, lo consciente y lo inconsciente se mezclan no indiscriminada sino, muy al contrario, armoniosamente.
Por consiguiente, la acción consciente no solo no es subvertida y anulada por los procesos inconscientes, sino muy al contrario confirmada y completada por ellos.
Sí, estoy de acuerdo en que dice cosas sensatas. Me parece que el tema de actuar en el mundo y observar los efectos para de ahí obtener relaciones causales está muy bien traído (aunque, estrictamente hablando, la mera observación no puede trascender la correlación para llegar a la causalidad).
ResponderEliminarTan solo quería subrayar que, si no se supera el paradigma funcionalista, cualquier argumento que trate de demostrar que la IA no puede equipararse a la inteligencia humana es endeble, puesto que está a expensas de lo que pueda deparar el progreso tecnológico.
Por cierto, imagino que te has dado cuenta de que "la inteligencia de los animales, que (...) aplican su experiencia pasada para predecir el futuro; un futuro que incluye los resultados de sus propias acciones" conecta con tu propio argumento sobre el Harming Problem.
(no sé por qué no puedo añadir este comentario en el hilo anterior de comentarios)
Yo tampoco puedo responder, ni aquí ni en ningún artículo. Parece que es un "glitch" de blogspot. Esperemos que lo resuelvan. Al menos podemos poner comentarios nuevos.
ResponderEliminarDices: "la mera observación no puede trascender la correlación para llegar a la causalidad". Sí, eso es lo que él dice. Para distinguirlas hace falta intervenir en el mundo.
En efecto, el "harming problem" tiene que ver con la predicción del futuro. Hay muchos problemas que no tienen solución, como demostraron Gödel, Turing, Chaitin, y algunos más...
>> Para distinguirlas [correlación de causación] hace falta intervenir en el mundo.
ResponderEliminarPero la intervención en el mundo no hace más que dar la oportunidad de nuevas observaciones de correlaciones más consistentes. Con estas observaciones se pueden distinguir correlaciones genuinas de correlaciones espúreas, pero la observación sigue quedándose en el nivel fenoménico.
Simon, H.A. (1954). Spurious Correlation: A Causal Interpretation. Journal of the American Statistical
Association, 49(267), 467-479.
La interpretación de lo observado como una relación causal requiere dar un paso más allá, un paso que es verdaderamente razonamiento metafísico.
Dices: "Pero la intervención en el mundo no hace más que dar la oportunidad de nuevas observaciones de correlaciones más consistentes."
ResponderEliminarCierto, pero a medida que aumenta la consistencia, aumenta la credibilidad de la causalidad. Es un caso semejante al de los juicios con jurado, en los que se exige que la decisión esté más allá de una duda razonable. Ese grado de credibilidad se suele conseguir acumulando indicios (pruebas circunstanciales), porque las pruebas directas son usualmente muy difíciles de conseguir.
Los animales son también capaces de detectar correlaciones. Mi gato (cuando yo era adolescente) relacionaba el ruido del motor del coche de mi padre con su llegada, y cuando lo oía, se dirigía a la puerta del piso, aunque normalmente tardaba varios minutos en aparcar el coche y subir. No creo que utilizara el razonamiento metafísico, pero la simple correlación le funcionaba.
Parece que ya han subsanado el problema que impedía responder a los comentarios.
Eliminar