 |
| Eduardo César Garrido Merchán |
En los últimos años ha habido avances considerables
en inteligencia artificial, especialmente en el campo de la generación
automática de textos e imágenes que a veces compiten con éxito con las
producciones humanas. Ante esto, los medios, e incluso algunos científicos, han
lanzado las campanas al vuelo anunciando que estamos a punto de crear
inteligencias artificiales conscientes, que competirían con los seres humanos
como iguales nuestros. Pero otros piensan que ese objetivo, si fuera posible
(lo que no está claro), está mucho más lejos de lo que algunos piensan.
En un artículo firmado por Eduardo César Garrido Merchán y Sara Lumbreras y publicado en la revista philosophies con el título Can Computational Intelligence Model Phenomenal Consciousness, los autores revisan la analogía de Bertrand Russell, que sostiene que la consciencia y la inteligencia están íntimamente correlacionadas. O sea, que cualquier ente que posea consciencia poseerá también un alto nivel de inteligencia, y viceversa. En cierto modo, esta analogía es semejante a la Prueba de Turing, mucho más conocida.
Los autores del artículo utilizan el cálculo
bayesiano para llegar a la conclusión de que la analogía de Russell es falsa.
También aducen algunos contraejemplos de dicha analogía, como el hecho de que
personas con poca inteligencia (subnormales) son evidentemente conscientes,
situación que también se da en algunos casos de personas en coma.
Para analizar la situación, se plantea la
existencia de dos conceptos distintos, a los que alude el título del artículo:
- Inteligencia Computacional: La capacidad de resolver problemas que
pertenecen al campo de los problemas computacionales. Es evidente que los
seres humanos tenemos cierta capacidad de este tipo. Es evidente que, en
muchos de esos problemas, los programas de ordenador nos vencen con
facilidad. Este concepto es cuantificable, aunque difícil de medir, porque
criterios como los test de Cociente Intelectual de William Stern sólo proporcionan un
límite inferior de la inteligencia real del sujeto, a quien puede afectar
negativamente el cansancio, el estado de ánimo, o incluso la voluntad de
obtener un CI menor del que le corresponde.
- Consciencia Fenoménica: Ser consciente de ciertas experiencias,
como movimientos, colores, sonidos, sensaciones, emociones, sentimientos,
y (en el límite) la propia identidad. Estas experiencias se agrupan bajo
el nombre de qualia y no son cuantificables,
pues como su nombre indica son cualitativas. Por esta razón, los autores
del artículo consideran esta variable como binaria; o sea, que para cierto
ser, sólo puede adoptar los valores cero (no lo tiene) o uno (lo tiene).
 |
| Bertrand Russell |
La analogía de Russell relaciona estos dos
conceptos y considera que uno surge del otro. La consciencia fenoménica sería
algo que emerge automáticamente cuando la inteligencia computacional alcanza
cierto valor, y al revés. Los autores del artículo niegan esta relación, y lo
justifican con un razonamiento basado en el cálculo bayesiano, cuya conclusión
es que la correlación entre las dos variables consideradas es cero (o sea, que una
no depende de la otra).
Los animales proporcionan otro contraejemplo, pues
su inteligencia computacional es muy baja (con algunas excepciones, como las
abejas), pero obviamente tienen una consciencia fenoménica que, aunque pueda
ser menos rica que la humana, no es ni mucho menos nula.
Uno de los argumentos de más peso es el hecho de
que todo sistema de computación inteligente construido hasta
ahora por el hombre puede modelarse como una máquina de Turing. Esto se aplica incluso a las
redes neuronales artificiales más complejas de aprendizaje profundo, que,
aunque ajusten cientos de miles de millones de parámetros, en el fondo se
reducen a la ejecución de un algoritmo (véase este
artículo en este blog).
Recuérdese que la máquina de Turing tiene una
memoria infinita, por lo que en realidad es más general que cualquier programa
de ordenador, cuya memoria, aunque enorme, es siempre finita. Sin embargo, dada
la simplicidad del diseño de la máquina de Turing, a nadie se le había ocurrido
afirmar que esas máquinas puedan llegar algún día a poseer consciencia.
Se llega, por tanto, a la conclusión de que los
sistemas de computación inteligente basados en la arquitectura de Von Neumann, aunque
sean mucho más inteligentes (computacionalmente) que el hombre, jamás
podrán llegar a adquirir consciencia fenoménica. Para llegar a ese resultado
habría que diseñar entidades muy diferentes, más parecidas al cerebro humano. Y
no está claro que esto sea posible.
Hilo Temático sobre Inteligencia Natural y Artificial: Anterior Siguiente
Manuel Alfonseca
" Y no está claro que esto sea posible”.
ResponderEliminarMas bien es lo contrario, esta claro que es posible, ya que el cerebro humano existe.
De hecho, hace milenios que estamos haciendo cerebros: los de nuestros hijos. Pero esa es inteligencia natural, no artificial. Y si piensas que nuestros avances científicos van a continuar indefinidamente al mismo ritmo que hasta ahora, lee mi artículo anterior en este blog.
EliminarTal vez Antonio piensa que el cerebro humano es una máquina computacional. En ese caso no es extraño que piense que no hay ninguna imposibilidad absoluta en fabricar cerebros humanos o algo equivalente.
EliminarPues no, no tengo claro que sea una máquina computacional, pero por cierto, como sé que Gonzalo no cree que sea una máquina computacional digital, le pregunto ¿qué diferencia hay entre una máquina computacional digital y una analógica? Ya que también existe la computación analógica, según tengo entendido. ¿Sería más adecuada la analógica para “simular” la actividad del cerebro?
ResponderEliminarLo que sí creo es que todo parece indicar que un cerebro no es un ente sobrenatural (aunque también creo que lo sobrenatural puede existir en el sentido de algo que trasciende lo material, pero como digo no creo que el cerebro haga uso de nada sobrenatural, aunque no puede descartarse completamente) y por tanto es posible crear una máquina que simule lo que hace el cerebro aunque sea por otros medios, de la misma manera que un avión vuela de manera distinta a lo que lo hace un pájaro pero alcanzando resultados en ciertos aspectos superiores.
Incluso creo que si la evolucion ha creado diversidad de cerebros unos superiores a otros en términos de “rendimiento” no sería imposible crear una máquina de mayor eficiencia que nuestro cerebro en la función de pensar.
Y por todo ello la existencia de cerebros la tomo como una prueba de que esto es factible y que se puede conseguir, ignoro si en 10, 20, 100 o 10.000 años.
Un saludo.
Hola Antonio, si quieres saber qué es una computadora analógica, te recomiendo el maravilloso video de Veritasium, Las computadoras superpoderosas de las que nunca te contaron (19 min).
EliminarNo sé si la computación analógica simulará mejor el cerebro que la digital, puede que sí. Pero no es relevante para mi "creencia" de que el cerebro no es una máquina (pongo "creencia" entre comillas porque es una creencia argumentada, de ninguna manera una creencia ciega).
No creo que el cerebro sea una máquina computacional (digital o analógica) por la sencilla razón de que no creo que el cerebro sea una máquina de ningún tipo. Es decir, no es un artefacto diseñado para resolver una determinada tarea (o conjunto de tareas). No es un resolvedor de problemas. Entre otras cosas, porque antes que resolver problemas, la mente-cerebro los reconoce como problemas que vale la pena resolver.
Esto no es exclusivo de los seres humanos, es una característica de cualquier ser vivo. Las máquinas no tienen problemas. Las máquinas no resuelven sus problemas, sino los nuestros. Los seres vivos sí tienen problemas. Y de algunos seres vivos -no solo de los humanos- quizás se puede decir que usan "máquinas" (artefactos, en sentido amplio) para resolver sus problemas: cuervos, castores, incluso abejas.
Para mí, la clave no está en el "hardware", sino en el haber sido "diseñado para".
Como ves, no apelo a ninguna instancia sobrenatural, y no porque me "guarde" el argumento, sino porque creo verdaderamente que es un argumento equivocado. Demasiado cartesiano para mi gusto. El alma no es ningún fantasma que esté a los mandos de la máquina, que es el cuerpo. Descartes ha hecho demasiado daño.
Gonzalo, la conversación contigo es siempre estimulante, pero hay cosas que no me quedan claras de tu planteamiento, o en cierto modo me parece que flojean.
EliminarPor ejemplo, entiendes que lo que distingue (o una de las cosas que distingue) a la máquina del cerebro es que la primera tiene que estar diseñada para algo, mientras que el segundo no, pero creo que esto solo es así desde la perspectiva en la que la máquina es diseñada por un humano para un fin en concreto, lo cual no impide por ejemplo que una máquina pueda servir para más de una cosa (como es el caso, precisamente de las computadoras “multipropósito”), o que se pueda considerar que el cerebro humano también está diseñado para algo (sobrevivir). De hecho muy bien podría pasar que un hipotético extraterrestre llegara a la tierra y se pensara que una máquina que nosotros usamos para una cosa, se utiliza para algo totalmente distinto, o que no encontrara directamente el propósito de la misma. Y esto es porque la utilidad está insertada en la cultura, en la vida y en la realidad humana, fuera de la cual no tienen sentido las invenciones del humano. Es el humano el que le da sentido a la máquina, no es que esta “per se” esté diseñada para un propósito concreto, o aun estándolo no es lo fundamental de la misma.
Por eso ahora que releía tu pensamiento de que una máquina no puede tener intenciones como un cerebro las tiene, se me vino a la cabeza (nunca mejor dicho) que en realidad las que tenemos intenciones somos las personas, no los cerebros tomados individualmente o por separado. Imaginemos por ejemplo un cerebro aislado, como los que aparecen a veces en las series de ciencia ficción, incluso una “cabeza viviente” al estilo de las que aparecían en la serie de animación “Futurama”. ¿Tendrían estas cabezas aisladas objetivos como los humanos de cuerpo entero, con sus emociones, sus pasiones, sus deseos, fruto en parte de tener cuerpo y sentir, padecer y disfrutar, e incluso de estar insertados en una sociedad y una comunidad que modula y da dirección a esos deseos, o incluso más allá de todo ello, simplemente consecuencia del hecho de estar en el mundo, lo que conlleva un conjunto de posibilidades y restricciones?
Probablemente no, o probablemente no de la misma manera. O dicho de otra forma, si una máquina tuviera un “embodiment”, estuviera de alguna manera “encarnada”…¿no le conferiría esto automáticamente la facultad de desear y por lo tanto de elegir los problemas que quiere resolver? Ya que de alguna forma al tener una manera de estar en el mundo, tendría preferencias en cuanto a lo que quiere o no quiere hacer, objetivos que perseguir, etc… Cosa que no tendría si simplemente fuera una “máquina de pensar en genérico”, situación en la cual seguramente solo se dedicaría a resolver problemas que se le plantearan, ya que la realidad exterior, de alguna manera, ni le iría ni le vendría.
Esto son solo algunas ideas por si te apetece seguir con el tema.
Un saludo.
La cuestión fundamental es filosófica. O bien somos máquinas, como sostienen las teorías materialistas, compuestas sólo de materia, o somos algo más, como sostienen las teorías dualistas (hay más, además de la de Descartes). Personalmente, soy dualista no Cartesiano.
EliminarLo que es evidente es que las máquinas que hemos construido hasta ahora son sólo máquinas. Sólo son materia. La pregunta, referida a los seres humanos, es más difícil de contestar.
¿Podremos algún día construir algo que no sea sólo materia, como hacemos cuando tenemos hijos? No lo sé. Dos de mis novelas de ciencia-ficción están escritas como si eso fuera posible. Aunque personalmente yo no lo creo. No creo todo lo que dicen mis novelas :-)
Antonio, claro que un artefacto puede ser utilizado para una finalidad diferente de aquella para la que fue diseñado (cuántos objetos usados como pisapapeles...). Y claro que para entender la finalidad es necesario entender el contexto cultural. Los primeros artículos en mi blog tratan justamente de estas cuestiones, especialmente ¿Qué es una máquina? y ¿Hay finalidad en el universo?, donde creo que respondo a muchas de las cuestiones que planteas.
EliminarEn cambio, me parece inadecuado decir que el cerebro ha sido "diseñado" (como verás, soy firme increyente en el diseño inteligente). Fíjate que tú mismo dices que "Es el humano el que le da sentido a la máquina". Una máquina obedece a un diseño intencional, voluntario. Salvo que pienses que el proceso evolutivo mismo es un sujeto con intenciones, no veo cómo se puede sostener que el cerebro (o cualquier organismo vivo) es una máquina. A mi modo de ver, la influencia de la mentalidad mecanicista, que ve en el universo una gran maquinaria, es demasiado grande, y haríamos bien en deshacernos de ella.
La cuestión, me parece a mí, es que una máquina obedece a unas intenciones extrínsecas a la misma materia que la constituye, mientras que en un ser vivo las funciones vitales no son extrínsecas, sino que surgen de su propia estructura biológica. Son naturales, no artificiales.
Como dice Manuel, no es imposible "fabricar" (en sentido amplio) seres que tengan sus propias necesidades. Ya sea mediante la simple reproducción biológica, o mediante la reproducción "guiada" (selección artificial de organismos para la agricultura y la ganadería), o ya en tiempos muy recientes mediante ingeniería genética. Pero creo que no es adecuado decir "fabricar", sino más bien "engendrar"; y tampoco serán propiamente máquinas, sino organismos (aunque el caso de organismos modificados pueda presentar cierta ambigüedad al respecto).
Manuel parece conceder a los materialistas que es aceptable considerar la hipótesis de que somos máquinas. Yo creo que es un planteamiento equivocado, porque una máquina no es simplemente un sistema mecánico material (esto es justamente el tema del primer artículo de mi blog, Qué es una máquina). Incluso si fuéramos seres puramente materiales, no sería adecuado decir que somos máquinas. Mi propia postura la presenté en otro artículo, La materia y el espíritu no son cosas, sino aspectos. Aunque tal vez no sea tan distinta de la postura de Manuel, creo que no es adecuado denominarla "dualismo", al menos yo me siento muy incómodo con esa etiqueta, con demasiados resabios cartesianos.
Me has entendido mal. Yo no concedo a los materialistas que es aceptable considerar la hipótesis de que somos máquinas. Digo que eso es lo que dicen. Y al decir que soy dualista, implico que no soy materialista.
EliminarLo que quiero decir es que, a mi parecer, aceptas su forma de plantear las cosas, equiparando "ser material" con "ser una máquina". Claro que no aceptas su hipótesis, sino que la refutas (lo has hecho un montón de veces en tu blog, de muchas maneras diferentes). Pero yo voy más allá: no es solo una hipótesis falsa, es que está mal planteada en sus mismos términos.
EliminarParafraseando a Wolfgang Pauli, esa hipótesis ni siquiera es falsa.
Dualismo no cartesiano es que el alma y el cuerpo son uno?
ResponderEliminarNo. Alma y cuerpo no son lo mismo, pero serían inseparables.
Eliminar