 |
| John MacCarthy |
Hablar de inteligencia artificial está de moda. Cada vez es más frecuente la aparición de este término en los medios de comunicación. Se suele usar cuando se quiere hablar de una aplicación informática que se comporta de un modo que a algunos les parece inteligente. Pero ¿realmente lo es? ¿O estamos asistiendo a un desplazamiento de sentido, a la aplicación de un término con más gancho a algo que realmente no es nuevo?
El término inteligencia artificial lo inventó John MacCarthy en 1956, con ocasión de un seminario que tuvo lugar en el Dartmouth College de Hanover, U.S.A. Por entonces se hicieron predicciones exageradas de los avances inminentes que se podían esperar en este campo, algunos de los cuales aún no se han cumplido de forma totalmente satisfactoria después de 65 años. Ahora las predicciones son mucho más ambiciosas, pero es muy probable que ninguna se cumpla a corto plazo, y que algunas no lleguen a cumplirse nunca.
Las aplicaciones actuales de la inteligencia
artificial, a las que tanta publicidad están dando los medios, se basan
en algoritmos diseñados hace más de tres décadas, pero que ahora se aplican sobre
un número de datos muy grande, aprovechando la mayor velocidad de los
ordenadores y la existencia de Internet, que proporciona los datos. Pero estos
algoritmos no son realmente inteligentes. Esencialmente, se dividen en cuatro
grandes grupos:
- Análisis de datos. Se toma un número enorme de datos y se les aplican algoritmos de
toma de decisiones para predecir situaciones futuras. En este caso, por
supuesto, la inteligencia no está en los algoritmos, sino en los
programadores que los diseñaron. Por lo tanto, estas aplicaciones no
deberían considerarse inteligencia artificial. Aquí hay
un ejemplo.
- Aprendizaje automático. Hablé de esto con detalle en otro
artículo de este blog.
- Generación de lenguaje natural. Se trata de crear frases o párrafos que suenen naturales y se adapten,
o bien a algún tema concreto, o a la forma de hablar de alguna persona.
Los medios suelen airear las noticias referidas a este tema, porque creen
que suponen avances enormes. Hace poco se anunció que se ha logrado resucitar
a una persona muerta, lo cual, evidentemente, es falso. Lo que se ha
hecho es aplicar un programa de generación de chat-bots para que utilice conversaciones
grabadas de la persona muerta, y fabrique textos que parezcan proceder de
esa persona. Se trata de una versión actualizada de Eliza, que hace casi cincuenta años
emulaba la forma de hablar de un psiquiatra y llegó a engañar a algunas personas.
Estos programas no son realmente inteligentes, porque detrás de ellos no
hay ninguna mente. La inteligencia está, como de costumbre, en el diseñador
del programa. Sobre este tipo de aplicaciones hablé en otro
artículo de este blog.
- Análisis de imágenes. Estas aplicaciones se suelen presentar como si se tratara de inteligencia
artificial fuerte, cuando no son más que desarrollos de algoritmos clásicos
que permiten al programa descubrir si la persona que interacciona con él está
triste o alegre, y cosas sencillas parecidas. El programa puede usar esa
información porque está programado para ello, pero tras él no hay un ser
consciente.
Se habla también mucho en los
medios de la inminencia de que se construyan ordenadores cuánticos que
resolverían el problema de la inteligencia artificial fuerte, o bien
ordenadores basados en componentes que funcionen como las neuronas del cerebro
humano. Lo primero es imposible, como expliqué en este
artículo. Lo segundo, de momento, no es más que humo. Veamos, como ejemplo,
una frase que aparece en un
artículo reciente:
Hemos diseñado sistemas inteligentes que
piensan como los humanos (redes neuronales artificiales), que actúan como
nosotros (robótica), que razonan como las personas (sistemas expertos) y que
incluso se comportan racionalmente (agentes inteligentes).
Este párrafo
tan corto está plagado de errores. La verdad es esta:
a) Las redes neuronales artificiales no piensan como los seres humanos. De
hecho, no piensan, porque no hay nadie que piense. b) Los robots actúan como
nosotros (o incluso mejor que nosotros) en actividades concretas, pero están
muy lejos de sustituir a un ser humano, salvo en labores automatizables. c) Los
sistemas expertos nunca han razonado como las personas: por eso la investigación
en este campo casi se ha detenido. d) Los agentes “inteligentes” (lo
entrecomillo porque es un eufemismo) no se comportan racionalmente. Se
comportan tal y como están programados. El que actúa racionalmente es su programador.
 |
| Isaac Asimov |
En una entrevista reciente afirmé
que muchas de las cosas que se predicen ahora no son ciencia, sino
ciencia-ficción. El entrevistador contestó que se han cumplido muchas
predicciones que al principio sólo fueron ciencia-ficción. Aunque en algunos
casos esto es verdad, también hay predicciones que no llegarán nunca a
cumplirse. Por ejemplo:
- Viajes a velocidades superiores a la de la luz: Un tema típico de la ciencia-ficción, para viajar a las estrellas
con la misma facilidad con que hoy viajamos en la Tierra, pero enormemente
improbable en el estado actual de la ciencia. En otros
artículos he hablado sobre este tema.
- Viajes en el tiempo: Como expliqué en otros artículos, la paradoja de Fermi modificada demuestra
que los viajes en el tiempo, no sólo son imposibles ahora, sino que lo
serán siempre.
- Reducción de seres humanos a tamaños microscópicos: El paradigma de este subgénero es Viaje
Alucinante, novela de Isaac Asimov basada en el guion de la
película del mismo título. Hablaré de esto en otro artículo.
¿Pasará lo mismo con las superinteligencias
artificiales, cuyo diseño inminente anuncian continuamente los medios? Quizá
no las consigamos nunca. Eso es lo que piensan muchos expertos en inteligencia
artificial.
Un buen bañito de realidad.
ResponderEliminarEs casi divertido ver con qué alegría y desparpajo se habla de Inteligencia Artificial en los medios...
La verdad que sí es una cura de humildad, y un aterrizaje al mundo real, y no al de los sueños.
ResponderEliminarPero para los que piensan que la IA no conseguira nunca maquinas pensantes mi pregunta es la siguiente: ¿hay que asumir entonces que el pensamiento es algo sobrenatural? Porque si no lo es entonces lo raro sería que no se llegase a conseguir una maquina pensante (ojo, digo maquina pensante, no ordenador).
ResponderEliminarEsa es lo que no entiendo de los que poneis esas objeciones. Porque ademas sostener que esto no pasara nunca me parece aventurarse demasiado. Si el pensamiento existe y no rompe ninguna ley de la fisica (cosa que me parece razonable), no como los otros ejemplos que se ponen, entonces como digo no es ninguna barbaridad pensar que alguna maquina pueda en el futuro replicar las capacidades pensantes de un humano, concedo que puede que ni sea exactamente lo mismo, pero si en lo fundamental.
¿Quién dice que yo sostengo que nunca habrá máquinas pensantes? Adjunto enlaces a mis dos novelas de ciencia-ficción en las que se supone que sí las habrá:
EliminarLa escala de Jacob
Operación Quatuor
Se ve que malinterpreté el último párrafo del artículo:
Eliminar"¿Pasará lo mismo con las superinteligencias artificiales, cuyo diseño inminente anuncian continuamente los medios? Quizá no las consigamos nunca. Eso es lo que piensan muchos expertos en inteligencia artificial."
Además creo haberte leido alguna vez que incluyes en tus libros de ciencia ficción sucesos o tecnología que piensas que nunca ocurrirán, para algo es ficción.
Un saludo.
Me parece que estas preguntas son lo bastante jugosas para dar lugar a un artículo nuevo en el blog. Como ya tengo noviembre programado, habrá que esperar hasta diciembre. Entre tanto, a vuela pluma, pienso que con nuestra tecnología actual la superinteligencia artificial es imposible. Haría falta una tecnología totalmente diferente. Y no bastaría con la computación cuántica.
EliminarAntonio, el problema de construir "máquinas pensantes" no es solo tecnológico, sino de principio. Construimos máquinas para resolver problemas, como mover cosas de un lado a otro o procesar información. Pero las máquinas no pueden elegir los problemas que quieren resolver: les vienen dados. Si pudieran decidirlo, dejarían de ser máquinas, y no sabríamos entonces cómo construirlas, porque ya no tendrían un objetivo predefinido.
EliminarSi los seres humanos fuéramos meros "resolvedores de problemas", como piensan muchos, entonces sería posible construir máquinas que nos emularan perfectamente (porque en el fondo nosotros también seríamos máquinas). Pero justamente una de las características esenciales de los humanos es que no solo resolvemos problemas, sino que podemos decidir qué problemas vale la pena resolver.
He desarrollado estas ideas con mucha amplitud aquí: Un instrumento universal para resolver problemas.
De todos modos, ya somos capaces de construir seres pensantes (quito lo de máquinas porque no soy materialista): nuestros hijos.
EliminarAsí es, jaja, y ya hemos comentado anteriormente que los dos habíamos llegado a la misma conclusión por caminos diferentes.
EliminarY no es una idea superficial, porque si consideramos que nuestros hijos son "resolvedores de problemas", los educaremos como tales, es decir, como robots. Pero si dejamos que ellos decidan qué problemas quieren resolver (o sea, qué quieren ser), entonces los estaremos educando en la libertad.
En primer lugar, y aun a costa de parecer "pelota" (que no me considero), me tomo como un privilegio que dos autoridades en el tema como son Manuel y Gonzalo, cuyas publicaciones sigo, hayan tenido a bien responder y comentar a raíz de mi aportación.
EliminarDesde mi punto de vista (por supuesto mucho menos cualificado que el de ambos) reflexiono sobre si efectivamente estos avances que vemos en la IA (Transformers, GPT3, redes neuronales y convolucionales, procesadores neuromórficos...) son solo saltos cualitativos y no cuantitativos, porque a mi entender no son un cambio radical o de paradigama. Pero a su vez me pregunto si una carrera cuantitativa no llevará a un salto cualitativo en algún momento, y entonces sí, a un cambio de paradigma, con todo lo subjetivo que tienen estos conceptos en si mismos. O incluso si por caminos distintos a los que usó la biología para dotarnos de inteligencia alguna máquina logrará en algun momento hacer algo indistinguible del pensar humano (que yo creo que sí), e incluso a más nivel (que creo que también, dado que una máquina de estas características se beneficiaría de la "escalabilidad" habitual en las manifestaciones tecnológicas humanas).
En cualquier caso como decía un placer leer a todos los participantes.
Un saludo.
Antonio, estas consideraciones son ciencia-ficción :-)
EliminarBueno, cuando Ada Lovelace fabricó el primer sistema "descarnado" que podía tomar "decisiones" fue una conmoción. Cuando ya no hubo ninguna persona capaz de derrotar a un algoritmo jugando al ajedrez también fue impactante. No veo el límite a esta progresión (por llamarla de alguna manera...)
EliminarLuis
Luis, el primer sistema "descarnado" que podía tomar "decisiones" es la balanza, de orígenes ancestrales, al menos 2400 años antes de Cristo.
EliminarUn sistema computacional no es más que una balanza muy complicada. La diferencia clave con lo humano no está en la capacidad de resolver problemas, sino en la capacidad de elegir los problemas que vale la pena resolver.
Y eso es algo que está y siempre estará más allá de la capacidad de un sistema computacional.
Luis, el hombre moderno tiende a pensar que, porque hemos resuelto tantos problemas técnicos, no hay ninguno que esté fuera de nuestro alcance, siempre que se nos dé tiempo para resolverlo. Pero hay problemas imposibles de resolver, como creo deja claro mi artículo siguiente a este: La increíble gente menguante.
EliminarQue hay problemas insolubles, como la muerte, está bastante claro, a pesar de que ahora hay ilusos (los ha habido siempre) que creen que estamos a punto de resolverlo. El último artículo de Bartolo Luque en Investigación y Ciencia viene a indicar que quien piensa eso está equivocado.
Como dijo Dorothy L. Sayers, The spiritual and mental energy that we expend upon resenting the inevitability of death is as much wasted as that which we from time to time have expended on attempts to solve the problem of perpetual motion. ("La energía espiritual y mental que gastamos en tomar a mal la inevitabilidad de la muerte se desperdicia tanto como la que de vez en cuando hemos gastado tratando de resolver el problema del movimiento perpetuo").
Por cierto, en esa cita de Sayers tenemos otro ejemplo de un problema técnicamente insoluble.
Por cierto, Luis, Ada Lovelace nunca fabricó nada, sólo ideó la forma en que se podría programar una máquina inexistente.
Eliminarel reciente resurgimiento de la idea de que la mente ya está en la materia, en lugar de una emanación tardía de ella, ha abierto una caja de Pandora entre los investigadores de la conciencia, enfureciendo a algunos materialistas acérrimos mientras saca a otros de callejones sin salida conceptuales. Por lo visto antonio damasio a publicado un nuevo libro sobre la conciencia en todo el cuerpo esto es sobre un nuevo libro de antonio damasio es para que en otro momento usted publique un articulo sobre el cuando pueda
ResponderEliminar( por cierto muy buen articulo y aclaracion sobre los malentendidos de la inteligencia artificial en los medios y su exageracion , ha sido instructivo de verdad)
No entiendo la frase "la mente ya está en la materia, en lugar de una emanación tardía de ella". No veo una diferencia esencial entre las dos posturas materialistas.
EliminarUna de las opciones filosóficas no materialistas afirma que la mente está en todas partes, aunque en la mayor parte del universo es imperceptible. Si fuese así, las "máquinas pensantes" de que habla Antonio serían teóricamente posibles. En mi opinión esto no significaría un problema insoluble para la postura teísta y cristiana.
Pero lo que sí es cierto es que las máquinas actuales no están a punto de conseguir la consciencia. López de Mántaras, gran experto español en IA, dijo una vez que él esperaba las máquinas conscientes para dentro de 200.000 años (:-) He hablado de esto en otros artículos:
Para cuándo la inteligencia artificial fuerte
Consciencia, auto-consciencia e inteligencia artificial
Los verdaderos expertos en IA se están cansando de las exageraciones de los medios. Este mismo mes, Investigación y Ciencia publica un artículo de Sara Lumbreras en el que dice cosas parecidas a las que digo en este artículo.
Feeling and Knowing: Making Minds Conscious ese es el titulo del nuevo libro de antonio damasio donde menciona lo que le puse aunque seguramente seran exageraciones de damasio
ResponderEliminarhttps://www.abc.es/ciencia/abci-y-si-universo-no-hubiera-tenido-principio-202111060126_noticia.html#vca=rrss-inducido&vmc=abc-es&vso=tw&vli=noticia.foto
ResponderEliminarEso que llaman "nueva teoría" fue propuesta por Bojowald hace casi un cuarto de siglo. Hablé de ello aquí: Alternativas al Big Bang.
EliminarCuando daba clase, solía aconsejar a mis alumnos que no se creyeran ninguna noticia científica de los medios generalistas: el 95% de las veces están mal.
Bruno, le he dicho muchas veces que no me mande estos comentarios con una dirección de Internet. Lea (otra vez) las normas para los comentarios en mi blog: ese tipo de comentarios está prohibido. Y no me diga que me los manda para informarme: no se preocupe, estoy bien informado.
La computadora K de Japón (que solía ser la supercomputadora más rápida del mundo) utilizó 82.000 procesadores para simular la actividad del cerebro humano.
ResponderEliminarToda la supercomputadora tardó 40 minutos en simular solo 1 segundo de actividad cerebral. Acaba de salir esta noticia preocupamente . que opina?
La noticia está, por ejemplo, aquí: https://www.abc.es/ciencia/20130812/abci-segundo-actividad-cerebral-201308121210.html
EliminarTenga en cuenta lo siguiente:
1. El superordenador se programó con un programa que simula una neurona.
2. Se pusieron en funcionamiento 1730 millones de copias de esta neurona simulada (o sea, el mismo programa se ejecutó 1730 millones de veces).
3. Los 1730 millones de neuronas se conectaron entre sí aleatoriamente mediante sinapsis simuladas (de cada neurona salían unas 10000 conexiones).
4. Se ejecutó la simulación durante 40 minutos.
Ahora bien:
a) Como son demasiados programas para que incluso un superordenador los ejecute realmente en paralelo, una parte se ejecutó en paralelo y el resto en serie, simulando una ejecución en paralelo.
b) Se calcula que, si la ejecución se hubiera hecho realmente en paralelo, la ejecución que duró en realidad 40 minutos se podría haber realizado en un segundo.
c) Llamar a esto "simular el cerebro humano" es un abuso del lenguaje. Las neuronas simuladas no son idénticas a las neuronas humanas. Las sinapsis simuladas no son idénticas a las sinapsis humanas. Y la forma de conectar las neuronas unas con otras era aleatoria (en el cerebro no lo es). Finalmente, aunque sabemos perfectamente lo que ocurre en las neuronas simuladas, no sabemos casi nada de lo que ocurre en las neuronas y el cerebro humano.
La noticia, por lo tanto, no es preocupante.
Ok gracias por la aclaracion,es lo de siempre ver inteligencia en todas partes y la obsecion cientifista de denigrar al hombre tambien . yo por eso estoy siguio su pagina, razon y fe de javier sanchez cañizares y razon abierta que tambien me parece interesante
ResponderEliminarJustamente ayer tuve un coloquio en el Foro Omnes con Javier Sánchez Cañizares sobre este tema: ¿Qué nos hace humanos ante la inteligencia artificial?
Eliminarhttps://www.youtube.com/watch?v=BYgT120L22E
Que tipo de inteligencia es este robot?.https://www.google.com/amp/s/www.xataka.com/robotica-e-ia/amazon-astro-caracteristicas-precio-ficha-tecnica/amp
ResponderEliminarEn diciembre publicaré un artículo sobre este tema, pero le puedo adelantar esto: la inteligencia artificial fuerte es imposible hoy día, y no va a llegar durante el siglo XXI. Tranquilícese.
Eliminarhttps://www.abc.es/opinion/abci-alvaro-matud-juristo-segunda-ilustracion-202111231449_noticia.html?ref=https%3A%2F%2Ft.co%2F esto tiene que ver con acercar la ciencia a las humanidades eso tiene que ver con la compatibilizarla con la espiritualidad?
ResponderEliminarNo necesariamente, pero podría ser un primer paso.
EliminarEn cuanto a la Ilustración, tan alabada, lea este artículo en mi blog: El mito de la Ilustración