¿Robots humanoides en casa?

The same post in English

Las empresas tecnológicas están invirtiendo cantidades enormes de dinero para desarrollar robots humanoides con la intención de que se les use en el hogar. Una de esas empresas, Figure AI, afirma que la introducción de robots humanoides en el hogar está a punto de revolucionar el cuidado de los ancianos y la realización de tareas rutinarias en casa. Goldman Sachs predice que el mercado de robots humanoides podría suponer unos ingresos de 38.000 millones de dólares hacia 2035.

En un artículo publicado en IEEE Spectrum, Maya Cakmak, de la Paul G. Allen School of Computer Science & Engineering en la Universidad de Washington, describe un estudio que ha realizado junto con sus alumnos sobre la aceptación que tendría la introducción de robots humanoides en el hogar. Su encuesta llevó a la conclusión de que la gente prefiere robots especializados a robots humanoides. Creen que los primeros son más seguros, más privados y más cómodos... Una Roomba para la limpieza, un dispensador de medicamentos para las pastillas, una silla móvil para las escaleras… Los robots humanoides fueron considerados voluminosos e innecesarios, mientras pensaban que los robots especializados eran menos intrusivos y más discretos.

Alucinaciones o engaños

Mis alucinaciones, de August Natterer

The same post in English

Desde que apareció ChatGPT, a finales de 2022, he estado avisando de que las contestaciones que dan los Modelos grandes de lenguaje (LLM, siglas en inglés; me niego a llamar Inteligencia Artificial a estas herramientas) no son de fiar, y deben tratarse con la mayor cautela. A menudo esas contestaciones parecen plausibles y están escritas correctamente desde el punto de vista lingüístico, pero son falsas. Este tipo de respuestas ha recibido el nombre de alucinaciones.

Esto no es extraño. Es una consecuencia lógica del algoritmo que emplean estos programas, que describí en otro artículo de este blog, que yo simulé mediante un programa de sólo 18 instrucciones, y que consiste en ir añadiendo palabras extraídas entre las más frecuentes que siguen a las palabras anteriores, escogidas entre miles de millones de archivos sacados de Internet. Es evidente (basta pensar un poco) que este algoritmo no puede asegurar que las contestaciones que dan estas herramientas sean verdad.

He utilizado varias veces estas herramientas para resolver problemas del siguiente tipo: conozco el argumento de una obra literaria, un cuento o una novela, pero no recuerdo el título o el autor (o ambos), y quiero que la herramienta me ayude a encontrarlos. Formulo la pregunta describiendo el argumento en cuestión y añado el nombre del autor si lo conozco. Cuando la herramienta me ofrece una respuesta, la investigo, para ver si es verdad. Hasta ahora, en el 100% de los casos en que he planteado un problema de este tipo, la respuesta ha sido alucinatoria. Mejor dicho, falsa.

Julio Verne

Voy a contar el último caso: Quería recordar el título de una obra de Julio Verne que leí años atrás, en la que una expedición intenta observar un eclipse de sol. Esta descripción se la proporcioné a GEMINI, el LLM de Google, que me contestó que la obra en cuestión es El rayo verde. Como yo sabía que la contestación era falsa, porque recuerdo bien el argumento de El rayo verde y no hay ningún eclipse, volví a hacer la pregunta cambiando la forma de expresarla, para ver si GEMINI me contestaba otra cosa. Así fue; esta vez me dijo que la obra en cuestión era La caza del meteoro. Como no he leído esta novela de Verne, sabía de entrada que la respuesta podía ser falsa, pero por si Verne hubiera escrito dos novelas con argumentos parecidos, busqué la descripción de esa novela en la Wikipedia, que me confirmó que en ella no hay ningún eclipse de sol.

Decidí entonces investigar por mi cuenta. Como la Wikipedia detalla los títulos de todas las obras de Verne (68 viajes extraordinarios y unas pocas más), fui eliminando las obras cuyo argumento conocía bien y las que no he leído, y entre las que quedaron elegí la que me pareció más probable. Acerté a la primera. La obra en cuestión es El país de las pieles. Pero el fracaso de GEMINI fue absoluto, como lo ha sido el de todas estas herramientas, siempre que les he formulado una pregunta de este tipo.

Se dirá que mis experiencias de uso no son estadísticamente significativas. Cierto. Pero resulta que OpenAI, creadora de ChatGPT, ha realizado un estudio a fondo sobre el tema, y ha llegado a la conclusión de que las alucinaciones son matemáticamente inevitables, y no son fallos técnicos que podrían resolverse mejorando los programas. Véase este artículo reciente en COMPUTERWORLD, que completa este otro artículo en la misma revista, algo más antiguo, que señala que, además de alucinaciones, estas herramientas hacen trampa en diversas circunstancias y se niegan a reconocer que mienten cuando se las pilla, cuyo título es muy significativo: ¿Creías que las alucinaciones de la Inteligencia Artificial generacional eran malas? Pues la cosa es aun peor.

Las noticias de este tipo, que avisan de los peligros de usar herramientas de tipo LLM y creerse a pies juntillas sus respuestas, se mezclan con otras noticias exageradas que anuncian a bombo y platillo que estas herramientas abrirán pronto paso a la inteligencia artificial generalizada, o sea, a las máquinas tan inteligentes (o más) como el hombre. Bastantes expertos niegan que esto vaya a suceder. Algunos llegan a decir que la investigación en LLM puede ser incluso perjudicial para ese otro objetivo, que para muchos ni siquiera va a ser posible, al menos a plazo no muy largo.

Entre tanto, llega la noticia de que en Albania acaban de nombrar ministro a un LLM. Parece que la estupidez e incompetencia de los políticos actuales no tienen límite.

Hablando de la Prueba de Turing, Evan Ackerman escribió esto en 2014, en IEEE Spectrum:

La prueba de Turing no demuestra que un programa sea capaz de pensar. Más bien indica si un programa puede engañar a un ser humano. Y los seres humanos somos realmente tontos. Caemos en todo tipo de trucos que una IA bien programada puede utilizar para convencernos de que estamos hablando con una persona real que puede pensar.

Desgraciadamente, cada día que pasa le damos la razón.

Hilo Temático sobre Inteligencia Natural y Artificial: Anterior Siguiente

Manuel Alfonseca

¿Qué pasa con la materia oscura?

Comparación de las curvas de rotación
observadas y esperadas de la galaxia M33
(Wikipedia)

The same post in English

Hace nueve años publiqué aquí un artículo con el título Materia Oscura o Nueva Teoría. En él señalaba que el movimiento de las estrellas en las galaxias no cuadra con las predicciones teóricas. El problema puede resolverse de dos maneras:

1.      Suponiendo que en las galaxias hay mucha más masa de la que podemos ver. A la que no podemos ver se le dio el nombre de materia oscura, donde la palabra oscura significa que no sabemos lo que es.

2.      Suponiendo que es preciso corregir las leyes de Newton en la parte exterior de las galaxias, donde la aceleración de las estrellas es muy pequeña. Se han propuesto diversas correcciones a las ecuaciones de Newton que resolverían el problema de forma satisfactoria, que reciben el nombre de teorías MOND (MOdified Newtonian Dynamics).

Traidores a la especie humana

The same post in English

El problema de los tres cuerpos es una novela de ciencia-ficción escrita por Liu Cixin, que atrapa al lector y contiene muchos datos sobre la historia china, antigua y moderna. Pero me temo que tergiversa la ciencia. Y mi primera regla de oro de la buena ciencia-ficción es que no se tergiverse la ciencia. Pienso que las tergiversaciones son peligrosas, porque los lectores poco informados pueden llegar a creer que ciertas cosas falsas son verdad.

No me preocupa que se dé por supuesto que la teoría de cuerdas es cierta. Podría serlo, a pesar de que en los últimos años ha perdido bastante empuje. Pero la descripción que da la novela del sistema de tres estrellas de Alfa Centauro no tiene nada que ver con la realidad, a pesar de que esa descripción es crucial para su argumento.

¿Debe Barbie conversar con los niños?

The same post in English

ChatGPT y otras herramientas del mismo estilo, llamadas LLM, por las siglas en inglés de Large Language Models (Modelos Grandes de Lenguaje) van siendo usadas cada vez con más frecuencia en nuestra vida diaria. Google, por ejemplo, ha integrado su herramienta GEMINI con su buscador. Algunas veces, cuando el programa que hay detrás del buscador lo considera conveniente, la pregunta que se le ha hecho es enviada a GEMINI, y la respuesta del LLM aparece en primer lugar, eso sí, con este aviso al final, en letra pequeña:

Las respuestas de la IA pueden contener errores.

Naturalmente que pueden contener errores, puesto que esas respuestas no se generan entendiendo la pregunta, sino a partir de información obtenida previamente de Internet, y aplicando un algoritmo que se basa en la extracción de palabras que suelen aparecer en dicha información después de las palabras anteriormente generadas. Véase un artículo de este blog en el que expliqué ese algoritmo. Puesto que la información extraída de Internet puede ser verdadera o falsa, y el algoritmo puede introducir falsedades nuevas donde no las había, las respuestas obtenidas pueden ser correctas, parcialmente correctas, o completamente erróneas, por lo que el aviso de Google es válido.

Partículas misteriosas

The same post in English

Algunos físicos actúan a veces como si las hipótesis que proponen para explicar los misterios del universo fuesen siempre reales. Pero una hipótesis no es más que una propuesta para explicar un fenómeno natural, y no se puede considerar como una teoría confirmada mientras no haya proporcionado una o más predicciones acertadas sorprendentes. Este último detalle, que es esencial, generalmente se omite.

En 2020 leí dos libros de divulgación sobre cosmología y física de partículas (ambas ramas de la física están muy relacionadas):

¿Puede ser infinita la densidad?

Primera foto
de un agujero negro

The same post in English

La teoría general de la relatividad de Einstein permite que existan objetos con densidad infinita (singularidades). Los hay de dos tipos:

1.      Agujeros negros, acumulaciones de materia en un volumen nulo, ya sea en el centro de una galaxia, o como resultado de una explosión de supernova.

2.      El universo, en su instante inicial (el Big Bang).

Una estrella como el sol está en equilibrio porque la atracción gravitatoria, que tiende a contraerla, es igual a la expansión provocada por las reacciones nucleares que tienen lugar dentro de la estrella. Cuando una estrella mucho más grande que el sol agota el combustible nuclear (primero el hidrógeno, luego el helio, luego otros elementos), al no haber ya reacciones nucleares que detengan la contracción, la estrella sufre una implosión, que al rebotar lanza al espacio grandes cantidades de materia: una explosión de supernova, que durante algún tiempo hace a la estrella más brillante que una galaxia entera. Pero siempre queda un resto de materia, que da lugar a la aparición de un objeto de tipo nuevo.

¿Es infinito el tiempo?

S.Agustín, por Louis Comfort Tiffany
Lightner Museum

The same post in English

Desde la más remota antigüedad, el hombre se ha interesado por el enigma del tiempo. Porque el tiempo, a pesar de que todos lo experimentamos, es un enigma. Ya lo dijo San Agustín en sus Confesiones (L.XI C.XIV): ¿Qué es, pues, el tiempo? Si nadie me lo pregunta, lo sé; pero si quiero explicárselo al que me lo pregunta, no lo sé.

Como dije en otro artículo, las explicaciones ideadas para resolver el enigma del tiempo se dividen en dos: las que lo consideran cíclico, con o sin repeticiones múltiples, lo que permitiría representar geométricamente el paso del tiempo mediante un círculo, y las que lo consideran lineal, que lo representan mediante una línea recta. A su vez, este último caso se divide en varios: se puede admitir, o no, que el tiempo tuvo principio; y se puede admitir, o no, que habrá un momento final del tiempo. Combinando estas dos alternativas, tenemos cuatro casos diferentes. En total suman seis posibilidades, que vamos a analizar a la luz de la cosmología moderna:

¿Es infinito el espacio?

Georg Cantor

The same post in English

Según Georg Cantor, uno de los primeros en estudiar a fondo los infinitos, no hay un solo concepto de infinito, sino tres diferentes. Veamos cómo lo expresa:

El infinito actual surge en tres contextos: primero, cuando se realiza en la forma más completa en un ser de otro mundo completamente independiente, in Deo; ahí lo llamo el Infinito Absoluto o simplemente lo Absoluto. Segundo, cuando ocurre en el mundo contingente, creado. Tercero, cuando la mente lo capta in abstracto como una magnitud matemática, un número o un tipo de orden. Quiero plantear un marcado contraste entre lo Absoluto y lo que llamo lo Transfinito, es decir, los infinitos de los dos últimos tipos, que son claramente limitados, sujetos a seguir creciendo y, por lo tanto, relacionados con lo finito. (Georg Cantor, Gesammelte Abhandlungen, Springer, 1980, Ensayos recopilados en español).

El origen de los eucariotas

John Maynard Smith

The same post in English

Como he dicho varias veces en este blog, la teoría de la evolución está bien establecida. Sin embargo, está lejos de explicarlo todo. Aún quedan muchos misterios. En un artículo anterior enumeré algunos. Un libro de J. Maynard Smith y E. Szathmáry, The Major Transitions in Evolution (Oxford University Press, 1995) los describe con más detalle.

Uno de esos problemas tiene que ver con los cambios de nivel que han tenido lugar en la historia de la vida, que convertí en la idea central de mi libro El Quinto Nivel de la Evolución. Como implica su título, a lo largo de la evolución las cosas no han sucedido de forma ordenada y estable. En varios puntos se han producido cambios de estado (al estilo de los de la física) en los que la evolución atravesó un punto crítico que le permitió alcanzar niveles superiores que abrieron campos de desarrollo enormes en el espacio de configuración. Esos puntos son los siguientes: