Los chinos y la inteligencia artificial

Wolfgang von Goethe

The same post in English

Los medios de comunicación se han hecho eco de un avance reciente que ha tenido lugar entre los LLM (grandes modelos de lenguaje), las aplicaciones de moda en el campo de la Inteligencia Artificial, que en los últimos dos años han dado lugar a grandes exageraciones, sospechas de estancamiento y acusaciones de gastos excesivos de energía y agua.

Este último avance lo ha conseguido una empresa china, DeepSeek, que ha saltado a la primera línea porque compite con éxito con las grandes empresas del ramo, OpenAI (que construyó ChatGPT y GPT4) y Google (con GEMINI), pero a un coste menor.

Hay ahora muchas herramientas de este tipo, pero las dos mencionadas en el párrafo anterior (GEMINI y GPT4) proporcionaban las mejores prestaciones, a costa de ser las más caras. Su código es secreto, propiedad de las dos empresas (Google y OpenAI) y los usuarios no pueden modificarlo. Al lado de ellas, han surgido otras, con código abierto, lo que permite adaptarlo a cada usuario, pero con prestaciones menores.

Inteligencia computacional y consciencia

Eduardo César Garrido Merchán

The same post in English

En los últimos años ha habido avances considerables en inteligencia artificial, especialmente en el campo de la generación automática de textos e imágenes que a veces compiten con éxito con las producciones humanas. Ante esto, los medios, e incluso algunos científicos, han lanzado las campanas al vuelo anunciando que estamos a punto de crear inteligencias artificiales conscientes, que competirían con los seres humanos como iguales nuestros. Pero otros piensan que ese objetivo, si fuera posible (lo que no está claro), está mucho más lejos de lo que algunos piensan.

En un artículo firmado por Eduardo César Garrido Merchán y Sara Lumbreras y publicado en la revista philosophies con el título Can Computational Intelligence Model Phenomenal Consciousness, los autores revisan la analogía de Bertrand Russell, que sostiene que la consciencia y la inteligencia están íntimamente correlacionadas. O sea, que cualquier ente que posea consciencia poseerá también un alto nivel de inteligencia, y viceversa. En cierto modo, esta analogía es semejante a la Prueba de Turing, mucho más conocida.

¿Se desinfla la investigación en generadores de lenguaje?

John McCarthy

The same post in English

Parece como si el sino de ese campo de la tecnología informática mal llamado inteligencia artificial fuese alternar entre el optimismo excesivo y el pesimismo desatado. Veamos un esbozo de la historia de esta tecnología:

1. En el curso de verano del Dartmouth College, en 1956, se propuso el nombre de inteligencia artificial para los programas de ordenador que realizaran tareas que tradicionalmente se habían considerado exclusivamente humanas, como jugar al ajedrez y traducir de una lengua humana a otra. Los asistentes, dirigidos por John McCarthy, lanzaron las campanas al vuelo y predijeron que en diez años se habrían resuelto esos dos problemas. Esperaban que para 1966 habría programas capaces de ganar al campeón del mundo de ajedrez, y otros que podrían traducir perfectamente entre dos lenguas humanas cualesquiera. Cuando esos objetivos no se consiguieron tan pronto, la investigación en inteligencia artificial se detuvo. En las universidades, los temas de investigación en este campo estaban mal vistos, porque se pensaba que no tenían futuro.

El imperio de la mentira

Abraham Lincoln

The same post in English

A Abraham Lincoln se le atribuye esta frase:

Se puede engañar a algunas personas todo el tiempo. Se puede engañar a todo el mundo durante algún tiempo. Pero no se puede engañar a todo el mundo todo el tiempo.

Cuando yo era joven se decía que, si a un político se le pillaba en una mentira, tenía que dimitir, porque había engañado al pueblo. Por entonces, esto era cierto. Entre los políticos más famosos que dimitieron durante esos tiempos por haber mentido se pueden mencionar John Profumo, ministro del Reino Unido, en 1963, y a Richard Nixon, presidente de los Estados Unidos, en 1974.

Estas cosas ya no son así. Hoy los políticos que dimiten cuando se les pilla mintiendo no son la regla, sino la excepción. Muchos políticos mienten cada vez que hablan a sabiendas de que todo el mundo sabe que mienten, y no les importa lo más mínimo. Es una muestra del descrédito en que ha caído el concepto de la verdad, uno de los criterios más importantes de la historia, no sólo para la política, sino para la ciencia y todas las formas del pensamiento humano.

Singularidades

Hal 9000, de la película
2001, una odisea del espacio

The same post in English

La singularidad es un concepto matemático (que el diccionario de la RAE no recoge) que se aplica a una función de una variable que alcanza un valor infinito para uno o varios valores finitos de su variable independiente.

Por ejemplo, la función y=1/x presenta una singularidad para x=0, pues suele decirse que 1 dividido por cero es igual a infinito.

Información e inteligencia

The same post in English

La arquitectura de Von Neumann, que se aplica a casi todos los ordenadores que se han construido durante toda la historia de la informática, construye las computadoras a partir de dos partes claramente separadas: la unidad de proceso, en la que se ejecutan las instrucciones, y la memoria, donde se guardan los datos. En consecuencia, casi todos los programas que ejecutamos en nuestros ordenadores se dividen en dos secciones diferentes: el algoritmo (las instrucciones ejecutables) y los datos que constituyen la información aportada al algoritmo (su input).

Una separación tan clara se parece a los dos conceptos que aparecen en el título de este artículo:

Un modelo de ChatGPT

The same post in English

¿Cómo funciona ChatGPT? Supongamos que pasamos por alto por el momento que ChatGPT utiliza una red neuronal artificial, y vamos a representar su algorimo de la manera tradicional. Dicho algoritmo se puede dividir en dos partes:

1. Entrenamiento: se le proporcionan datos (archivos de texto), que se utilizan para construir dos conjuntos de datos:
1. Una lista de todas las palabras que aparecen en el conjunto de todos los textos, sin repetición, pero sin importar su orden ni el número de veces que aparece cada una.
2. Una matriz de índices a la lista de palabras, que informa sobre el número de veces que aparece una palabra determinada a continuación de una serie de palabras. Por ejemplo, si en los textos aparece la siguiente serie: viajes en el tiempo, en la matriz aparecerán los índices de las palabras viajes, en, el, y tiempo, seguidos por el índice de la palabra siguiente, seguidos por el número de veces que aparece esa sucesión de cinco palabras en todos los textos utilizados para el entrenamiento.

Ciberética

Norbert Wiener

The same post in English

En 1948, Norbert Wiener creó el término Cibernética para referirse a una nueva tecnología, que definió así:

Ciencia que estudia el control y la comunicación en el animal y en la máquina

La Cibernética tiene mucho que ver con la Robótica y con el uso de ordenadores y microprocesadores para controlar y para comunicarse, es decir, casi todo lo que hacemos con ellos.

Pero de lo que se está hablando mucho ahora mismo, más que de Cibernética, es de Ciberética: de las cuestiones éticas relacionadas con el uso de ordenadores, redes sociales, y casi todas las demás herramientas que la tecnología moderna pone a nuestro alcance.

Un universo en evolución: Divulciencia en forma de libro

The same post in English

CEU Ediciones ha publicado en forma de libro, bajo el título Un universo en evolución, una recopilación de un centenar de artículos publicados en este blog a lo largo de nueve años y ordenados temáticamente. Estos son los títulos de los quince capítulos:

1. Introducción (3 artículos)
2. El principio (5 artículos)
3. El modelo cosmológico estándar (9 artículos)
4. El problema del ajuste fino y las teorías del multiverso (7 artículos)
5. El problema del tiempo (7 artículos)
6. La vida en la Tierra y en otros mundos (3 artículos)
7. La evolución de la vida (7 artículos)
8. El hombre (5 artículos)
9. Inteligencia natural y artificial (7 artículos)
10. Vida sintética y vida artificial (3 artículos)
11. El futuro del hombre (8 artículos)
12. El fin del hombre y del universo (4 artículos)
13. Ciencia, fe y ateísmo (14 artículos)
14. Sobre la ciencia en general (17 artículos)
15. Conclusión (1 artículo)

Otra conversación con ChatGPT

The same post in English

Como dije en el artículo anterior, el pasado mes de enero realicé dos sesiones con ChatGPT de OpenAI. En la segunda, mis preguntas se dirigieron a los siguientes temas científicos:

• La teoría especial de la relatividad, el límite de la velocidad de la luz en el vacío, y la posibilidad de viajar en el tiempo.

A lo largo de la sesión fui haciendo las siguientes preguntas:

1. ¿Puede una partícula viajar a una velocidad mayor que la de la luz?

Respuesta: Según la teoría de la relatividad, descrita por primera vez por Albert Einstein, nada con masa puede viajar a la velocidad de la luz...

Una conversación con ChatGPT

The same post in English

El pasado mes de enero decidí poner a prueba la Inteligencia Artificial de moda, ChatGPT de OpenAI. Para ello realicé dos sesiones independientes (ignoro si el programa las conectó entre sí), en las que mis preguntas se dirigieron a los siguientes temas científicos:

• La primera sesión la enfoqué con una serie de preguntas sobre la teoría general de la relatividad, las teorías cosmológicas, y el modelo cosmológico estándar.
• La segunda la dediqué a la teoría especial de la relatividad, el límite de la velocidad de la luz en el vacío, y la posibilidad de viajar en el tiempo.

Después de la primera sesión, mis conclusiones son las siguientes:

Descarga de la consciencia

The same post in English

Si pudiéramos descargar nuestra consciencia en un ordenador o en un robot, seguiríamos viviendo indefinidamente dentro de él y, por lo tanto, alcanzaríamos la inmortalidad. Esto es lo que sostienen algunos futurólogos y los partidarios del transhumanismo. Pero ¿hay alguna posibilidad de que esto llegue a hacerse realidad?

Si esto fuera posible, por añadidura, se podrían mantener copias de seguridad. Así, en caso de accidente, se podría recuperar al difunto y volver a ponerle en funcionamiento con una pérdida de memoria mínima. Como de costumbre, la ciencia-ficción ya se había adelantado, como en la novela de Cory Doctorow Down and out in the Magic Kingdom.

Ciencia y odio a la religión: una anécdota personal

John McCarthy

The same post in English

Desde 1995, Internet se ha convertido en una herramienta casi indispensable para mucha gente. Nuestra sociedad depende cada vez más de la red mundial de datos, lo que significa que somos cada vez más vulnerables. Una llamarada solar, un gran meteorito, una sobrecarga de las redes de energía, una guerra importante, pueden poner en peligro nuestra estructura social, dejándonos sin Internet.

A finales de los años ochenta, Internet era sólo una red incipiente que ligaba entre sí a empresas privadas con cualquier hardware y software. De hecho, era una entre las muchas redes que competían por el nuevo nicho ecológico-social. Una de las más importantes de esas redes era BITNET, que unía a todas las universidades de América del Norte que utilizaban ordenadores de IBM. Después se creó una red paralela en Europa que recibió el nombre de EARN, que no tardó en conectarse con BITNET.

¿Seremos capaces de construir seres conscientes?

The same post in English

Utilizo el término seres conscientes, porque el de máquinas conscientes tiene connotaciones materialistas que no comparto, y el de inteligencia artificial está quemado, por el abuso que los medios generalistas suelen hacer de él.

Antes de entrar en materia quiero hacer unas aclaraciones previas:

1. Ya somos capaces de construir seres conscientes: nuestros hijos. Cuatro mil millones de años de evolución han llevado a la aparición de unos seres (nosotros) dotados de autoconsciencia y capaces de reproducirse. Se trata de un proceso natural, que no hemos desarrollado nosotros mismos, sino que nos ha venido dado desde antes de nuestra existencia. Cuando se plantea una pregunta como la del título de este artículo, usualmente se interpreta así: ¿seremos capaces de construir seres conscientes artificiales, construidos por medios diferentes de los naturales, ideados y desarrollados exclusivamente por nosotros mismos?

¿Inteligencia artificial o algoritmos informáticos?

John MacCarthy

The same post in English

Hablar de inteligencia artificial está de moda. Cada vez es más frecuente la aparición de este término en los medios de comunicación. Se suele usar cuando se quiere hablar de una aplicación informática que se comporta de un modo que a algunos les parece inteligente. Pero ¿realmente lo es? ¿O estamos asistiendo a un desplazamiento de sentido, a la aplicación de un término con más gancho a algo que realmente no es nuevo?

El término inteligencia artificial lo inventó John MacCarthy en 1956, con ocasión de un seminario que tuvo lugar en el Dartmouth College de Hanover, U.S.A. Por entonces se hicieron predicciones exageradas de los avances inminentes que se podían esperar en este campo, algunos de los cuales aún no se han cumplido de forma totalmente satisfactoria después de 65 años. Ahora las predicciones son mucho más ambiciosas, pero es muy probable que ninguna se cumpla a corto plazo, y que algunas no lleguen a cumplirse nunca.

Consciencia, auto-consciencia e inteligencia artificial

Ramón López de Mántaras

The same post in English

En un artículo publicado en ConectaIndustria el 22/3/2021, se atribuyen estas palabras a Josu Bilbao, responsable del área TIC de IKERLAN:

En tres años, la inteligencia artificial permitirá un diálogo inteligente con las máquinas

Predicciones parecidas hemos visto muchas desde que hace más de 60 años se inventó el término Inteligencia Artificial (IA). En la mayor parte de los casos (por no decir todos) las predicciones han sido demasiado optimistas. ¿Va a ocurrir lo mismo con estas?

Consulté al respecto con uno de los mayores expertos mundiales en el campo del análisis automático del lenguaje natural, técnica que se utiliza para realizar el tipo de aplicaciones a las que se refiere el artículo que comento, y me dijo esto:

Depende de cómo se defina "diálogo inteligente". Si se restringe a un dominio concreto, por ejemplo, al control de los sistemas de automatización de tu casa utilizando Google Home, eso ya se puede hacer con una tasa de éxito superior al 70%, algo que hace diez años era ciencia ficción. Si quieres tener una conversación filosófica en la que tu interlocutor entienda lo que está diciendo, en vez de ir generando textos a partir de un modelo de lenguaje, es demasiado optimista.

Las reglas de oro de la ciencia-ficción y mi propia obra

Isaac Asimov

The same post in English

Estas son, según Isaac Asimov, las dos reglas de oro de la buena literatura de ciencia-ficción:

1.      Cualquier afirmación científica (incluso una predicción) debe ser compatible con la ciencia actual. No sería, por tanto, buena ciencia-ficción una novela en la que se consiguiera la cuadratura del círculo con regla y compás, porque se ha demostrado matemáticamente que es imposible. O viajar por el espacio a velocidad mayor que la de la luz, sin hacer referencia a algún truco científico que permita conseguirlo, como podría ser el paso al mundo de los taquiones. O cometer errores científicos evidentes, como hizo Joan Manuel Gisbert en El Misterio de la Isla de Tökland, como mencioné en otro artículo.

2.      Predecir consecuencias sociales es mejor que predecir adelantos técnicos. Así, en una novela hipotética escrita en el siglo XIX, mejor que limitarse a predecir el automóvil sería predecir el problema del aparcamiento. Un ejemplo de este tipo de buena ciencia-ficción, que Asimov menciona a este respecto, es el cuento de Robert Heinlein Solución Insatisfactoria, escrito en 1941, que no sólo predijo la bomba atómica como medio para acabar la segunda guerra mundial (en la que los Estados Unidos aún no tomaban parte), sino que también predijo el equilibrio posterior entre las grandes potencias y la amenaza permanente de una guerra de exterminio.

Para ser exacto, estas dos leyes son elaboraciones mías de lo que escribió Asimov en dos artículos de divulgación publicados en The Magazine of Fantasy and Science Fiction: Future? Tense! (1965) y O Keen Eyed Peerer into the Future (1974). Para ser más exacto aún, las leyes de Asimov eran tres y, recordando sus tres leyes de la Robótica, las llamó las tres leyes de la Futúrica.

Ciencia y Ciencia-Ficción: influencias mutuas en el siglo XX

H.G. Wells

AVISO para los que os habéis suscrito a las publicaciones de este blog por correo electrónico: Google ha anunciado el fin de "feedburner", su servicio de aviso, que era el que utilizaba este blog. A partir de ahora se utilizará otro servicio, el de "follow.it". Es posible que al principio recibáis dos avisos, uno de cada servicio. 

The same post in English

A caballo entre los siglos XIX y XX, el británico H. G. Wells abordó también la literatura de predicción científica, aunque sus predicciones suelen ser a plazo más largo que las de Verne y más alejadas de la técnica de su tiempo, por lo que muy pocas se han cumplido. Seguimos sin tener La Máquina del Tiempo y no vemos posibilidades de tenerla. No podemos fabricar hombres artificiales por vivisección de animales (La Isla del Doctor Moreau). Tampoco podemos hacernos invisibles (El hombre invisible). Y afortunadamente no nos han invadido los marcianos (La guerra de los mundos). En 1938, una dramatización radiofónica de esta novela realizada por Orson Welles provocó un pánico colectivo en los Estados Unidos. A pesar del auge que por entonces ya tenía la ciencia-ficción, el público seguía tan crédulo como cuando un siglo antes se dejó engañar por los artículos del Sun.

Wells también (cómo no) escribió sobre un viaje a la luna y pobló nuestro satélite de hormigas gigantes inteligentes, aunque la forma de realizar el viaje es más imaginativa y tan impracticable como la de Verne. Pero su gran éxito de previsión científica es la novela The World set free (El mundo se liberta, 1913), que no sólo anticipó la bomba atómica, sino que influyó en su realización práctica, estimulando las investigaciones de Leo Szilard sobre la reacción en cadena de neutrones. Aunque también es verdad que Wells cometió en esta novela un fallo impresionante, pues predijo en 1913 que la Primera Guerra Mundial empezaría en 1956. Pero como él mismo dijo al respecto, algunos años más tarde: Siempre he sido un profeta un poco lento. Para más detalle, aquí está mi crítica de este libro en Goodreads.

Redes neuronales artificiales

Perceptrón

The same post in English

Una de las aplicaciones más antiguas de la inteligencia artificial se basa en la simulación de las células nerviosas de los animales (neuronas). Las redes neuronales están formadas por muchas componentes interconectadas, y son capaces de cierta actividad computacional, aunque las neuronas que componen estas redes suelen estar bastante simplificadas, en comparación con las que forman parte del sistema nervioso humano y de otros animales.

Este tipo de aplicaciones ha sido objeto de múltiples exageraciones y previsiones insólitas. Se ha dicho que estas redes son capaces de resolver los problemas más difíciles, los problemas NP-completos, como el del viajante de comercio, y otros parecidos. Un programa normal sólo puede resolver esos problemas en un tiempo que crece exponencialmente en función de su tamaño, mientras que una red neuronal puede resolverlos en un tiempo breve. Y hasta cierto punto esto es verdad, siempre que tengamos en cuenta que la solución obtenida no es necesariamente la mejor, sino tan sólo una aproximación, que a menudo es suficiente para nuestras necesidades.

Censura algorítmica y diversidad en la investigación científica

The same post in English

Manuel Cebrián

Manuel Cebrián, que empezó trabajando en USA en el MIT, y después de un largo periplo que le llevó a la costa oeste de los Estados Unidos y a Australia volvió al MIT y ahora está en Berlín, se hizo famoso gracias a haber ganado dos importantes competiciones organizadas por el gobierno de los Estados Unidos, relacionadas con el uso de las redes sociales para resolver problemas más o menos complejos:

• DARPA Network Challenge (2009), que ofrecía 40.000 dólares de recompensa al primer equipo que consiguiera descubrir, en menos de 8 horas, dónde se habían colocado quince globos rojos, distribuidos por distintas localidades de los Estados Unidos por personal del Pentágono, utilizando para ello una red social de creación propia, organizada durante el mes anterior al día de la competición. A pesar de que recibieron numerosas noticias de avistamientos falsos (fake news) el equipo de Cebrián consiguió ganar la competición, en la que participaron más de 9000 equipos.
• DoS Tag Challenge (2012), que ofreció 5000 dólares de recompensa al equipo que consiguiera localizar a cinco actores, identificados por su fotografía, que representaban a cinco criminales sospechosos que permanecerían visibles durante 12 horas en cinco ciudades europeas y estadounidenses: Nueva York, Washington, Londres, Bratislava y Estocolmo. Aunque sólo consiguieron localizar a tres de los cinco sospechosos, el equipo de Cebrián ganó de nuevo la competición, a pesar de la competencia poco ética de alguno de los otros equipos participantes, que llegó a copiar su web para engañar a posibles informantes, haciéndoles enviar la información a la web de un grupo diferente.