El imperio de la mentira

Abraham Lincoln

The same post in English

A Abraham Lincoln se le atribuye esta frase:

Se puede engañar a algunas personas todo el tiempo. Se puede engañar a todo el mundo durante algún tiempo. Pero no se puede engañar a todo el mundo todo el tiempo.

Cuando yo era joven se decía que, si a un político se le pillaba en una mentira, tenía que dimitir, porque había engañado al pueblo. Por entonces, esto era cierto. Entre los políticos más famosos que dimitieron durante esos tiempos por haber mentido se pueden mencionar John Profumo, ministro del Reino Unido, en 1963, y a Richard Nixon, presidente de los Estados Unidos, en 1974.

Estas cosas ya no son así. Hoy los políticos que dimiten cuando se les pilla mintiendo no son la regla, sino la excepción. Muchos políticos mienten cada vez que hablan a sabiendas de que todo el mundo sabe que mienten, y no les importa lo más mínimo. Es una muestra del descrédito en que ha caído el concepto de la verdad, uno de los criterios más importantes de la historia, no sólo para la política, sino para la ciencia y todas las formas del pensamiento humano.

Pero aquí no voy a hablar de las mentiras de los políticos, sino de ese campo de la tecnología informática mal llamado inteligencia artificial. En otro artículo de este blog expliqué cómo funcionan los programas de generación de lenguaje natural como ChatGPT, que se limitan a añadir una y otra vez al texto generado hasta ese momento una de las palabras más frecuentes que suelen seguir a una frase dada. Estos programas contestan a las preguntas que se les hacen con textos notoriamente parecidos a los que escribimos los seres humanos, pero ¿hay algo de verdad en lo que nos dicen? Y si no lo hay, ¿nos importa? ¿O reaccionamos ante la mentira como los políticos a los que me he referido en los primeros párrafos de este artículo?

Contaré aquí una anécdota personal. A principios de 2023, un amigo mío describió un cuento de ciencia-ficción, de cuyo argumento se acordaba, pero no del título ni del autor. Como por entonces ChatGPT estaba en auge, para ver si podía averiguar los datos que faltaban, y para probar la eficacia de los programas de generación de lenguaje natural como alternativa a los buscadores, le hice la siguiente pregunta: Busco una historia de ciencia ficción donde la enfermedad y el envejecimiento hayan terminado, pero no la muerte accidental. Todo el mundo se vuelve extremadamente consciente de la seguridad al principio, pero la gente se aburre y se afianza una tendencia de asumir riesgos extremos, que incluye el combate mortal uno contra uno. ¿Sabes qué historia es esta y quién la escribió?

Esta fue la contestación de ChatGPT: La historia de ciencia ficción a la que te refieres es "The Rollercoaster Tycoon" de Vernor Vinge, publicada por primera vez en 1995 en la antología "A Good Old-Fashioned Future". En la historia, los humanos lograron la inmortalidad biológica y erradicaron la enfermedad y el envejecimiento, pero la muerte accidental sigue siendo una posibilidad. Esto conduce a una cultura obsesionada con la seguridad y la aversión al riesgo, que finalmente se convierte en una tendencia de extrema toma de riesgos e incluso violencia. El protagonista, un diseñador de montañas rusas, se ve atrapado en esta tendencia mientras intenta crear el viaje más emocionante.

A continuación, decidí investigar el asunto utilizando el buscador de Google y otros medios. Descubrí esto:

1. Vernor Vinge es un autor de ciencia ficción, pero no parece haber escrito el cuento ni la antología mencionados por ChatGPT.
2. La colección A good old fashion feature fue escrita por Bruce Sterling y se publicó en 1999, no en 1995.
3. El cuento The Rollercoaster Tycoon no está en esa antología.
4. Rollercoaster Tycoon es un videojuego desarrollado en 1999 por Chris Sawyer.

Como se ve, las respuestas de ChatGPT no tienen relación con la verdad. No tienen por qué tenerlo, si recordamos el método que emplea para generarlas. Pero mucha gente se las cree a pies juntillas, porque no se toman la molestia de comprobarlas. Es cierto que ChatGPT no miente, porque no tiene conciencia de estar mintiendo, y por tanto no hay intención de engañar. Es un programa informático que se limita a hacer aquello para lo que ha sido programado. Eso le diferencia de los políticos.

Desde la publicación de estos programas se ha hablado mucho de que estamos a punto de avanzar enormemente en el camino hacia la inteligencia artificial de verdad, la que permitiría construir robots autoconscientes con inteligencia semejante a la humana. Hoy parece que estas exageraciones se van desinflando.

Pero de eso hablaremos en el artículo siguiente.

Hilo Temático sobre Inteligencia Natural y Artificial: Anterior Siguiente

Manuel Alfonseca