 |
| Alan Turing |
En 1950, el matemático y químico
inglés Alan Turing intentó definir las condiciones en las que sería posible
afirmar que una máquina es capaz de pensar como nosotros. Para Turing, esto se
conseguirá cuando la máquina sea capaz de engañar a los seres humanos,
haciéndoles pensar que es uno de ellos. Esta prueba se llama el juego de la imitación. He hablado de esto
en un
artículo anterior de este blog.
En 1956, Arthur Samuel, de IBM,
construyó un programa para jugar a las damas que guardaba información sobre el
desarrollo de las partidas que jugaba y la utilizaba para modificar sus jugadas
futuras (es decir, aprendía). En pocos años, tras un número suficiente de partidas,
el programa fue capaz de vencer a su creador y desempeñaba un papel razonable
en campeonatos oficiales.
Ese mismo año, durante un curso
de verano celebrado en Dartmouth College, John McCarthy y otros pioneros de la
informática acuñaron el término inteligencia
artificial y, lanzando las campanas al vuelo, predijeron avances
espectaculares para los diez años siguientes, que no tuvieron lugar en el
tiempo previsto, sino mucho más tarde. De esto también he hablado en otro
artículo.
En 1963, el escritor de
ciencia-ficción Fred Saberhagen publicó el primer cuento de su famosa serie de
los berserkers, fortalezas espaciales autónomas e
inteligentes creadas por una antigua civilización extraterrestre para
exterminar la vida inteligente dondequiera que aparezca en la galaxia. Este
cuento, cuyo título inglés es Without a thought,
es una respuesta a la Prueba de Turing y un mentís a las esperanzas desaforadas
de los inventores del término inteligencia artificial. Este es el
argumento del cuento:
Una nave espacial tripulada por un piloto humano debe
enfrentarse a un berserker, que utiliza contra él ondas mentales que le impiden
pensar. Para comprobar si estas ondas hacen efecto, el berserker le propone
jugar unas cuantas partidas a un juego muy parecido a las damas. Su intención
es descubrir si se está enfrentando a un ser humano, o bien a algún dispositivo
más o menos automático. O sea, el berserker quiere realizar sobre el piloto la
prueba de Turing. Sabiendo que su mente, afectada por las ondas, no va a estar
en condiciones de jugar, el piloto proporciona instrucciones muy detalladas a
un animal manipulado genéticamente que le acompaña a bordo, que al no ser
inteligente es inmune a las ondas mentales, pero que posee la capacidad de obedecer
órdenes al pie de la letra, sin entender lo que hace. Las instrucciones que le
proporciona son tan buenas, que el animal consigue jugar cada vez mejor a las
partidas, con lo que engaña al berserker, realizando correctamente la prueba de
Turing y haciéndole creer que es un ser humano, y por tanto que la nave terrestre
no está inerme (aunque sí lo está), por lo que el berserker no se decide a
atacarla.
El uso por Saberhagen de un animal manipulado es muy ingenioso. Es
evidente que ese animal representa a un ordenador (un ente capaz de ejecutar
instrucciones sin entenderlas), pero el hecho de que no lo sea deja más clara
la situación. El animal no aprende a
jugar a las damas, simplemente ejecuta sus órdenes al pie de la letra.
Pero las órdenes que recibe incluyen elementos de aprendizaje automático que le
permiten jugar cada vez mejor y enfrentarse con éxito al berserker. El hecho de
que las órdenes estén fuera del cuerpo del animal, dibujadas sobre papel y en
forma de bolas metidas en cajitas, hace más claro el paralelo, pues tenemos
tendencia a identificar el ordenador con su programa, simplemente por el hecho
de que el programa está dentro del cuerpo del ordenador (o sea, de su
hardware).
 |
| Fred Saberhagen |
El uso por Saberhagen de un juego parecido a las damas es
significativo, pues es una referencia evidente al programa de Arthur Samuel. Lo
interesante del cuento es que deja
clarísimo que las instrucciones para jugar a las damas y el proceso de aprendizaje que
permite al animal llegar a empatar todas las partidas con el berserker son
parte del mismo programa, y por tanto obra del ser humano que las ha diseñado,
no del animal, que no hace otra cosa que obedecer lo que le mandan. La inteligencia es del programador, no
del ejecutor de las instrucciones.
Dicho con otras palabras: Saberhagen critica la Prueba de Turing y muestra
que es posible que un ordenador
(o un animalito manipulado genéticamente) tenga
éxito en ella sin ser inteligente, simplemente por haber sido bien
programado. Lo cual es evidentemente cierto.
Vemos ahora lo oportuno del título que puso Saberhagen a su cuento: Sin un solo
pensamiento. Quiere decir que el animal consigue salir bien
librado de la prueba de Turing sin
haber tenido un solo pensamiento. Luego la prueba de Turing no
demuestra en realidad la inteligencia de los ordenadores, sino la de sus
programadores.
Hilo Inteligencia natural y artificial: Anterior Siguiente
Manuel Alfonseca
Agradezco a Fonch, que me recomendó leer este
cuento.
Hola. Ante todo deseo darle las gracias al Profesor Alfonseca por este magnífico articulo, y por la nota de agradecimiento, con la que me ha obsequiado. Necesitaba este empujón, porque hoy tenía un examen de inglés y estaba muy muy preocupado. Además estoy muy contento de que le haya gustado tanto la historia, que le recomendé. Me gustaría dar las gracias públicamente, aunque ella no me conoce a Sandra Miesel, y a la editorial Ignatius Press, porque gracias a un link de la propia Sandra Miesel llegue a conocer a Fred Saberhagen, y a otros escritores de ciencia ficción, y fantasía católicos. Comparto el enlace con vosotros http://www.ignatiusinsight.com/features2005/smiesel_sfintervw1_mar05.asp En Comic Castilla tuve la oportunidad de comprar unas historias de Fred Saberhagen sobre sus famosas guerras Berserkers editadas en la editorial Edoria, que enfrentaban a los humanos con unas máquinas llamadas los Berserkers. Suele ser raro, que en un antología de relatos cortos todos o casi todos los relatos fuesen buenos. Salvo uno que no me gusto. Conociendo la pasión, que el Profesor Alfonseca y yo compartimos por los escritores de ciencia ficción y fantasía católicos se lo recomendé entusiásticamente. Cuando finalmente decidió leerlo le impresionó mucho este relato. A mí me gusto, pero no fui consciente de su importancia hasta que mi amigo me lo contó. Este escritor también en esa colección tenía relatos, que homenajeaban la victoria de Lepanto, dónde aparecían personajes que homenajeaban a Felipe II (aunque por desgracia aquí Saberhagen se dejo llevar por la leyenda negra y no fue fiel a la realidad histórica), aunque si lo fue cuando invento a Mitchell Spain (Cervantes), y a su héroe Johann Karlsen (Inspirado en Don Juan de Austria, quizá junto con "Jeromín" del Padre Coloma, y "El último Cruzado" de Louis de Wohl sea el mejor retrato, que se haya hecho de Don Juan de Austria). A parte de eso a este maravilloso autor de ascendencia noruega le he leído la interesantísima "Pirámides", y otra novela del ciclo de las "Guerras Berserker", que estoy intentando que mi amigo el Profesor Alfonseca lea, llamada "Hermano Asesino" que habla sobre uno de los asuntos más controvertidos y tormentosos en la relación entre ciencia y fe. El asunto Galileo, y es muy interesante la respuesta, que da a este asunto Saberhagen. No descarto, que ciertamente escriba otro artículo el Profesor Alfonseca inspirado en otra historia de este escritor. A parte de esto Saberhagen escribió novelas de Fantasía como su ciclo de las espadas, y novelas sobre el Conde Drácula, que dan una vuelta de tuerca al mito, siendo Drácula el bueno, y sus enemigos o muy malos o muy tontos (algo que por cierto también hizo Kim Newman con "Anno Drácula"), y que inspiró la película de Drácula de Bram Stoker de Francis Ford Copolla. Aprovecho el altavoz, que me ofrece mi amigo el Profesor Alfonseca, para animar a que se editen el resto de las obras de Fred Saberhagen en español. También aprovecho para darle las gracias a mi amigo por el agradecimiento (por fin he hecho mi pequeña contribución al mundo de la ciencia). En cuanto al asunto de Turing cuando estaba en el colegio La Salle un profesor hablo de la victoria de una computadora contra Gary Kaspárov, y acertadamente dijo ese profesor, que la computadora le gano, porque otra persona le dio los datos, para que el ordenador pudiese ganar a Gary Kaspárov. Mi conclusión es la misma todavía estamos lejos de que las maquinas desplacen a los seres humanos, y si lo hacen es por la ayuda de un inmenso equipo de seres humanos. Aprovecho finalmente para dar las gracias al Dr. Juan del Río Hortega Bereciartu por permitirme escribir en este blog. Atentamente Fonch. PD. Comparto este enlace en mi cuenta de twitter, y en mi cuenta en Facebook.
ResponderEliminarEntiendo perfectamente que el cuento resulte atractivo ya que el tema que subyace es realmente apasionante. Aún así, no creo que su contenido tenga más valor que las propias cuestiones que plantea (que sí me parecen interesantes).
ResponderEliminarAnalizando partes de su contenido:
- "Para comprobar si estas ondas hacen efecto, el berserker le propone jugar unas cuantas partidas a un juego muy parecido a las damas". El utilizar un juego parecido a las damas para comprobar la "inteligencia o naturaleza" del contrincante es muy pobre. El mismo Turing hace referencia a un test basado en la destreza comunicativa, que sí es una habilidad que requiere un importante esfuerzo cognitivo.
- "el piloto proporciona instrucciones muy detalladas" y "Las instrucciones que le proporciona son tan buenas ...". Estas frases en el ámbito de la inteligencia artificial resultan claves a la hora de realizar un discurso del tema, y sin embargo son tan genéricas y amoldables que cabe todo, y por tanto sirven para muy poco.
- "... realizando correctamente la prueba de Turing". Esta frase, para alguien que haya estudiado mínimamente a Turing, resulta completamente falsa y muy alejada del tipo de test que Turing planteó.
En resumen, el tema apasionante, las cuestiones que plantea son muy interesantes, pero me parece que está tratado con demasiada simplificación y poca rigurosidad (incluso para la inteligencia artificial de hoy en día).
El motivo por el que Saberhagen utiliza un juego parecido a las damas es porque cuando él escribió este cuento las damas era el único juego "inteligente" en el que un programa de ordenador (el de Arthur Samuel) había alcanzado nivel equivalente al de campeón del mundo.
EliminarLa situación que plantea Saberhagen es idéntica a la de la prueba de Turing, solo que al revés. Aquí, una máquina programada (el berserker) intenta averiguar si se está enfrentando a otra máquina, en cuyo caso atacará, o a un ser humano, en cuyo caso debe sacar la conclusión de que los humanos han conseguido desactivar las ondas mentales que deberían inhabilitarlos, y por tanto no se atreve a enfrentarse a ellos, pues quién sabe de qué otras armas dispondrán.
Se trata de un cuento de ciencia-ficción, no de un artículo en una revista de informática, por lo que me parece que sus acusaciones de "demasiada simplificación y poca rigurosidad" no vienen a cuento.
Por otra parte, sigo pensando que el ataque de Saberhagen contra la prueba de Turing expresada en este cuento tiene sentido, incluso para la inteligencia artificial de hoy día, como ya demostró Searle con su experimento mental de la habitación china, al que hice referencia en otro artículo: https://divulciencia.blogspot.com/2017/11/la-prueba-de-turing.html. Lo fundamental no es que un programa realice esta o aquella acción (como en la prueba de Turing) sino en si el programa es consciente de ello o no. En el caso del cuento de Saberhagen esto queda bastante claro, por lo que me reafirmo en todo lo que digo en mi artículo.
Personalmente, como argumento para una novela de ciencia ficción me parece muy acertado, y no es necesario que una novela tenga un rigor científico pleno para que sea capaz de plantear cuestiones interesantes.
ResponderEliminarSin haber leído la novela, estoy de acuerdo con la interpretación de Manuel:
>> Saberhagen critica la Prueba de Turing y muestra que es posible que un ordenador (o un animalito manipulado genéticamente) tenga éxito en ella sin ser inteligente, simplemente por haber sido bien programado.
Lo que no tengo tan claro es qué piensa Saberhagen de la inteligencia del berserker. Es decir, el berserker se deja engañar por un ser no inteligente, que le hace creer que sí es inteligente gracias a que es capaz de ejecutar un ingenioso programa "sin un solo pensamiento". Esto no dice mucho en favor de la inteligencia del berserker...
Dicho de otra manera: los berserker son una raza capaz de gran desarrollo tecnológico, pero su filosofía es bastante pobre.
Sobre el test de Turing he escrito recientemente en mi propio blog, refutándolo desde otro punto de vista diferente al de Searle. Sé que a Manuel le gustó mi argumentación, por lo que pongo aquí el enlace.
https://demaquinaseintenciones.wordpress.com/2018/09/27/el-test-de-turing-revisitado/
En efecto, la inteligencia de los berserker deja bastante que desear, pero ¿no estamos nosotros en la misma situación? Durante más de 30 años (hasta Searle) nadie puso en duda seriamente la prueba de Turing, luego estábamos al mismo nivel que los berserkers. Bueno, sí, algunos la pusieron en duda, como Fred Saberhagen (:-)
EliminarDe todas formas, como ha mencionado Fonch, en otros cuentos Saberhagen hace que los berserkers representen al ejército otomano durante el equivalente a la batalla de Lepanto, así que también pone su inteligencia al nivel humano (:-)
Estoy muy interesado por lo que dice señor Genova. ¿Había leído algo de Fred Saberhagen antes de que escribiese el artículo? La saga de los Berserkers es muy compleja, y tiene varias historias habiendo de todo. Son maquinas, que se sublevaron contra sus amos, y buscan ahora destruir a cualquier forma de vida orgánica. En las historias de los Berserkers hay de todo. Hay Berserkers muy estropeeados, que casi parecen tontos, y hay otros increíblemente ladinos, y astutos. Saberhagen se mueve en el relato corto recopilando varias historias. Hay algunos planes de gran maquiavelismo por ejemplo en "Hermana Asesino" hay un plan para viajar en el tiempo y alterar la historia de tal forma que puedan vencer a sus enemigos sin luchar y los humanos deben viajar al pasado, para que los Berserkers no cambien la historia. Aquí Fred Saberhagen se inspiró sin duda en La Patrulla del Tiempo de Fred Saberhagen. Estoy intentando contactar con una persona, que conoció a Saberhagen y otros escritores de ciencia ficción por medio de una amiga común, pero no creo que lo consiga.
EliminarPerdón corrijo el mensaje. Lo primero quería decir antes de que el Profesor Alfonseca escribiese este artículo, y lo segundo seguramente Fred Saberhagen se habría inspirado en los relatos de "La patrulla del tiempo" de Poul Anderson. PD. Pido disculpas es que hoy me encuentro muy espeso.
EliminarPara Fonch: no, no había leído anteriormente nada de Saberhagen, ni conocía su existencia.
Eliminar