jueves, 8 de noviembre de 2018

Fred Saberhagen contra la Prueba de Turing


Alan Turing
En 1950, el matemático y químico inglés Alan Turing intentó definir las condiciones en las que sería posible afirmar que una máquina es capaz de pensar como nosotros. Para Turing, esto se conseguirá cuando la máquina sea capaz de engañar a los seres humanos, haciéndoles pensar que es uno de ellos. Esta prueba se llama el juego de la imitación. He hablado de esto en un artículo anterior de este blog.
En 1956, Arthur Samuel, de IBM, construyó un programa para jugar a las damas que guardaba información sobre el desarrollo de las partidas que jugaba y la utilizaba para modificar sus jugadas futuras (es decir, aprendía). En pocos años, tras un número suficiente de partidas, el programa fue capaz de vencer a su creador y desempeñaba un papel razonable en campeonatos oficiales.
Ese mismo año, durante un curso de verano celebrado en Dartmouth College, John McCarthy y otros pioneros de la informática acuñaron el término inteligencia artificial y, lanzando las campanas al vuelo, predijeron avances espectaculares para los diez años siguientes, que no tuvieron lugar en el tiempo previsto, sino mucho más tarde. De esto también he hablado en otro artículo.
En 1963, el escritor de ciencia-ficción Fred Saberhagen publicó el primer cuento de su famosa serie de los berserkers, fortalezas espaciales autónomas e inteligentes creadas por una antigua civilización extraterrestre para exterminar la vida inteligente dondequiera que aparezca en la galaxia. Este cuento, cuyo título inglés es Without a thought, es una respuesta a la Prueba de Turing y un mentís a las esperanzas desaforadas de los inventores del término inteligencia artificial. Este es el argumento del cuento:

Una nave espacial tripulada por un piloto humano debe enfrentarse a un berserker, que utiliza contra él ondas mentales que le impiden pensar. Para comprobar si estas ondas hacen efecto, el berserker le propone jugar unas cuantas partidas a un juego muy parecido a las damas. Su intención es descubrir si se está enfrentando a un ser humano, o bien a algún dispositivo más o menos automático. O sea, el berserker quiere realizar sobre el piloto la prueba de Turing. Sabiendo que su mente, afectada por las ondas, no va a estar en condiciones de jugar, el piloto proporciona instrucciones muy detalladas a un animal manipulado genéticamente que le acompaña a bordo, que al no ser inteligente es inmune a las ondas mentales, pero que posee la capacidad de obedecer órdenes al pie de la letra, sin entender lo que hace. Las instrucciones que le proporciona son tan buenas, que el animal consigue jugar cada vez mejor a las partidas, con lo que engaña al berserker, realizando correctamente la prueba de Turing y haciéndole creer que es un ser humano, y por tanto que la nave terrestre no está inerme (aunque sí lo está), por lo que el berserker no se decide a atacarla.
El uso por Saberhagen de un animal manipulado es muy ingenioso. Es evidente que ese animal representa a un ordenador (un ente capaz de ejecutar instrucciones sin entenderlas), pero el hecho de que no lo sea deja más clara la situación. El animal no aprende a jugar a las damas, simplemente ejecuta sus órdenes al pie de la letra. Pero las órdenes que recibe incluyen elementos de aprendizaje automático que le permiten jugar cada vez mejor y enfrentarse con éxito al berserker. El hecho de que las órdenes estén fuera del cuerpo del animal, dibujadas sobre papel y en forma de bolas metidas en cajitas, hace más claro el paralelo, pues tenemos tendencia a identificar el ordenador con su programa, simplemente por el hecho de que el programa está dentro del cuerpo del ordenador (o sea, de su hardware).
Fred Saberhagen
El uso por Saberhagen de un juego parecido a las damas es significativo, pues es una referencia evidente al programa de Arthur Samuel. Lo interesante del cuento es que deja clarísimo que las instrucciones para jugar a las damas y el proceso de aprendizaje que permite al animal llegar a empatar todas las partidas con el berserker son parte del mismo programa, y por tanto obra del ser humano que las ha diseñado, no del animal, que no hace otra cosa que obedecer lo que le mandan. La inteligencia es del programador, no del ejecutor de las instrucciones.
Dicho con otras palabras: Saberhagen critica la Prueba de Turing y muestra que es posible que un ordenador (o un animalito manipulado genéticamente) tenga éxito en ella sin ser inteligente, simplemente por haber sido bien programado. Lo cual es evidentemente cierto.
Vemos ahora lo oportuno del título que puso Saberhagen a su cuento: Sin un solo pensamiento. Quiere decir que el animal consigue salir bien librado de la prueba de Turing sin haber tenido un solo pensamiento. Luego la prueba de Turing no demuestra en realidad la inteligencia de los ordenadores, sino la de sus programadores.


Hilo Inteligencia natural y artificial: Anterior Siguiente
Manuel Alfonseca
Agradezco a Fonch, que me recomendó leer este cuento.

8 comentarios:

  1. Hola. Ante todo deseo darle las gracias al Profesor Alfonseca por este magnífico articulo, y por la nota de agradecimiento, con la que me ha obsequiado. Necesitaba este empujón, porque hoy tenía un examen de inglés y estaba muy muy preocupado. Además estoy muy contento de que le haya gustado tanto la historia, que le recomendé. Me gustaría dar las gracias públicamente, aunque ella no me conoce a Sandra Miesel, y a la editorial Ignatius Press, porque gracias a un link de la propia Sandra Miesel llegue a conocer a Fred Saberhagen, y a otros escritores de ciencia ficción, y fantasía católicos. Comparto el enlace con vosotros http://www.ignatiusinsight.com/features2005/smiesel_sfintervw1_mar05.asp En Comic Castilla tuve la oportunidad de comprar unas historias de Fred Saberhagen sobre sus famosas guerras Berserkers editadas en la editorial Edoria, que enfrentaban a los humanos con unas máquinas llamadas los Berserkers. Suele ser raro, que en un antología de relatos cortos todos o casi todos los relatos fuesen buenos. Salvo uno que no me gusto. Conociendo la pasión, que el Profesor Alfonseca y yo compartimos por los escritores de ciencia ficción y fantasía católicos se lo recomendé entusiásticamente. Cuando finalmente decidió leerlo le impresionó mucho este relato. A mí me gusto, pero no fui consciente de su importancia hasta que mi amigo me lo contó. Este escritor también en esa colección tenía relatos, que homenajeaban la victoria de Lepanto, dónde aparecían personajes que homenajeaban a Felipe II (aunque por desgracia aquí Saberhagen se dejo llevar por la leyenda negra y no fue fiel a la realidad histórica), aunque si lo fue cuando invento a Mitchell Spain (Cervantes), y a su héroe Johann Karlsen (Inspirado en Don Juan de Austria, quizá junto con "Jeromín" del Padre Coloma, y "El último Cruzado" de Louis de Wohl sea el mejor retrato, que se haya hecho de Don Juan de Austria). A parte de eso a este maravilloso autor de ascendencia noruega le he leído la interesantísima "Pirámides", y otra novela del ciclo de las "Guerras Berserker", que estoy intentando que mi amigo el Profesor Alfonseca lea, llamada "Hermano Asesino" que habla sobre uno de los asuntos más controvertidos y tormentosos en la relación entre ciencia y fe. El asunto Galileo, y es muy interesante la respuesta, que da a este asunto Saberhagen. No descarto, que ciertamente escriba otro artículo el Profesor Alfonseca inspirado en otra historia de este escritor. A parte de esto Saberhagen escribió novelas de Fantasía como su ciclo de las espadas, y novelas sobre el Conde Drácula, que dan una vuelta de tuerca al mito, siendo Drácula el bueno, y sus enemigos o muy malos o muy tontos (algo que por cierto también hizo Kim Newman con "Anno Drácula"), y que inspiró la película de Drácula de Bram Stoker de Francis Ford Copolla. Aprovecho el altavoz, que me ofrece mi amigo el Profesor Alfonseca, para animar a que se editen el resto de las obras de Fred Saberhagen en español. También aprovecho para darle las gracias a mi amigo por el agradecimiento (por fin he hecho mi pequeña contribución al mundo de la ciencia). En cuanto al asunto de Turing cuando estaba en el colegio La Salle un profesor hablo de la victoria de una computadora contra Gary Kaspárov, y acertadamente dijo ese profesor, que la computadora le gano, porque otra persona le dio los datos, para que el ordenador pudiese ganar a Gary Kaspárov. Mi conclusión es la misma todavía estamos lejos de que las maquinas desplacen a los seres humanos, y si lo hacen es por la ayuda de un inmenso equipo de seres humanos. Aprovecho finalmente para dar las gracias al Dr. Juan del Río Hortega Bereciartu por permitirme escribir en este blog. Atentamente Fonch. PD. Comparto este enlace en mi cuenta de twitter, y en mi cuenta en Facebook.

    ResponderEliminar
  2. Entiendo perfectamente que el cuento resulte atractivo ya que el tema que subyace es realmente apasionante. Aún así, no creo que su contenido tenga más valor que las propias cuestiones que plantea (que sí me parecen interesantes).
    Analizando partes de su contenido:
    - "Para comprobar si estas ondas hacen efecto, el berserker le propone jugar unas cuantas partidas a un juego muy parecido a las damas". El utilizar un juego parecido a las damas para comprobar la "inteligencia o naturaleza" del contrincante es muy pobre. El mismo Turing hace referencia a un test basado en la destreza comunicativa, que sí es una habilidad que requiere un importante esfuerzo cognitivo.
    - "el piloto proporciona instrucciones muy detalladas" y "Las instrucciones que le proporciona son tan buenas ...". Estas frases en el ámbito de la inteligencia artificial resultan claves a la hora de realizar un discurso del tema, y sin embargo son tan genéricas y amoldables que cabe todo, y por tanto sirven para muy poco.
    - "... realizando correctamente la prueba de Turing". Esta frase, para alguien que haya estudiado mínimamente a Turing, resulta completamente falsa y muy alejada del tipo de test que Turing planteó.
    En resumen, el tema apasionante, las cuestiones que plantea son muy interesantes, pero me parece que está tratado con demasiada simplificación y poca rigurosidad (incluso para la inteligencia artificial de hoy en día).

    ResponderEliminar
    Respuestas
    1. El motivo por el que Saberhagen utiliza un juego parecido a las damas es porque cuando él escribió este cuento las damas era el único juego "inteligente" en el que un programa de ordenador (el de Arthur Samuel) había alcanzado nivel equivalente al de campeón del mundo.

      La situación que plantea Saberhagen es idéntica a la de la prueba de Turing, solo que al revés. Aquí, una máquina programada (el berserker) intenta averiguar si se está enfrentando a otra máquina, en cuyo caso atacará, o a un ser humano, en cuyo caso debe sacar la conclusión de que los humanos han conseguido desactivar las ondas mentales que deberían inhabilitarlos, y por tanto no se atreve a enfrentarse a ellos, pues quién sabe de qué otras armas dispondrán.

      Se trata de un cuento de ciencia-ficción, no de un artículo en una revista de informática, por lo que me parece que sus acusaciones de "demasiada simplificación y poca rigurosidad" no vienen a cuento.

      Por otra parte, sigo pensando que el ataque de Saberhagen contra la prueba de Turing expresada en este cuento tiene sentido, incluso para la inteligencia artificial de hoy día, como ya demostró Searle con su experimento mental de la habitación china, al que hice referencia en otro artículo: https://divulciencia.blogspot.com/2017/11/la-prueba-de-turing.html. Lo fundamental no es que un programa realice esta o aquella acción (como en la prueba de Turing) sino en si el programa es consciente de ello o no. En el caso del cuento de Saberhagen esto queda bastante claro, por lo que me reafirmo en todo lo que digo en mi artículo.

      Eliminar
  3. Personalmente, como argumento para una novela de ciencia ficción me parece muy acertado, y no es necesario que una novela tenga un rigor científico pleno para que sea capaz de plantear cuestiones interesantes.

    Sin haber leído la novela, estoy de acuerdo con la interpretación de Manuel:

    >> Saberhagen critica la Prueba de Turing y muestra que es posible que un ordenador (o un animalito manipulado genéticamente) tenga éxito en ella sin ser inteligente, simplemente por haber sido bien programado.

    Lo que no tengo tan claro es qué piensa Saberhagen de la inteligencia del berserker. Es decir, el berserker se deja engañar por un ser no inteligente, que le hace creer que sí es inteligente gracias a que es capaz de ejecutar un ingenioso programa "sin un solo pensamiento". Esto no dice mucho en favor de la inteligencia del berserker...

    Dicho de otra manera: los berserker son una raza capaz de gran desarrollo tecnológico, pero su filosofía es bastante pobre.

    Sobre el test de Turing he escrito recientemente en mi propio blog, refutándolo desde otro punto de vista diferente al de Searle. Sé que a Manuel le gustó mi argumentación, por lo que pongo aquí el enlace.

    https://demaquinaseintenciones.wordpress.com/2018/09/27/el-test-de-turing-revisitado/

    ResponderEliminar
    Respuestas
    1. En efecto, la inteligencia de los berserker deja bastante que desear, pero ¿no estamos nosotros en la misma situación? Durante más de 30 años (hasta Searle) nadie puso en duda seriamente la prueba de Turing, luego estábamos al mismo nivel que los berserkers. Bueno, sí, algunos la pusieron en duda, como Fred Saberhagen (:-)

      De todas formas, como ha mencionado Fonch, en otros cuentos Saberhagen hace que los berserkers representen al ejército otomano durante el equivalente a la batalla de Lepanto, así que también pone su inteligencia al nivel humano (:-)

      Eliminar
    2. Estoy muy interesado por lo que dice señor Genova. ¿Había leído algo de Fred Saberhagen antes de que escribiese el artículo? La saga de los Berserkers es muy compleja, y tiene varias historias habiendo de todo. Son maquinas, que se sublevaron contra sus amos, y buscan ahora destruir a cualquier forma de vida orgánica. En las historias de los Berserkers hay de todo. Hay Berserkers muy estropeeados, que casi parecen tontos, y hay otros increíblemente ladinos, y astutos. Saberhagen se mueve en el relato corto recopilando varias historias. Hay algunos planes de gran maquiavelismo por ejemplo en "Hermana Asesino" hay un plan para viajar en el tiempo y alterar la historia de tal forma que puedan vencer a sus enemigos sin luchar y los humanos deben viajar al pasado, para que los Berserkers no cambien la historia. Aquí Fred Saberhagen se inspiró sin duda en La Patrulla del Tiempo de Fred Saberhagen. Estoy intentando contactar con una persona, que conoció a Saberhagen y otros escritores de ciencia ficción por medio de una amiga común, pero no creo que lo consiga.

      Eliminar
    3. Perdón corrijo el mensaje. Lo primero quería decir antes de que el Profesor Alfonseca escribiese este artículo, y lo segundo seguramente Fred Saberhagen se habría inspirado en los relatos de "La patrulla del tiempo" de Poul Anderson. PD. Pido disculpas es que hoy me encuentro muy espeso.

      Eliminar
    4. Para Fonch: no, no había leído anteriormente nada de Saberhagen, ni conocía su existencia.

      Eliminar

Por favor, no ponga Anónimo o Unknown como origen del comentario. Ponga cualquier nombre, o al menos diga dentro del texto de quién se trata (no tiene que ser su nombre y apellidos). Si todos pusieran Anónimo o Unknown, no sabría si estoy hablando con una persona o con varias.