 |
| Ramón López de Mántaras |
En un
artículo publicado en ConectaIndustria el 22/3/2021, se atribuyen estas
palabras a Josu Bilbao, responsable del área TIC de IKERLAN:
En tres
años, la inteligencia artificial permitirá un diálogo inteligente con las
máquinas
Predicciones
parecidas hemos visto muchas desde que hace más de 60 años se inventó el
término Inteligencia
Artificial (IA). En la mayor parte de
los casos (por no decir todos) las predicciones han sido demasiado optimistas.
¿Va a ocurrir lo mismo con estas?
Consulté
al respecto con uno de los mayores expertos mundiales en el campo del análisis
automático del lenguaje natural, técnica que se utiliza para realizar el tipo
de aplicaciones a las que se refiere el artículo que comento, y me dijo esto:
Depende de cómo se defina "diálogo inteligente". Si se restringe a un dominio concreto, por ejemplo, al control de los sistemas de automatización de tu casa utilizando Google Home, eso ya se puede hacer con una tasa de éxito superior al 70%, algo que hace diez años era ciencia ficción. Si quieres tener una conversación filosófica en la que tu interlocutor entienda lo que está diciendo, en vez de ir generando textos a partir de un modelo de lenguaje, es demasiado optimista.
Casi a la vez (con sólo una semana de diferencia, el 29/3/2021) una de las figuras más importantes en España en el campo de la Inteligencia Artificial, Ramón López de Mántaras, director desde hace muchos años del Instituto de Investigación en Inteligencia Artificial (IIIA) del CSIC, y con numerosos premios de la especialidad en su haber, es mucho menos optimista en un artículo publicado en La Vanguardia sobre la posibilidad de conseguir una inteligencia artificial comparable con la humana.
Estos supuestos avances en Inteligencia Artificial que siempre están a punto de conseguirse, según algunos autodenominados expertos como Ray Kurzweil, que viene incidiendo en ello desde los años 80, llevarían en cosa de un cuarto de siglo a lo que han dado en llamar singularidad tecnológica, cuyo resultado serían máquinas más inteligentes que el hombre en todos sus campos de actividad, que o bien nos suplantarán, o bien se fundirán con nosotros formando criaturas híbridas, mitad biológicas, mitad tecnológicas, que quizá alcanzarán algunas de las metas más ansiadas por la humanidad desde el principio de los tiempos, como la inmortalidad. Esto es lo que se llama transhumanismo.
Frente
a estas ideas, López de Mántaras plantea que es verdad que el desarrollo tecnológico
del hardware ha tenido lugar siguiendo un crecimiento exponencial (la ley de
Moore), que se ha venido cumpliendo aproximadamente hasta ahora, aunque da
muestras claras de haber entrado en la fase decreciente de la curva logística.
Pero tal crecimiento nunca ha ocurrido en el campo del software, y sería preciso
que se cumpliera también ahí, para poder hacer predicciones tan exageradas como
las que se están haciendo.
Esto
es lo que dice López de Mántaras en su artículo:
La
hipótesis principal es que hay un progreso exponencial en el campo de la IA, lo
cual, en mi opinión, es muy discutible... Los algoritmos que se usan
actualmente en lo que se conoce como aprendizaje profundo (la tendencia actual
más exitosa e importante en IA) tienen más de treinta años de antigüedad y,
aunque han sido mejorados en algunos aspectos, conceptualmente podemos afirmar
que no han progresado significativamente desde entonces. Es innegable que, en los
últimos años, ha habido resultados importantes en IA pero ello no ha sido
debido a grandes progresos en los algoritmos de IA. El motivo ha sido la
disponibilidad de grandes cantidades de datos y de hardware de altas prestaciones
para entrenarlos. Por otra parte, estos resultados han sido exageradamente
amplificados por los medios de comunicación -y también por algunos de sus
diseñadores- lo cual ha propiciado la creación de expectativas irreales acerca
del estado actual de la IA.
Cuando
se habla de IA en la prensa, y a veces también en la literatura científica, se
utilizan incorrectamente algunos términos que deberían estar mucho más claros,
porque de lo contrario lo único que se consigue es esparcir confusión entre los
no especialistas. Veamos dos de esos términos:
- Consciencia: La primera acepción del diccionario de la
Real Academia es esta: capacidad del ser humano de reconocer la realidad circundante y de
relacionarse con ella. Si de lo que se trata es de atribuir consciencia a programas
inteligentes, dicha definición debería redefinirse así: capacidad de un
ser de reconocer la realidad circundante y de relacionarse con ella. De este modo se aplicaría, no sólo a los
seres humanos, sino también a otros seres vivos, y en potencia incluso a
las máquinas. Es evidente que muchos seres vivos y algunos robots son
capaces de obtener información de la realidad circundante y de
relacionarse con ella. En este sentido, sería factible aplicarles la
palabra consciencia.
Pero sólo en ese sentido, que es muy restringido.
- Auto-consciencia: La segunda acepción de la palabra consciencia en el diccionario de la Real Academia dice:
conocimiento
inmediato o espontáneo que el sujeto tiene de sí mismo, de sus actos y
reflexiones. Es decir: la idea del yo, la
consciencia de ser una persona, estrechamente relacionada con la voluntad
libre y con la responsabilidad. El único ser del que sabemos con seguridad
que posee auto-consciencia es el hombre. Cualquier aplicación de este
término a programas o máquinas, por mucho que se llame inteligencia artificial, es un abuso del lenguaje.
Como
dice López de Mántaras en su artículo:
Los
algoritmos no entienden nada… Los seres humanos, a diferencia de los sistemas de
inteligencia artificial, entendemos las consecuencias de nuestras acciones y
decisiones… en mi opinión por muy sofisticada que llegue a ser la IA siempre
será distinta de la humana.
Esto
viene a ser lo que yo vengo diciendo en este blog desde hace años. Me alegra
que López de Mántaras y yo estemos de acuerdo. En
general, esto
es lo que piensa la mayor parte de los expertos en inteligencia artificial. Los que
suelen echar las campanas al vuelo son los que no saben gran cosa del asunto.
El asunto de la consciencia trasciende prácticamente a la ciencia. En particular el de la consciencia fenoménica (phenomenal consciousness) o vigilancia, en términos de Stanislas Dehaene. Un robot podría llegar a tener un yo narrativo o "consciencia" de acceso pero al no poder decir nada el método científico de la consciencia fenoménica por la brecha explicativa (explanatory gap)(problema fuerte de la consciencia de David Chalmers) mucho menos podemos implementarlo. En palabras de Searle estamos ante un conocimiento subjetivo y cualitativo, imposible de ser resuelto por la ciencia (es como decir por qué el rojo tiene ese color rojo que nosotros percibimos, la rojez del rojo, no puede ser resuelto por la ciencia). El problema de la habitación de Mary, experta en visión pero ciega: ¿sabe como es el color rojo? No. Y con respecto al transhumanismo: ojo. Nadie nos garantiza que lo que persistamos tenga consciencia, aunque sea identico a nuestro cerebro. Gracias por el trabajo.
ResponderEliminarEn mi opinión, hay otro problema subyacente, que es la noción de inteligencia como capacidad para resolver problemas. Así lo cuento en mi blog:
ResponderEliminarNo es extraño que los que conciben, al modo cartesiano, que la razón humana es un instrumento universal para resolver problemas, tengan dificultad para admitir que pueda haber una diferencia insalvable entre máquinas y humanos (o, al menos, entre la inteligencia artificial y la inteligencia natural). Y pienso que la dificultad es real: si la razón es un instrumento, y nada más que un instrumento al servicio de pulsiones pre-racionales, entonces bastará con saber “cómo funciona” para poder construir otro instrumento que sea capaz de realizar la misma tarea. El obstáculo que hay que salvar es solo tecnológico, no de principio, así que paciencia, todo llegará.
Entender que la inteligencia no solo es capacidad de resolver problemas, sino también capacidad de elegir los probemas que vale la pena resolver, está íntimamente unido a la cuestión de la autoconciencia, de saberse un sujeto en el mundo, libre y responsable.
De lo que no cabe duda es de que todos los programas de IA existentes podrán resolver problemas, pero no pueden elegir qué problemas resolver.
EliminarGracias por el artículo, que comparto plenamente. De hecho, tengo en casa uno de esos sistemas que se mencionan, aunque no del de Google, sino el de Amazon. Es cierto que sirven para apagar y encender luces, poner una alarma, hacer la lista de la compra, y poner una emisora de radio, pero poco más. Si uno hace una pregunta un poco "rara", obtendrá una especie de alarma, y un "no puedo responder a esa pregunta".. Es decir, más o menos la misma respuesta que recibo de mis gatos si le hago la misma pregunta y eso que tampoco estoy muy de exactamente de que son conscientes mis gatos y de que no son conscientes (incluidos ellos mismos).
ResponderEliminarA mi me es complicado ver como objetos matemáticos de tipo interpolador (o regresor) con parámetros ajustados, pueden ser (auto) conscientes.
Un fuerte abrazo.
Para algunos, la vida espiritual se explica en base al funcionamiento de determinadas zonas del cerebro, especialmente del lóbulo temporal. Es lógico que en la meditación, en la oración, en los arrobos místicos, esté activo el cerebro, pero como de lo material no puede surgir algo de un nivel diverso, se explica que lo espiritual no puede ser una especie de emanación del cerebro. Por ejemplo, la idea del bien, la idea de lo que es la verdad, son inmateriales, no pueden localizarse en ninguna área cerebral concreta. Y como el hombre es una unidad corporal-espiritual, es normal que en la experiencia mística participe también el organismo (por eso, en estas situaciones son posibles modificaciones en la presión arterial, en la temperatura corporal, en la percepción sensorial, etc.).
ResponderEliminarY puede definirse el alma como el aliento vital, el “soplo” que anima al cuerpo. Estamos hechos de barro y aliento.
La Inteligencia Artificial podrá predecir acontecimientos, pero no tomar decisiones humanamente factibles....
ResponderEliminar