Fallos y aciertos de la IA

The same post in English

En artículos anteriores he mencionado varios casos en los que las herramientas de IA (como los LLM) fracasaron ante las preguntas que les dirigí. Para equilibrar las cosas, esta vez voy a hablar de dos fallos y de un acierto.

El problema que planteé fue el siguiente: recordaba una cita que quería utilizar en una de mis críticas de libros, pero no estaba seguro de las palabras exactas, ni del autor, aunque sospechaba que podía ser de C.S. Lewis. La cita que yo recordaba era esta:

Cada década en Inglaterra y cada año en Estados Unidos, alguien afirma haber descubierto lo que quiso decir Shakespeare.

Ciencia hipotética y materia oscura

Cúmulo Bala. Gas caliente en rosa, materia oscura en azul.

The same post in English

En varios artículos anteriores de este blog he señalado que los físicos y cosmólogos actuales se olvidan frecuentemente del mundo real y se lanzan a construir teorías basadas en elucubraciones que no tienen base en datos concretos, observaciones o experimentos, sino solo en su imaginación. Veamos algunos ejemplos:

·         ¿Está perdiendo la física el contacto con la realidad? En este artículo de 2017 puse como ejemplo las diversas teorías sobre los multiversos, la teoría del todo, e ideas que harían posible (en principio, pero difícilmente en la práctica) construir una máquina del tiempo.

·         La física, ¿ciencia o literatura? En este artículo de 2018 hice referencia al procedimiento de Freeman Dyson para extraer energía de las estrellas, y a la idea de que una civilización avanzada podría resistirse a la expansión acelerada del universo.

·         ¿Ciencia patológica, ciencia ilusa o ciencia irónica? Este artículo de 2023 señala once casos de investigaciones científicas sin base experimental.

El lado oscuro de la IA

The same post in English

Las compañías que comercializan LLMs (Grandes Modelos de Lenguaje), como OpenAI (ChatGPT y GPT-4), Google (GEMINI), Meta (Llama), Anthropic (Claude), o Deepseek establecen controles para evitar que sus herramientas puedan ser utilizadas para fines nefastos, como ayudar a suicidarse a un joven, proporcionar instrucciones para construir cócteles Molotov o bombas atómicas, ayudar a diseñar virus potencialmente utilizables en la guerra biológica, o enseñar a fabricar drogas peligrosas.

El problema es que esos controles son falibles, como ha demostrado Dave Kuszmar, experto en ciberseguridad, que ha publicado un resumen de sus investigaciones en un artículo que apareció en la revista Spectrum del IEEE en agosto de 2026. Su falibilidad los hace peligrosos, pero las compañías en cuestión parecen ignorar los peligros y dan la callada por respuesta cuando se los comunican.

Kuszmar ha desarrollado al menos siete procedimientos para saltarse los controles de los LLM comerciales y conseguir que proporcionen información peligrosa. Los dos primeros fueron estos:

Personas citadas en Divulciencia

Distribución de Poisson de las citas

The same post in English

Me gusta hacer estadísticas de muchas cosas. Naturalmente, también las hago sobre este blog. Una de las que suelo hacer es la de los nombres de personas (científicos o no) más mencionados en el blog, que ya tiene 564 artículos. Presenté una tabla así en enero de 2024, cuando iban publicados 455, en el artículo titulado Una década de Divulciencia, y creo que ha llegado el momento de actualizarla. Esta es la tabla correspondiente, en la que aparecen 40 personas que han sido mencionadas al menos 10 veces.

Dignidad humana: ¿Religión, política o moral natural?

La condena de Sócrates

The same post in English

En relación con su visita a España, y en particular, en su discurso en el Congreso de los Diputados, el Papa León XIV ha sido criticado en algunos medios de comunicación por haber defendido que los Parlamentos democráticos deben supeditarse a ciertas normas morales básicas, como las asociadas a la dignidad humana. Se ha dicho que el Papa hablaba como jefe de la Iglesia Católica, que en el Parlamento español no sólo hay católicos, y que no debería haber puesto en duda la legitimidad de dicho Parlamento para promulgar leyes, según el juego de las mayorías. Este es el párrafo que ha atraído más discrepancias:

Paradojas de los viajes en el tiempo

The same post in English

En varios artículos anteriores he hablado de diversas paradojas que podrían provocar los viajes en el tiempo si fuesen posibles. No provocan paradojas los viajes hacia el futuro controlados desde el pasado. Que son posibles, es evidente, pues todos viajamos hacia el futuro a razón de veinticuatro horas cada día.

También se puede viajar hacia el futuro si uno está en coma y más adelante se despierta; o mediante la hibernación, si fuese posible, que por ahora no lo es, pero que quizá algún día llegue a serlo; o haciendo un viaje por el espacio a velocidades relativistas, que darían lugar a una dilatación del tiempo que, al regresar al punto de partida, se traduce en un viaje hacia el futuro. Este último procedimiento tampoco es posible ahora mismo, pero no hay nada que se oponga a que algún día lo sea, aparte de las dificultades técnicas de conseguirlo.

Unidades de longitud

The same post in English

Para medir distancias, era natural que el hombre utilizara como base sus propias dimensiones. Así surgieron la pulgada, el ancho del dedo pulgar; el palmo, la anchura de la palma de la mano con los dedos abiertos; el pie, la longitud del pie humano; el codo, la distancia desde el codo hasta el extremo del dedo corazón; la braza, la distancia entre las dos manos con los brazos extendidos; el paso, la distancia entre la posición de los dos pies cuando se camina; y así sucesivamente.

Este sistema de medidas tiene dos problemas. El primero, que esas longitudes dependen de cada persona. El segundo, que no son múltiplos sencillos las unas de las otras. Para resolver el primer problema, se introdujeron valores estándar. Para resolver el segundo problema, algunas de las medidas se modificaron ligeramente. Así, en Inglaterra, la pulgada se aproximó por la doceava parte del pie. Esto introdujo un tercer problema, porque cada país eligió unos valores estándar diferentes y realizó las aproximaciones a su manera.

Nueva zona Ricitos de Oro

The same post in English

Todos conocemos la zona Ricitos de Oro, que se considera necesaria para la aparición de la vida en un sistema planetario. Es la región en que la temperatura en la superficie del planeta hace posible la existencia de agua líquida, que se suele considerar indispensable para que pueda aparecer la vida, al menos tal como la conocemos, porque en la literatura de ciencia-ficción (recordemos La Nube Negra de Fred Hoyle) hay formas de vida que quizá no necesitarían de ese requisito.

Los planetas muy próximos a su estrella tendrían una temperatura demasiado alta para la existencia de agua líquida; toda el agua se vaporizaría, y en algunos casos escaparía de la atracción gravitatoria del planeta. En los muy alejados, la temperatura sería demasiado baja y toda el agua estaría en estado sólido (hielo). En ambos casos se piensa que la aparición de la vida no sería posible.

La muerte de las palabras

C.S. Lewis

The same post in English

En un artículo publicado el 22 de septiembre de 1944 en The Spectator con el mismo título que este, posteriormente incluido en la colección de artículos Of this and other worlds, C.S. Lewis señaló que el sentido de muchas palabras evoluciona hasta convertirlas en simples sinónimos de “bueno” o “malo”, y cuando esto ocurre, la palabra ha muerto, pues su significado original acaba por olvidarse, mientras el nuevo no sirve para nada, pues el número de sinónimos de “bueno” o “malo” no hace más que crecer.

Lewis señala que muchas palabras, a lo largo de la historia, han sufrido esta evolución, que las convierte, de términos descriptivos que eran, en insultos o alabanzas (sinónimos de malo o bueno). Pone como ejemplos villano, que de habitante de una villa pasó a significar ruin, indigno o indecoroso (sinónimos de malo); bastardo, que de hijo ilegítimo pasó a significar persona que actúa con mala fe (otro sinónimo de malo); o decir de alguien que es un caballero, que inicialmente se refería a una profesión o categoría social, y pasó a significar que se porta con distinción, nobleza y generosidad (o sea, un sinónimo de bueno).

La encíclica Magnifica Humanitas y el ludismo

The same post in English

La publicación de la encíclica Magnifica Humanitas del Papa León XIV ha provocado que algunos levanten la voz acusándola de ser un ejercicio de ludismo y una vuelta al medievo, a veces acompañadas de imágenes espeluznantes de quema de robots en la hoguera, sin duda generadas mediante herramientas de IA. A veces, la rapidez de sus respuestas es sorprendente, y uno se pregunta si están juzgando el texto sin haberlo leído. ¿Tienen razón estas personas? ¿Se puede acusar a la encíclica de ludismo?

Empecemos por definir la palabra ludismo, tal como aparece en el diccionario histórico de la lengua española de la RAE:

Calco del inglés luddism… [definida] como 'aversión intensa u oposición a la innovación tecnológica'… [L]a voz se forma a partir del antropónimo Lud o Ludd; según se indica en algunas fuentes, Ned Lud, que vivió en un pueblo de Leicestershire alrededor de 1779, destruyó dos telares, por lo que su nombre pasó a ser un referente para los saboteadores o destructores de maquinaria.