Censura algorítmica y diversidad en la investigación científica

The same post in English

Manuel Cebrián

Manuel Cebrián, que empezó trabajando en USA en el MIT, y después de un largo periplo que le llevó a la costa oeste de los Estados Unidos y a Australia volvió al MIT y ahora está en Berlín, se hizo famoso gracias a haber ganado dos importantes competiciones organizadas por el gobierno de los Estados Unidos, relacionadas con el uso de las redes sociales para resolver problemas más o menos complejos:

• DARPA Network Challenge (2009), que ofrecía 40.000 dólares de recompensa al primer equipo que consiguiera descubrir, en menos de 8 horas, dónde se habían colocado quince globos rojos, distribuidos por distintas localidades de los Estados Unidos por personal del Pentágono, utilizando para ello una red social de creación propia, organizada durante el mes anterior al día de la competición. A pesar de que recibieron numerosas noticias de avistamientos falsos (fake news) el equipo de Cebrián consiguió ganar la competición, en la que participaron más de 9000 equipos.
• DoS Tag Challenge (2012), que ofreció 5000 dólares de recompensa al equipo que consiguiera localizar a cinco actores, identificados por su fotografía, que representaban a cinco criminales sospechosos que permanecerían visibles durante 12 horas en cinco ciudades europeas y estadounidenses: Nueva York, Washington, Londres, Bratislava y Estocolmo. Aunque sólo consiguieron localizar a tres de los cinco sospechosos, el equipo de Cebrián ganó de nuevo la competición, a pesar de la competencia poco ética de alguno de los otros equipos participantes, que llegó a copiar su web para engañar a posibles informantes, haciéndoles enviar la información a la web de un grupo diferente.

Durante su estancia en Australia, Cebrián trabajó en la previsión de los efectos negativos de las catástrofes naturales, analizando los datos proporcionados por las redes sociales (esencialmente Facebook y Twitter) y cómo estos podían capturar eventos del mundo real a gran velocidad. Lo malo es que, cada vez en mayor grado en estos últimos años, los algoritmos que estiman el interés de la difusión de las noticias y mensajes de las redes sociales van cobrando más peso en la forma en que la información se transmite por las redes. Estos algoritmos son los que deciden que dichos mensajes y noticias sean más o menos vistos, y que los usuarios permanezcan más o menos tiempo en la plataforma

A la luz de esto, Cebrián y sus colegas trasladaron su investigación sobre las redes sociales hacia la forma en que la Inteligencia Artificial (IA) afecta a la comunicación y cooperación humanas. El análisis teórico de modelos computacionales inspirados por los cambios realizados en las grandes plataformas permitió conjeturar que el funcionamiento de las redes sociales puede ser afectado por algoritmos capaces de potenciar o debilitar la información. Como consecuencia de su uso, los mensajes y noticias originados por ciertos usuarios podrían llegar a un número menor de seguidores, lo que podría considerarse una forma de censura algorítmica.

Preocupado por las tendencias crecientes hacia el control de la Internet por grandes empresas, Cebrián y su equipo han realizado un análisis muy completo de las publicaciones en el campo de la Inteligencia Artificial, y de las citas cruzadas entre dicho campo y otros campos de las ciencias y de las humanidades, desde 1950 hasta 2017. Se observa que, aunque el número de publicaciones sobre IA aumenta progresivamente, el impacto mutuo con otras ciencias parece ir disminuyendo. Sólo cuatro campos (Informática, Matemáticas, Geografía e Ingeniería) mantienen una tendencia superior a una distribución de citas cruzadas aleatoria, y sólo en uno (Informática) está aumentando, aunque a un nivel bastante inferior al de los años setenta y ochenta.

Otro de los resultados obtenidos por el análisis descrito en el artículo mencionado es que la investigación en IA está cada vez más dominada por unas pocas instituciones de investigación, y las publicaciones más citadas se realizan en un número cada vez menor de revistas y conferencias. Esta disminución de diversidad, que alcanza un 30% desde 1980, afecta a los autores, la producción de artículos y las citas, y sugiere que quizá se estén formando núcleos de investigación de citas cruzadas, con preferencias bien definidas. Por otra parte, la preponderancia de grandes empresas en estos núcleos (Google, Microsoft, Facebook) podría dar lugar a que el objetivo de la investigación pase, de buscar soluciones a problemas tecnológicos importantes para la humanidad, a una nueva situación en la que interesa más acopiar datos de los clientes para venderlos a los anunciantes y controlar así los impulsos de consumo de la sociedad.

Veamos una de las conclusiones más importante y preocupante del artículo:

La brecha entre las ciencias sociales y la investigación en IA significa que los investigadores y los responsables de la formulación de políticas quizá ignoren las implicaciones sociales, éticas y societales de los nuevos sistemas de IA.

Martín López Corredoira

Esta disminución de diversidad, combinada con la censura de lo que no se adapte al modelo ortodoxo, afecta también a otros campos de la ciencia. Si nos referimos, por ejemplo, a la física del cosmos (cosmología), la publicación con más índice de impacto en este campo ha pasado a ser arXiv, hasta el punto de que actualmente es dificilísimo publicar ahí a menos que se pertenezca a una institución importante, y totalmente imposible si el artículo difiere de algún modo del modelo ΛCDM, el estándar actual de la cosmología, como se denuncia en este libro:

Nadie debería tener el monopolio de la verdad en este universo. La censura y la supresión de las ideas que desafían la corriente principal de la investigación, por ejemplo, haciendo listas negras de científicos, no es la mejor manera de hacer y filtrar la ciencia, ni de promover el progreso en el conocimiento humano. La eliminación de ideas buenas y novedosas del escenario científico es muy perjudicial para la búsqueda de la verdad. Existen casos en los que una mera creencia sin fundamento puede llegar a convertirse en la teoría científica aceptada por todos, gracias a la acción selectiva de la revisión de artículos y de reuniones planeadas por comités científicos de organización, o mediante la distribución de fondos controlados por “clubs de opinión.” Esto conduce a paradigmas unitarios y al pensamiento único, que no están asociados necesariamente con la verdad única.

Hilo Inteligencia Natural y Artificial: Anterior Siguiente
Hilo Ciencia en General: Anterior Siguiente

Manuel Alfonseca

Este artículo se basa en la conferencia pronunciada 

por Manuel Cebrián en la UAM el 10 de mayo de 2019.

Agradezco a Cebrián su ayuda para corregir el artículo.