El catedrático de la Universidad de Granada participa en Alicante en las jornadas nacionales sobre información científica sanitaria que organizan el Hospital Doctor Balmis y la Universidad Miguel Hernández, en las que se debate sobre inteligencia artificial, ciencia abierta y los retos de las bibliotecas especializadas en salud. El experto ha reflexionado sobre los desafíos que plantea el fraude en las publicaciones científicas y sus implicaciones para la generación y difusión del conocimiento. "La IA plantea el reto de detectar artículos científicos falsos con apariencia de veracidad", señala.

¿Hasta qué punto está extendido el fraude en las publicaciones científicas?

Hoy hay más fraude del que debería. Siempre ha existido en cualquier ámbito, también en la ciencia, aunque desde fuera pueda parecer contradictorio porque el trabajo científico busca la verdad. Mi tesis es que los incentivos introducidos por el sistema de evaluación han contribuido a incrementarlo. Si evalúas a los investigadores por el número de publicaciones y las citas que reciben, estás incentivando que produzcan cada vez más artículos. Cuando la carrera profesional depende de esos indicadores, puede surgir la tentación de mentir para publicar.

¿Cómo contribuye el negocio editorial a agravar el problema?

Si hay muchos científicos que necesitan publicar, aparece una industria dispuesta a satisfacer esa demanda. Tradicionalmente, las revistas obtenían ingresos mediante las suscripciones, pero el modelo ha cambiado y ahora los investigadores pagan por publicar sus trabajos en abierto. Si los beneficios dependen del número de artículos que acepta una revista, puede haber un incentivo para suavizar los filtros de calidad. Además, existen editoriales fraudulentas que aceptan prácticamente cualquier trabajo a cambio de dinero, sin una revisión rigurosa.

Existen editoriales fraudulentas que aceptan prácticamente cualquier trabajo a cambio de dinero, sin una revisión rigurosa

¿Se comercializa con la autoría de los artículos?

Sí. Se venden autorías y citas. He visto ofertas en las que se pide al investigador que pague 600, 700 o incluso 1.500 euros para figurar como primer autor, dependiendo de las condiciones. También se comercializan las citas y se manipulan referencias. Hay distintos procedimientos para colocar trabajos en publicaciones científicas. El problema no es que exista fraude, porque siempre lo habrá, sino que se haya convertido en una industria organizada que obtiene beneficios de él.

¿Qué casos concretos han detectado?

Hemos investigado casos que tuvieron repercusión internacional. Uno de ellos afectaba a los indicadores bibliométricos de un profesor que llegó a multiplicar de forma extraordinaria sus citas en un periodo muy corto. También hemos documentado cómo 37 revistas, muchas de ellas españolas y algunas relevantes en sus respectivos campos, fueron adquiridas por editoriales que después introdujeron prácticas sospechosas. Empezaron a aparecer artículos ajenos a la temática habitual de las publicaciones y referencias con comportamientos anómalos. Son indicios que deben investigarse; no se puede afirmar que un artículo sea falso sin demostrarlo.

El experto en Bibliometría junto a la presidenta del comité científico de las jornadas, Carmen Sánchez, y la del comité organizador, Rosa Trigueros / INFORMACIÓN

¿Qué consecuencias tiene este fraude para los ciudadanos?

Puede afectar a la población. Tradicionalmente, las revistas científicas desempeñaban una función de filtro: los investigadores revisaban los trabajos antes de publicarlos y eso aportaba una garantía de calidad. Los periodistas también recurrían a la publicación en revistas de prestigio como un criterio de autoridad. Pero hoy el conocimiento científico llega a la ciudadanía por muchos canales, especialmente las redes sociales, y puede viralizarse información sin fundamento, se haya publicado o no en una revista científica.

El conocimiento científico llega a la ciudadanía por las redes sociales, y puede viralizarse información sin fundamento

¿Qué ejemplo ilustra mejor ese riesgo?

Durante la pandemia de covid se difundió un artículo que planteaba una supuesta relación entre el coronavirus y el sida. Se publicó en un repositorio abierto, no en una revista científica, y los investigadores lo cuestionaron rápidamente por sus afirmaciones no demostradas. Sin embargo, el trabajo alcanzó una enorme repercusión en las redes y llegó a la población. Yo mismo conocí el caso a través de unos jóvenes en el gimnasio que hablaban de que se había demostrado esa relación. Los científicos habían desmontado el trabajo, pero eso no impedía que siguiera circulando entre ciudadanos dispuestos a creerlo.

¿La inteligencia artificial está agravando este escenario?

Extraordinariamente. Como cualquier tecnología, puede mejorar los procesos, pero también facilitar el fraude. La rapidez y la destreza con las que se puede generar artificialmente un artículo científico son impresionantes. Con ChatGPT podemos crear un trabajo con apariencia de veracidad absoluta e incluso simular una encuesta a 300 personas e inventar sus resultados. La inteligencia artificial permite producir documentos falsos de manera masiva y con una apariencia cada vez más convincente.

Con ChatGPT podemos crear un trabajo con apariencia de veracidad absoluta, simular una encuesta a 300 personas e inventar sus resultados

¿Están preparadas las revistas científicas para detectar esos trabajos?

Están desarrollando herramientas y controles, pero se les cuelan muchos trabajos. Las revistas que actúan como filtros tienen ahora el reto de detectar una producción artificial que crece con rapidez. Y hay otro problema: las publicaciones completamente fraudulentas, creadas para aceptar artículos a cambio de dinero. A eso se suma la difusión por internet, que multiplica el alcance de los contenidos falsos. La detección siempre va por detrás: primero aparece el fraude y después intentamos desarrollar herramientas y normas para combatirlo.

¿Cómo se podrían identificar los contenidos generados por IA?

Una posibilidad sería incorporar marcas de agua o mecanismos que permitan identificar el contenido generado artificialmente. Pero no soy especialista en tecnología. Lo que sí planteo es que sería útil saber cuándo un contenido ha sido creado con inteligencia artificial. El problema es que implantar controles de ese tipo también puede afectar a los intereses económicos de quienes desarrollan estas herramientas.

¿Qué opina del modelo económico de las publicaciones científicas?

El investigador realiza el trabajo, a menudo con financiación pública, escribe el artículo y lo envía a una revista. La revista busca revisores, que normalmente son otros científicos y que realizan gratuitamente el control de calidad. Si el trabajo se acepta, el investigador puede tener que pagar por publicarlo en abierto. En algunas revistas las tarifas alcanzan los 2.000 o 2.500 euros, y en publicaciones de máximo prestigio (como Nature) pueden llegar a los 11.000. Es un sistema que plantea interrogantes, especialmente cuando una parte importante del presupuesto de investigación termina destinada a pagar por publicar los resultados.

¿El fraude científico puede alimentar los bulos y las decisiones políticas?

Es preocupante que se utilice bibliografía científica falsa para respaldar decisiones políticas. En Estados Unidos, por ejemplo, se han producido controversias en torno a las vacunas y se han cuestionado sus beneficios mediante argumentos que necesitan un respaldo científico riguroso. Si se utiliza un artículo inventado para justificar una medida, estamos ante un problema muy grave. Resulta paradójico que en uno de los países científicamente más avanzados del mundo pueda circular información de este tipo desde ámbitos de poder.

Es preocupante que se utilice bibliografía científica falsa para respaldar decisiones políticas

¿Por qué tienen tanta fuerza los mensajes antivacunas en redes?

Confundimos el ruido con la opinión mayoritaria. Las redes sociales no son una muestra estadísticamente representativa de la población. Un grupo pequeño puede publicar continuamente y generar la impresión de que representa a mucha gente. Además, hay que tener en cuenta la actividad de los bots, que pueden amplificar artificialmente determinados mensajes. El problema es que la ciudadanía ve esos contenidos de forma rápida y no siempre dispone del tiempo o de las herramientas para comprobar quién está detrás.

¿La IA puede multiplicar esa capacidad de manipulación?

Permite generar mensajes con una enorme facilidad y adaptarlos a distintos contextos para descalificar a alguien o reforzar una determinada posición. Podemos encontrarnos con cuentas que aparentan ser personas reales y que difunden contenidos coherentes, creadas artificialmente. Esto obliga a reforzar la verificación y a aprender a identificar señales de manipulación.

¿Qué relación existe entre la desinformación y la polarización política?

Los algoritmos nos ofrecen contenidos que encajan con nuestros gustos y creencias. Terminamos consumiendo las noticias, la música y las opiniones que nos gustan, y nos relacionamos con personas que piensan de manera parecida. Yo lo llamo la «cultura del yo-yo»: acabamos mirándonos a nosotros mismos. Así se crean cámaras de eco y burbujas informativas que favorecen la polarización. En lugar de contrastar nuestras ideas con otras, buscamos información que confirme lo que ya pensamos.

¿Qué papel desempeña la pérdida de memoria en este proceso?

La saturación informativa hace que una noticia pueda desplazar rápidamente a otra. El presidente del Gobierno fue el primer político en España que entendió eso hace muchos años. Consumimos contenidos de manera continua, breve y acelerada, pero muchas veces no recordamos qué hemos leído o visto. Si destruimos nuestra capacidad de recordar, también perjudicamos el aprendizaje y el pensamiento. La inteligencia artificial agrava el desafío porque aumenta la cantidad de contenidos que podemos producir y consumir. Nos enfrentamos a una situación en la que cada vez puede resultar más difícil distinguir lo real de lo ficticio.

¿Cuál es el mayor peligro?

Que lleguemos a ser cada vez menos capaces de distinguir la realidad de lo que no lo es. Si cada persona termina creyendo exclusivamente aquello que encaja con sus ideas, se debilita la capacidad de contrastar, aprender y construir una visión compartida de la realidad. Y eso no solo amenaza a la ciencia, sino también a la democracia.

Suscríbete para seguir leyendo