La IA está llevando a la ciencia a un terreno desconocido, con más publicaciones, pero de peor calidad
Varios estudios avisan de que los artículos científicos presentan peor calidad y menor diversidad de temas, aunque las herramientas de detección no parecen ser la solución.
Muchos investigadores tienen miedo a que la inteligencia artificial provoque una pérdida de calidad del conocimiento humano. Y, según numerosas publicaciones, el miedo está basado en un hecho que se cada vez con mayor frecuencia.
Según uno de los últimos estudios, titulado More versus better: artificial intelligence, incentives and the emerging crisis in peer review y llevado a cabo por investigadores de Estados Unidos, el problema de la ciencia contemporánea tiene que ver con la revisión de los artículos, su frecuencia de publicación y la autoría.
De tal forma, el volumen de envíos de manuscrito ha aumentado un 42% desde la llegada de ChatGPT al público general a finales de 2022; desafortunadamente, esto no implica una mejor calidad o investigación, sino simplemente un mayor número de los conocidos papers.
"El aumento de los textos generados por inteligencia artificial explica casi todas estas tendencias", asegura el equipo en su estudio. "En las revisiones también ha aumentado, con textos de peor calidad y una menor diversidad de temáticas que en las investigaciones de humanos".
Esta marcada tendencia puede hacer que se rompa completamente el sistema de revisión por pares, un elemento básico para que otros expertos e investigadores puedan revisar y comprobar las hipótesis, datos y conclusiones de una u otra publicación.
Más aún, los textos reconocidos con un alto porcentaje de textos generados por IA suelen tener un rechazo editorial de un 30% más que los de los humanos, por lo que este tipo de tecnología aún no ha superado al pensamiento humano, algo que puede pasar factura a medio y largo plazo.
La gran batalla: autoría humana vs algoritmos
Prácticamente todas las organizaciones que centran sus investigaciones en el uso ético de la IA en el ámbito científico coinciden en que este tipo de tecnología no cuenta con las facultades necesarias que tiene un ser humano para considerarse el autor de una obra.
Una de las organizaciones punteras en este tipo de temas, la Asociación Mundial de Editores Médicos (WAME) ya alertó en una investigación en 2023 que el uso de chatbots de IA no tendría que prohibirse, ya que pueden ser vitales para la redacción de textos.
El gran problema, no obstante, reside en que ChatGPT y otros no tienen un pensamiento original, sino que se basan en las probabilidades, siempre marcadas por algoritmos: "ChatGPT a veces responde cosas que parecen plausibles, pero que son incorrectas o no tienen sentido".
A ello se añade una complejidad que a día de hoy continúa debatiéndose en todo el mundo, ante una tecnología que avanza de forma impresionante y prácticamente sin que nadie pueda ofrecer un pronóstico claro para el futuro.
Según WAME, cualquier autor que haya usado un chatbot impulsado por IA es el responsable final de lo que se publica, además de que tendrá que proporcionar información sobre cómo lo utilizaron.
Por tanto, la transparencia es imprescindible, algo de lo que no solo adolece la ciencia, sino que se puede apreciar directamente en herramientas como redes sociales, con contenido no marcado como IA y, en la actualidad, bastante complicado de identificar.
En este mismo sentido apuntan revistas científicas del máximo nivel, como Nature, que obligan a etiquetar en la sección de método empleados si se ha utilizado la IA; es decir, que formaría parte de la metodología de dichas investigaciones y tiene que estar claramente marcado como tal.
Ahora bien, hay otro peligro aún mayor: que ninguna herramienta sea capaz de identificar otro tipo de uso de la IA y el ámbito científico se convierta en una especie de fábrica autómata de artículos.
La injusticia epistémica y las fábricas de artículos
Producción y revisión van de la mano en este campo: si hay una mayor cantidad de contenidos disponibles revisados por IA o directamente redactados por esta, los humanos no dan abasto y tienen que usar herramientas de revisión de IA, un círculo vicioso del que alertan los expertos.
Una investigación llevada a cabo por un equipo de la Wharton School llegó a la conclusión de que, a pesar de la creencia de que la IA puede mejorar los textos, ha habido un deterioro generalizado en la calidad de los mismos, además de las revisiones.
Ante este panorama, el uso de herramientas de detección puede llegar a ser muy peligroso; según la Universidad de Stanford, que ha acuñado el término de "injusticia epistémica" en este ámbito, hay numerosos falsos positivos que mantienen un sesgo sobre ciertas formas de escritura.
Originalmente, este concepto pertenece a la filósofa Miranda Fricker, quien hace casi 20 años distinguió entre 2 tipos de injusticias epistémicas, la testimonial y la hermenéutica.
Mientras que la primera se refiere a ignorar el conocimiento o la credibilidad de una persona por pertenecer a un grupo social determinado, la segunda implica no comprender la experiencia de una persona porque no existen conceptos que identifiquen dicha experiencia.
Al estar también basadas en probabilidades, se genera esta injusticia cuando el vocabulario del autor puede ser muy predecible, aunque no haya utilizado ningún tipo de herramienta de IA para su artículo.
Más aún, al ser el idioma principal de la IA el inglés, esto puede llevar a regiones en desarrollo y otros idiomas a ser detectados casi siempre como IA, un análisis que puede aumentar las diferencias globales en el terreno de la ciencia.
En el lado opuesto aparecen los denominados como paper mills, que forman parte de una fábrica de artículos generados mediante IA, con términos bastante absurdos que llevan también indudablemente a la pérdida de calidad científica.
Estos no tienen ningún tipo de pensamiento crítico, por lo que producen manuscritos con coherencia, pero sin sentido a nivel de corpus científico; el resultado es que pueden leerse términos que nadie utilizaría, por ejemplo, cambiando "cáncer de mama" por "peligro de pecho".