Un error de la IA provocó un efecto “teléfono escacharrado” que deja en pañales a miles de científicos en todo el mundo
Ni Microsoft Copilot, ni Google Gemini son del todo confiables. La inteligencia artificial ha generado un error de información catastrófico en los estudios para la ciencia.
La tecnología de los modelos de compañías como Open AI es sin duda algo impresionante, pero ¿qué pasaría si te dijera que ChatGPT y DeepSeek pueden hacer que muchas personas se equivoquen en cadena? Al igual que otras, hay un margen de error con el que se debe tener mucho cuidado.
Cuando se trata de profesionales, se pensaría que es algo poco probable que pase. La cuestión es que ya ha sucedido y ha sido un golpe duro para la ciencia porque ahora hay proyectos defectuosos de investigación.
¿Recuerdas el efecto “teléfono escarchado”? Ese juego donde la información se distorsiona al pasarse de persona a persona con susurros, pues parece que la IA ha hecho lo mismo con especialistas que confiaron plenamente en ella, siendo un gran inconveniente para la industria.
La inteligencia artificial se equivoca en una traducción y causa problemas en estudios científicos
Tras una larga investigación por parte del equipo de Broken Science Initiative, se ha encontrado un error de gran magnitud sobre la inteligencia artificial. Al parecer, muchos académicos utilizan esta herramienta para generar el texto de los estudios científicos, ya que ofrece una automatización.
Si bien esto permite ahorrar mucho tiempo y generar contenido de “calidad”, las últimas noticias referentes al tema no han sido buenas para dicha tecnología. Ya sean modelos como GPT-4, DeepSeek R1, Claude3-Opus y otras, se ha determinado en varias ocasiones que la IA no es perfecta.
Esta vez, han encontrado una equivocación que se ha esparcido a lo largo de muchos artículos de estudios para la ciencia y los expertos han advertido que se le debe poner un stop antes de que sea demasiado tarde y se siga generando el mismo problema.
Todo gira alrededor de una interpretación defectuosa por parte de esta tecnología, algo que ha pasado desapercibido y que solo pocos han notado. Se trata de la frase “microscopía electrónica vegetativa”, la cual no es correcta debido a una mala traducción.
“Este incidente pone de relieve un problema creciente: el uso descontrolado de la IA en la investigación académica. Una simple interpretación errónea de la IA dio lugar a casi dos docenas de estudios cuestionables, prueba de que el proceso de revisión por pares” - Broken Science Initiative.
El origen de este título proviene de un vocabulario ruso, donde se habla de un estudio de la composición vegetal, conocido por su nombre original Paralabrax Clathratus. Sin embargo, esa frase en inglés (vegetative electron microscopy) no tenía mucho sentido para el ingeniero de software, Alexander Magazinov.
El mencionado especialista tuvo que hacer una investigación profunda en Internet para buscar si lo que decía la IA era real o una simple alucinación. Después de invertir tiempo y esfuerzo, se dio cuenta de que provenía de un artículo científico de 1959, donde había una traducción errónea y fue utilizado como fuente para muchos otros investigadores.
Entonces, la forma adecuada de referirse a esto es “microscopía electrónica de estructuras vegetativas” (electron microscopy of vegetative structures). Sí, una sola palabra puede cambiarlo todo en el ámbito de la ciencia y causar muchos inconvenientes.
Para tener una idea de la magnitud de esta situación, serían docenas de estudios afectados, lo cual hace que se convierta en una posible cadena de miles de personas recibiendo esos datos. Estos académicos usarían esa información y generarían otros estudios para compartirlos, causando un círculo vicioso del que puede ser complicado salir.
¿Es confiable la IA para el ámbito académico?
La verdadera pregunta ante todo esto es si de verdad la inteligencia puede seguir considerándose como una herramienta confiable. Se sabe muy bien que esta tecnología utiliza información que ya existe para crear su base de conocimientos a través del machine learning y otras prácticas de entrenamiento.
Entonces, aunque es ideal para crear automatizaciones, acelerar el proceso de los descubrimientos y ahorrar tiempo con contenido generado, todavía requiere de intervención humana. De hecho, un estudio de Microsoft afirma que los profesionales que desconfían de la IA son más aptos para la realización de trabajo asistido.
Al mismo tiempo, hay otras estadísticas que apuntan a que muchos trabajadores están dejando de pensar. No es la primera vez que se presentan errores, pues ChatGPT genera imágenes de reloj problemáticas y la alucinación sigue siendo un factor negativo en los chatbots.
En conclusión, la inteligencia artificial beneficia a la humanidad en muchos aspectos, pero no hay que volverse dependientes de ella y es fundamental comprobar la información que otorga antes de utilizarla, ya que se puede equivocar. Eso sí, es muy probable que en futuro se logre evitar esto con parámetros más precisos.