Una IA médica de Google demuestra que necesita supervisión humana al inventarse una parte del cuerpo

A pesar de los grandes avances en tecnología, de los que nos hacemos en Computer Hoy y el resto de medios especializados día sí y día también, la inteligencia artificial aún está en pañales. Cierto es que ha crecido en capacidades y modalidades en los últimos años, pero aún queda mucho camino por recorrer en cuestiones de innovación.

Y la cuestión es que ya no importa tanto hasta dónde puede llegar la IA, sino qué errores es capaz de cometer. Así lo ha demostrado recientemente un estudio que ha concluido que el chatbot de OpenAI, ChatGPT, puede dar consejos a usuarios de 13 años sobre cómo disimular una borrachera en  el colegio o cómo hacer una dieta alimentaria peligrosa.

Más allá de eso, el principal problema de la inteligencia artificial es que sigue cometiendo grandes errores, que en este ámbito se conoce como alucinaciones, hasta el punto de que es capaz de inventarse órganos y partes del cuerpo que no existen solo por cambiar una letra de una palabra real.

Eso es lo que le ha sucedido al modelo de inteligencia artificial de salud de Google, conocido como Med-Gemini, que ha cometido el grave error de referirse a los ganglios basales como arteria basilar. Mientras que los primeros se encuentran en una zona del cerebro destinada al control motor, el aprendizaje y el procesamiento emocional, la arteria basilar se encarga de suministrar la sangre al tronco encefálico.

Tal y como ha relatado The Verge en un reportaje recientemente, Med-Gemini se inventó una parte del cuerpo combinando ambos términos y presentándolo como ganglio basilar, un error real que hasta hace muy poco estaba registrado en un artículo de investigación publicado por la tecnológica en 2024.

"Un simple error ortográfico"

Según cuenta el comentado medio, quien se dio cuenta de este fallo fue Bryan Moore, neurólogo certificado e investigador con experiencia en inteligencia artificial, que avisó a Google para que lo modificaran. Así lo hizo, editando discretamente la entrada del blog, pero cometiendo el error de no anunciar públicamente lo que había sucedido.

Si bien para Google esto ha sido solo un incidente, médicos y profesionales sanitarios consideran que se trata de un error muy peligroso, que, a su vez, expone las limitaciones de la inteligencia artificial aplicada a la atención sanitaria. 

"Lo que está diciendo es muy peligroso. Son solo dos letras, pero es muy importante", ha señalado Maulin Shah, que es director de información médica de Providence, dejando caer que una errata tan sencilla tendría consecuencias muy graves.

Lo cierto es que este fallo va mucho más allá de una letra, sino que demuestra que la inteligencia artificial no es capaz de trabajar de manera autónoma si no es capaz de diferenciar dos partes del cuerpo tan diferentes. Esto, por tanto, demuestra que debe contar sí o sí con la supervisión de un humano para proceder, ya que, de lo contrario, los resultados podrían ser catastróficos.

Un futuro sin médicos

Esto, en cierto modo, choca con lo que avanzó hace unos meses Bill Gates, que señaló que tanto los médicos como los profesores tenían los días contados en lo laboral por la irrupción de la IA. No cabe duda de que el fundador de Microsoft es un visionario, pero albergamos la esperanza de que esto no suceda, dadas las circunstancias.

No obstante, desde The Verge han indicado que el programa de pruebas que puso en marcha Med-Gemini ya no admite nuevos participantes, "lo que probablemente significa que el programa ya se está probando en situaciones médicas reales de manera experimental".

Asimismo, Google ha querido restarle importancia recordando que trabaja "continuamente" para mejorar sus modelos, "examinando rigurosamente una amplia gama de atributos de rendimiento", en palabras de uno de sus portavoces, Jason Freidenfelds.

Otros artículos interesantes: