Un estudio advierte del riesgo de llevar ChatGPT a los hospitales: “Corre peligro la vida de los pacientes”
Al contrario de lo que asegura Sam Altman, de OpenAI, los especialistas no tienen claro que el empleo de esta tecnología siempre resulte beneficioso.
Según Sam Altman, ChatGPT revolucionará el mundo de la medicina (entre otros muchos mundos). El problema es que lo que dice Sam Altman no siempre coincide plenamente con la realidad. Que muchos hospitales ya emplean la inteligencia artificial para sus tareas cotidianas es un hecho. Sin embargo, un nuevo estudio pone de manifiesto que quizá no sea buena idea.
Al menos, el informe pone en valor una serie de cuestiones que no están del todo claras y que, tratándose como se trata de la salud, podría acarrear consecuencias graves. En algunos casos, incluso pone en peligro la vida de los propios pacientes. O dicho de otra forma: ¿están ya los centros hospitalarios para trabajar codo a codo con esta tecnología, como empieza a suceder?
El peligro de llevar ChatGPT a los hospitales, según un estudio
Puede que en el futuro suceda igual que en las películas de ciencia ficción, y sea un médico-robot quien atienda a los enfermos. Incluso puede que las máquinas sean mucho más fiables a la hora de extender diagnósticos, curar a la gente y todas esas responsabilidades. Pero tal vez aún sea pronto para eso, y llevar una IA como ChatGPT a los hospitales tenga sus riesgos.
Al menos, eso es lo que pone de manifiesto un nuevo estudio compartido por Forbes. Según este, más del 60% de los hospitales estadounidenses ya utilizan o están probando herramientas basadas en IA para gestionar datos, generar diagnósticos preliminares o elaborar historiales médicos. Casi como si se tratara de un ayudante. Pero los expertos advierten del peligro que eso conlleva.
Uno de los principales riesgos señalados por los autores es lo que casi todo el mundo conoce: la tendencia de los modelos de lenguaje como ChatGPT a generar respuestas incorrectas o inventadas. Es decir, sus célebres alucinaciones. Cuando se trata de redactar algo o informar no es idóneo; cuando tiene que ver con la salud, el fallo en los diagnósticos puede ser un problema importante.
Los resultados, dice el estudio, están ahí. Algunos hospitales han probado versiones de ChatGPT para redactar informes clínicos o resumir historiales médicos, con resultados preocupantes. En varios casos, la IA omitió datos imprescindibles, confundió términos médicos o generó afirmaciones sin más base científica que su deseo de que fuese así. Algo que, en la práctica clínica, puede ser mortal.
La IA, una cuestión de responsabilidad
Las habituales meteduras de pata de ChatGPT no son lo único que parece preocupar a los expertos. También la privacidad es un tema a tener en cuenta. Muchos sistemas hospitalarios dependen de servicios en la nube o de modelos desarrollados por empresas externas. Y ya se sabe que la IA, como han demostrado muchos estudios, es "experta" en filtraciones de datos sensibles.
Y luego, claro, está el tema de la responsabilidad, como dice el informe. Si un médico se confunde, es cosa suya. ¿Pero quién es culpable, y hasta qué punto, si quien se confunde es una inteligencia artificial? ¿Se culpa al desarrollador? ¿Al doctor que le hizo caso? Preguntas, todas ellas, para las que aún no existen respuestas demasiado claras.