Expertos hablan de uno de los mayores peligros de ChatGPT: "La IA puede afectar a la salud de las personas"
¿Puede la inteligencia artificial dar diagnósticos médicos acertados? Los especialistas piensan que el problema no es ese, sino su falta de transparencia.
En opinión de algunos expertos, ChatGPT y la inteligencia artificial supondrán una revolución médica. Incluso los más aventurados dicen, aunque suene a ciencia ficción, que algún día esta tecnología vencerá a la muerte. Predicciones, algunas más aventuradas que otras, pero que no terminan de responder a la pregunta clave: ¿es fiable la IA en cuanto a diagnósticos hoy?
La realidad pasa porque mucha gente ya está empleando chatbots a modo de médicos, lo mismo que como analistas de todo tipo. Pero aunque puede parecer una solución sencilla, rápida y cómoda, no son pocos los especialistas que hablan de sus riesgos. Sobre todo por un hecho en tela de juicio: nadie tiene del todo claro cómo llega a las conclusiones que comparte.
La inteligencia artificial, un médico poco claro
Varios expertos investigadores de la Universidad de Washington han dialogado largo y tendido sobre los riesgos que la inteligencia artificial y herramientas como ChatGPT pueden tener para la salud. En su opinión no se trata únicamente de un problema ético, como algunos exponen. En realidad, tampoco lo más importante pasa por que la IA sea más o menos precisa en sus diagnósticos.
Para tratar bien el tema, dicen, hay que empezar por fijarse en los resultados. Los chatbots pueden ser buenos en lo que se refiere a pruebas internas, pero cuando trabajan en hospitales concretos o tienen que manejar datos complejos, su rendimiento baja de manera muy drástica. Con frecuencia, incluso se despistan y se centran en aspectos que no tienen la más mínima importancia en realidad.
Hay un ejemplo que representa muy bien a qué se refieren. Cuando la IA es entrenada para analizar imágenes tomadas por rayos X, la cosa parece funcionar. En cambio, cuando ya se trata de pruebas reales, tiene comportamientos absurdos. Sin ir más lejos, en lugar de fijarse en la propia radiografía en sí, se pone a analizar las marcas de texto de las esquinas, que no deberían tener ningún interés.
No son los únicos casos similares de los que se tiene constancia, ni mucho menos. Algo parecido ha pasado con pruebas dermatológicas. En teoría, la inteligencia artificial sabe lo que es un melanoma, e incluso debería tener la capacidad para distinguir uno a partir de una imagen de un paciente. Pero en la práctica, cuando se ha puesto a prueba, rara vez acierta al identificar una anomalía.
No solo es un problema de alucinaciones
Mucha gente piensa que el principal inconveniente de emplear ChatGPT o cualquier inteligencia artificial parecida radica en sus llamadas alucinaciones. Es decir, en los fallos que comete sabe Dios por qué. No es inusual que se invente las cosas. Sin embargo, el problema es bastante más profundo, dicen los expertos.
El gran hándicap de la IA en este sentido, al menos a día de hoy, es que no resulta transparente a la hora de determinar por qué llega a las conclusiones a las que llega. Dicho de otra forma: no vale con que ChatGPT funcione, sino que es necesario saber por qué funciona. Todo lo que no sea eso, seguirá siendo un peligro para la salud de los pacientes.