Ni Sam Altman ni Elon Musk tienen razón: un estudio revela por qué la IA es una amenaza para la salud o la educación
Los investigadores han puesto de manifiesto que esta tecnología no es fiable a la hora de dedicarse al bienestar de la gente, ni tampoco a la enseñanza de nadie.
Ni Sam Altman ni Elon Musk han dudado en ningún momento cómo será el futuro. O por lo menos, eso es lo que ellos dicen. Ambos piensan que la inteligencia artificial se ocupará de todo, incluyendo tareas profesionales tan sensibles como la salud o la educación. ¿Será realmente así? Un nuevo estudio parece apuntar directamente en la dirección contraria.
No es la primera vez que algún experto habla al respecto y sugiere algo parecido: dejar la medicina en manos de la IA es una barbaridad, lo mismo que la enseñanza. Una tendencia que, todo sea dicho, ya se está produciendo. La diferencia de la nueva investigación es que no se trata de una opinión más o menos fundada, sino que se sostiene en datos.
El estudio que contradice a Sam Altman y Elon Musk
El estudio en cuestión, llevada a cabo por Northeastern, se centra principalmente en un término: "AI sycophancy". Se trata de un fenómeno emergente que cada vez se escucha más. ¿Y en qué consiste? Pues en la inclinación que muchos modelos IA tienen de adular al usuario, coincidir con su punto de vista y evitar discrepar, incluso cuando este es incorrecto.
El problema, dicen, no está tanto en que ChatGPT o la IA busquen complacer al usuario o se agradables con él, sino en cómo los chatbots no tienen reparos en alterar su juicio de valores para que, cabe suponer, la gente pase más tiempo conectada a la IA. Para medirlo, el equipo utilizó métodos de razonamiento inspirados en la estadística bayesiana, un enfoque común en las ciencias sociales.
Este comportamiento, aseguran los expertos, convierte a la inteligencia artificial en una amenaza para la salud o la educación y, por lo tanto, la hacen inviable. Quizá pueda servir a modo de consulta, pero no para confiar el bienestar de la gente a ella, tal y como proponen Sam Altman o Elon Musk. El riesgo sería demasiado grande y las ventajas, inciertas.
No es la primera vez que algo así se pone de manifiesto. Otras investigaciones en la misma línea anteriores han dado los mismos resultados: la IA valida sin inconveniente un diagnóstico erróneo o dar instrucciones médicas equivocadas simplemente para agradar al usuario, priorizando la simpatía sobre la precisión. Lo que sea antes de perder al usuario, por así decirlo.
Un futuro incierto alrededor de la IA
El estudio no deja lugar a la duda: la IA no está preparada para responsabilizarse de según qué tareas. La gran pregunta es, ¿hasta qué punto se tendrá en cuenta? Tampoco sus resultados en el mundo empresarial han sido siempre convincentes y compañías como Amazon, Microsoft o Google ya se han apresurado en despedir a trabajadores y sustituirlos por IA.
La tentación es fuerte: la IA ahorra dinero, no se cansa, no se toma vacaciones ni permisos de maternidad. Por lo que confiar en que las opiniones de los expertos vayan a ser escuchadas, quizá sea confiar demasiado.