Las alucinaciones de la IA se convierten en un grave problema para OpenAI: ChatGPT inventó un asesino falso y lo encarceló
ChatGPT ha llevado las alucinaciones de IA al siguiente nivel: el chatbot de OpenAI ha confundido a un usuario con un asesino y le ha condenado a 21 años de cárcel. La compañía vuelve a incumplir las normas de protección de datos de la UE.
OpenAI está de lleno en su batalla para utilizar archivos con derechos de autor para entrenar a su IA en Estados Unidos y las quejas de falta de privacidad en Europa. La empresa de Sam Altman se enfrenta a una nueva polémica, su chatbot ha empezado a difundir información falsa de los usuarios.
ChatGPT no se libra de las famosas alucinaciones de IA. El chatbot de OpenAI ha inventado que un hombre de Noruega había sido condenado por asesinar a dos de sus hijos e intentar matar al tercero. El organismo de defensa de los derechos a la privacidad Noyb ha apoyado a la víctima.
La historia no ha tardado en darse a conocer en la localidad de Arve Hjalmar Holmen. El protagonista de los hechos ha denunciado a ChatGPT por difamación. El chatbot incluso inventó que el hombre estaba condenado a 21 años de prisión por los actos cometidos, todo era falso.
La noticia de que Hjalmar Holmen es un asesino es completamente falsa, pero Noyb señala que la respuesta del chatbot tiene algunas verdades, es cierto que tiene tres hijos, el género de los niños es correcto y el nombre de su ciudad.
Un portavoz de Noyb asegura en un comunicado en su web que no pueden determinar por qué ChatGPT generó un historial tan específico del protagonista de los hechos. El equipo de investigadores incluso comprobó que no se tratara de una confusión con otra persona consultando archivos periodísticos.
ChatGPT incumple la normativa de protección de datos de la UE
Los modelos de lenguaje de gran tamaño como ChatGPT realizan predicciones de palabras clave para posteriormente buscar en enormes conjuntos de datos utilizados para entrenar la herramienta. A pesar de ser una predicción, el resultado es inaceptable.
Noyb ha explicado que OpenAI no cumple con las normas de protección de datos de la Unión Europea. ChatGPT muestra una pequeña advertencia en la parte inferior de la pantalla en la que asegura que puede cometer errores. Esto no exime al desarrollador de IA, según el Reglamento General de Protección de Datos (RGPD).
ChatGPT suele cometer fallos en información personal como fechas de nacimiento o datos biográficos, pero el chatbot ha cruzado los límites con el caso de Noruega. Los usuarios aseguran que OpenAI no les permite corregir la información errónea que la IA genera sobre ellos, solo pueden pedir que se bloqueen las respuestas a esas solicitudes.
El RGPD de la Unión Europea establece que los usuarios deben tener acceso a sus datos administrados por este tipo de herramientas, incluso tienen el derecho de rectificar su información si consideran que es errónea.
“El RGPD es claro. Los datos personales deben ser precisos. De no ser así, los usuarios tienen derecho a modificarlos para que reflejen la verdad. Mostrar a los usuarios de ChatGPT una pequeña advertencia de que el chatbot puede cometer errores no es suficiente. No se puede difundir información y añadir un aviso que indique que todo lo que se ha dicho puede ser falso”, según Joakim Söderberg, abogado de protección de datos de Noyb.