Expertos descubren el lado más oscuro de ChatGPT: "Si no se controla, podría ser mucho peor"
La IA de Sam Altman refleja sesgos humanos en decisiones clave, según un estudio, ya que puede cometer errores similares a los nuestros, afectando áreas como negocios y sanidad.
ChatGPT, uno de los sistemas de inteligencia artificial más avanzados, no solo imita el lenguaje humano, sino también sus errores.
Un estudio publicado en la revista Manufacturing & Service Operations Management ha revelado que esta IA de OpenAI puede caer en los mismos sesgos cognitivos que afectan a las personas, lo que plantea preguntas importantes sobre su fiabilidad en la toma de decisiones.
"A medida que la IA aprende de los datos humanos, también puede pensar como un humano, con sesgos incluidos. Si no se controla, podría ser mucho peor", afirmó Yang Chen, autor principal y profesor adjunto de la Universidad de Western.
¿La IA piensa como nosotros?
Investigadores han analizado cómo ChatGPT enfrenta diferentes escenarios de toma de decisiones, descubriendo que, en muchos casos, repite errores humanos. Por ejemplo, puede mostrar exceso de confianza en ciertas respuestas o evitar asumir riesgos incluso cuando la situación lo justifica.
Sin embargo, en otras áreas, actúa de manera completamente distinta a los humanos, como en la evaluación de probabilidades, donde demuestra una precisión superior.
Este hallazgo es preocupante porque muchas empresas y gobiernos ya están implementando IA en procesos clave, desde la selección de personal hasta la evaluación de créditos. Si la IA hereda prejuicios y errores de juicio, podría perpetuar decisiones equivocadas en lugar de corregirlas.
De hecho, el estudio evaluó a ChatGPT en 18 pruebas de sesgo cognitivo, obteniendo resultados mixtos:
- Errores humanos replicados: mostró tendencia a la falacia del jugador, en la que se cree erróneamente que un evento pasado influye en la probabilidad de un evento futuro.
- Decisiones más lógicas que las humanas: evitó sesgos como la falacia del costo hundido, que lleva a seguir invirtiendo en una opción solo porque ya se ha invertido mucho en ella.
- Mayor aversión al riesgo: tiende a elegir opciones seguras, incluso cuando una alternativa más arriesgada podría ofrecer mejores resultados.
- Sobreestimación de su precisión: la IA a menudo da respuestas con demasiada confianza, aunque no siempre sean correctas.
Estos patrones indican que ChatGPT no es simplemente un procesador de datos objetivo, sino que, dependiendo del caso, puede comportarse como un humano en sus debilidades o como una máquina extremadamente racional.
IA y decisiones críticas: ¿podemos confiar en ella?
Con la inteligencia artificial ganando terreno en sectores como la medicina, la educación y la administración pública, la presencia de sesgos podría traer consecuencias importantes.
Si una IA utilizada en la selección de personal favorece ciertos perfiles sin razón objetiva o si un sistema de diagnóstico médico descarta síntomas por basarse en patrones estadísticos incorrectos, el impacto sería grave.
"La IA no es un árbitro neutral", afirmó Samuel Kirshner, de la Escuela de Negocios de la UNSW. "Si no se controla, podría no solucionar los problemas de toma de decisiones; de hecho, podría agravarlos".
A medida que los gobiernos trabajan en normativas para la inteligencia artificial, este estudio resalta la necesidad de mecanismos de control. Entre las soluciones propuestas se encuentran:
- Auditorías periódicas: evaluar sus decisiones para detectar sesgos antes de que generen problemas.
- Transparencia en los algoritmos: garantizar que los modelos de IA sean explicables y se puedan ajustar cuando sea necesario.
- Intervención humana: usarla como herramienta de apoyo, pero sin eliminar la supervisión humana en decisiones sensibles.
ChatGPT y otras IA avanzadas han demostrado capacidades sorprendentes, pero también limitaciones que preocupan. La inteligencia artificial no es inmune a los sesgos y, sin una supervisión adecuada, podría reforzar prejuicios en lugar de eliminarlos.
La clave para su futuro no será solo mejorar su capacidad de respuesta, sino garantizar que su toma de decisiones sea transparente, justa y libre de errores sistemáticos.