"Las soluciones de OpenAI no cumplen los estándares": los expertos matemáticos cuestionan sus avances con la IA
Elígenos como tu fuente preferida en Google.
La compañía de Sam Altman presume de haber resuelto cientos de problemas matemáticos casi imposibles gracias a su IA. Los expertos parece que no lo tienen tan claro.
Parece que OpenAI se ha fijado el objetivo de resolver todos los problemas matemáticos del mundo que aún no tienen solución. Sin ir más lejos, hace poco aseguró que uno de sus modelos internos, más potente en matemáticas que GPT-6 Astra, había conseguido resolver el problema de Navier-Stokes, uno de los siete Problemas del Milenio.
Meses antes, afirmó que ChatGPT había conseguido resolver un problema matemático sin solución desde 1966.
Ahora, ha publicado en GitHub 719 manuscritos con soluciones a problemas matemáticos. Y, para evitar las críticas que ya ha recibido por su forma de presentar algunos resultados, la empresa ha contado con recomendaciones de un grupo de expertos en matemáticas e inteligencia artificial.
Sin embargo, los propios criterios de ese grupo dejan dudas sobre si el trabajo publicado cumple todos los estándares que consideran necesarios.
Y es que, aunque OpenAI diga que ha resuelto problemas imposibles, también importa que otros matemáticos puedan revisarla, entenderla y comprobar que no contiene errores.
Esto no demuestra que las soluciones sean falsas, pero sí pone en duda esos titulares rodeados de fuegos artificiales. Al final, la duda es si realmente se puede confiar en una demostración matemática generada y comprobada por la propia inteligencia artificial sin que una persona revise el proceso.
OpenAI publica 719 manuscritos, pero los matemáticos ponen condiciones
Tomando el último caso como base, el grupo de expertos que ahora está dando mucho de qué hablar es el Advisory Group on Mathematics and Artificial Intelligence (AGMAI), una organización formada por nueve investigadores.
A finales de septiembre, el grupo publicó una serie de recomendaciones para las empresas que trabajan con modelos de inteligencia artificial y los utilizan para resolver problemas matemáticos. Su objetivo es que los avances se comuniquen de una forma concreta y que los resultados puedan ser comprobados por la comunidad científica antes de afirmar nada.
OpenAI ha seguido algunas de esas recomendaciones. Por ejemplo, ha publicado sus resultados y ha incluido información sobre cómo llegaron los modelos a determinadas conclusiones. Sin embargo, hay otros puntos que se saltan por completo.
Una de las exigencias del AGMAI es dejar de probar problemas matemáticos en modelos propietarios, es decir, sistemas cuyo funcionamiento interno no es abierto a la comunidad experta.
Por supuesto, también hay muchas dudas sobre la información que se da con respecto a las demostraciones. De los 719 manuscritos publicados, solo 10 incluyen la cadena de razonamiento del modelo, según los datos recogidos por TechCrunch.
Básicamente, esta es la información que ayuda a entender cómo ha llegado la IA a una conclusión, aunque mostrarla tampoco garantiza por sí sola que la demostración sea correcta.
Otro punto es la formalización de las pruebas matemáticas. Cuando una demostración es difícil de entender o de revisar, los expertos recomiendan simplificarla. Según la información publicada, solo una parte de los trabajos de OpenAI había pasado por ese proceso.
Terence Tao y otros expertos piden más participación humana
Terence Tao, uno de los matemáticos más importantes del mundo y crítico con algunas formas de actuar por parte de OpenAI, comenta que hay personas que utilizan estos modelos para resolver un problema concreto, pero después no comprenden el resultado como para responder preguntas, explicarlo o ni siquiera argumentar para qué sirve eso.
Cuando un matemático, un humano, descubre algo nuevo, no basta con publicar una fórmula: debe explicar cómo ha llegado a ella, defender sus argumentos y someterlos a las preguntas de otros investigadores.
Melanie Wood, profesora de matemáticas de la Universidad de Harvard, también explica que, cuando se publica una solución generada por IA, todavía puede faltar la comprensión humana del resultado. Es decir, conseguir que una IA te dé una demostración no significa que el trabajo científico haya terminado.
Por supuesto, ninguno desmiente por completo que realmente la IA haya conseguido resolver determinados problemas matemáticos.
Sin embargo, dejan claro que se saltan cualquier tipo de norma que los humanos sí que deben seguir, simplemente para ponerse una medalla que todavía no les corresponde. Y todo para simplemente afirmar que su modelo es el mejor del mundo y que no hay competencia.
