Experto científico en IA contradice a Sam Altman: "Es un error pensar que Newton o Einstein eran solo buenos estudiantes"
Thomas Wolf, experto en inteligencia artificial, desafía la visión del CEO de OpenAI sobre el gran avance de la IA y advierte sobre sus limitaciones en el pensamiento innovador
La inteligencia artificial avanza a pasos agigantados, con promesas de revolucionar el descubrimiento científico en las próximas décadas. Sam Altman, CEO de OpenAI, asegura que la IA pronto acelerará el progreso en múltiples disciplinas, permitiendo avances sin precedentes.
Sin embargo, en una detallada publicación en X el jueves 8 de marzo, Thomas Wolf, director científico de Hugging Face comparó la IA con un grupo de estudiantes que obtienen "excelentes calificaciones".
Wolf sostiene que estos sistemas aún están lejos de generar conocimientos realmente innovadores. Según él, la IA actual reproduce información con precisión, pero carece de la capacidad de formular preguntas disruptivas que desafíen el conocimiento establecido.
¿Puede la IA hacer ciencia como un genio?
Wolf advierte que existe una idea errónea sobre cómo surgen los grandes descubrimientos. En su opinión: "El principal error que suele cometer la gente es pensar que Newton o Einstein eran simplemente buenos estudiantes de mayor nivel".
La IA, por el contrario, se entrena con datos previos y modelos de aprendizaje que la llevan a reforzar patrones existentes, pero no a cuestionarlos de manera radical.
Un claro ejemplo es el caso de Copérnico, quien desafió siglos de conocimiento aceptado al proponer un modelo heliocéntrico del universo. Este tipo de razonamiento no se basa en la acumulación de información previa, sino en la capacidad de concebir alternativas que contradigan el consenso.
Para Wolf, los modelos de IA actuales carecen de esta cualidad, ya que su aprendizaje se basa en la consolidación de patrones dentro de un conjunto de datos preexistente.
Uno de los mayores peligros, según el experto, es que la IA se convierta en un sistema que solo refuerza lo que ya se sabe. "Los verdaderos avances científicos no surgirán de responder preguntas conocidas, sino de plantear nuevas preguntas desafiantes y cuestionar concepciones comunes e ideas previas", escribió Wolf.
Las pruebas utilizadas para evaluar el rendimiento de la IA suelen plantear preguntas difíciles, pero con respuestas claras.
Si la IA se limita a proporcionar respuestas dentro de los límites de su entrenamiento, existe el riesgo de que los avances científicos sean más incrementales que disruptivos. En lugar de cuestionar lo que ya se sabe, estos modelos podrían actuar como una confirmación constante de teorías preexistentes, sin la capacidad de generar ideas radicalmente nuevas.
La visión optimista de Altman: IA como motor del progreso
Por otro lado, Sam Altman cree que la inteligencia artificial superinteligente cambiará el mundo de manera similar al impacto del transistor en la economía y la tecnología. Según él, en el futuro próximo la IA podrá asistir en el descubrimiento de nuevas terapias médicas, mejorar la creatividad humana y resolver problemas complejos con mayor rapidez.
En OpenAI, ya trabajan en el desarrollo de agentes de IA que puedan actuar como asistentes virtuales avanzados. La idea es que estos sistemas puedan desempeñar tareas de investigación del mismo modo en que lo haría un ingeniero con experiencia.
"Imaginemos que este agente eventualmente será capaz de hacer la mayoría de las cosas que un ingeniero de software de una empresa importante con unos pocos años de experiencia podría hacer, para tareas de hasta un par de días de duración", escribió Altman en su blog.
Sin embargo, Altman reconoce que estas herramientas seguirán necesitando dirección humana y que, si bien serán sobresalientes en ciertos aspectos, en otros podrían mostrar limitaciones evidentes.
Para evitar que la inteligencia artificial se estanque en la mera repetición de conocimientos previos, Wolf propone un enfoque distinto, desarrollar sistemas que no solo busquen respuestas, sino que formulen preguntas audaces.
El futuro de la ciencia impulsada por IA dependerá de si logramos desarrollar modelos capaces de ir más allá de lo aprendido y atreverse a cuestionar lo incuestionable.