Investigadores de la IA alertan de un inminente peligro: "Estamos en el camino equivocado"

Un grupo de expertos en inteligencia artificial acaba de encender todas las alarmas con respecto al rumbo actual de esta tecnología. En concreto, y según un informe presentado en el panel presidencial de la Asociación para el Avance de la Inteligencia Artificial (AAAI) en 2025, la idea de alcanzar la AGI está distorsionando las necesidades que hay actualmente.

El informe, elaborado por 24 investigadores y basado en encuestas a 475 expertos del sector, deja bastante claro que el enfoque actual para desarrollar AGI —la inteligencia artificial con capacidades humanas— no es suficiente. 

De hecho, el 76% de los encuestados cree que simplemente escalar los modelos actuales no llevará a resultados exitosos. “Estamos persiguiendo un objetivo sin una estrategia adecuada”, señala Rodney Brooks, científico del MIT y uno de los autores del informe.

Además, advierten que la percepción pública sobre la IA está alimentada por expectativas poco realistas. Según el informe, el 79% de los encuestados cree que el hype sobre las capacidades actuales de la IA está frenando el progreso real. “La exageración está impulsando decisiones equivocadas”, afirman.

¿Qué es realmente la AGI y por qué importa tanto?

De forma simple, aunque en el vídeo anterior también podrás conocer qué es a fondo, la AGI se refiere a una máquina capaz de interpretar información y aprender como lo haría un ser humano. Este concepto ha sido considerado el “Santo Grial” de la inteligencia artificial, con potencial para cambiar sectores como la educación, transporte y tecnología. 

Supera con creces las capacidades de la IA, tal y como la conocemos actualmente, y a algunos científicos les preocupa que conduzca a un futuro distópico. Stephen Hawking advirtió contra su desarrollo, ya que nos vería como una amenaza potencial y actuaría en consecuencia, mientras que Elon Musk afirmó que la IA sensible sería más peligrosa que una guerra nuclear.

Sin embargo, los expertos creen que perseguir AGI sin un enfoque ético y con cabeza podría tener consecuencias graves. Henry Kautz, científico de la Universidad de Virginia y otro autor del informe, explica: "Hace cinco años ni siquiera podíamos tener esta conversación porque la IA estaba limitada a aplicaciones básicas. Ahora estamos viendo avances increíbles, pero también riesgos que no podemos ignorar".

Uno de los mayores problemas a resolver y que no se está teniendo en cuenta es garantizar que estas tecnologías sean de fiar. Según pruebas realizadas en 2024, incluso los mejores modelos actuales solo respondieron correctamente a un 50% de las preguntas en un benchmark estándar.

¿Acabará la IA con la humanidad? Escenarios que podrían ocurrir si la inteligencia artificial se descontrola

Volviendo al informe antes comentado, se comenta cómo, por otro lado, las expectativas infladas sobre la IA están afectando negativamente su desarrollo. Muchas decisiones de empresas e incluso ya de gobiernos y están siendo tomadas de forma errónea sin tener en cuenta lo que realmente puede hacer la tecnología. "La mayoría subestima lo avanzado que está lo mejor de la IA hoy en día, pero también exagera lo que puede lograr mañana", explica Kautz.

Sin ir más lejos, el 72% de los líderes empresariales considera que el desarrollo de la IA es una parte esencial del éxito futuro de su empresa. Sin embargo, comentan que "es importante usar cautela ante niveles tan altos de entusiasmo sobre lo que viene ‘en cualquier momento’. Esto puede llevarnos a tomar decisiones precipitadas”, añade otro investigador.

Aún queda mucho por investigar y desarrollar... pero hace falta mucha cabeza

Dejando a un lado los temores, la mayoría de los científicos están de acuerdo en que faltan décadas, o incluso siglos, para que se cree una verdadera inteligencia artificial, que debe cumplir una serie de criterios —en constante evolución— antes de que pueda hacerse realidad. Entre ellos, la capacidad de razonar, utilizar estrategias, resolver rompecabezas y emitir juicios.

Teniendo esto en cuenta, ¿en qué punto nos encontramos y quién está trabajando para alcanzar el objetivo de crear inteligencia artificial general?

Parece que hay tres vertientes: la mayoría de los expertos se muestran escépticos ante la posibilidad de que la AGI llegue a hacerse realidad, mientras que otros especulan que el deseo de crear una inteligencia sintética equiparable a la humana se desvanecerá con el tiempo. Otros, como ya has podido comprobar, persiguen su avance en beneficio de la humanidad.

Sin embargo, incluso ahora, los científicos siguen en la fase de planificación del desarrollo de la AGI, y se esperan avances mínimos en las próximas décadas.

El Dr. Hiroshi Yamakawa, uno de los principales investigadores de AGI en Japón, es de los que piensa en positivo con respecto al futuro de la AGI: "Creo que existe la posibilidad de que ocurra pronto", afirma."Pero sacando la media de las estimaciones de las personas implicadas, llegamos a 2030", añade.

Pese a todo esto y como señala Brooks: "La única dirección es hacia adelante… pero debemos asegurarnos de caminar con cuidado".

Otros artículos interesantes: