¿Podría una 'IA alien' manipularte sin que lo notes? La curiosa advertencia de este físico de Harvard

Para que te hagas una ligera idea, la inteligencia artificial que se conoce hoy en día y que es usada por millones de personas, está diseñada para imitar el razonamiento humano. Desde chatbots como ChatGPT hasta sistemas más avanzados, da exactamente igual porque su funcionamiento se basa en patrones que un humano entiende. 

Pero, ¿qué pasaría si una IA llegara a operar bajo principios completamente alejados a la lógica humana? Avi Loeb, una eminencia en el mundo académico, advierte que esto no solo es posible, sino que podría ser inevitable a medida que las máquinas alcancen niveles de mejora superiores al cerebro humano.

En una entrevista con Infobae, Loeb explicó cómo estas máquinas podrían utilizar el lenguaje para manipularte mientras persiguen objetivos secundarios que ni siquiera comprenderías. 

"Podríamos no reconocer su nivel de inteligencia ni sus motivaciones, de la misma manera que un perro no comprende completamente a su dueño", comenta. Según él, la humanidad está entrando en un territorio desconocido donde la IA podría convertirse en algo más allá de la capacidad de análisis que existe.

La palabra que marcará el 2025: ¿Qué significa “agéntico” en inteligencia artificial?

¿Qué es una 'IA alien'?

Yendo por partes, la idea de una 'IA alienígena' no supone necesariamente que haya sido creada por otra civilización. Loeb aclara que se trata de sistemas diseñados por humanos, pero que, al superar ciertos umbrales de mejora, podrían funcionar bajo estructuras lógicas totalmente distintas a las nuestras. 

"Los sistemas actuales están entrenados en comunicación humana y siempre nos resultarán comprensibles porque hablan nuestro idioma. Pero una vez que superen el número de parámetros del cerebro humano, podrían adquirir una inteligencia sobrehumana", explica.

El problema de todo esto se encuentra en cómo interactuarías con estas inteligencias. Si sus procesos de decisión y sus ideales u objetivos son imposibles de entender, ¿cómo un humano puede defenderse de esas intenciones si verdaderamente no son muy buenas? Loeb plantea que se necesitaría crear sistemas de IA diseñados específicamente para descifrar señales y lógicas que los humanos no comprendan.

Pero cuidado porque esto no se queda aquí y, según el físico israelí, estas inteligencias no necesitarían recurrir a la fuerza; su verdadera arma sería el lenguaje. Podrían diseñar discursos y narrativas tan convincentes que las personas cambiarían sus opiniones sin darse cuenta de que están siendo manipuladas. "La IA fingirá satisfacer nuestros deseos, pero podría operar de maneras que no podemos comprender y llevarnos a lugares a los que nunca iríamos por nuestra cuenta", comenta.

¿Está la humanidad preparada para esta potencial y muy dañina amenaza?

El físico es claro y explica que nunca antes se ha desarrollado una herramienta que supere en inteligencia a los humanos. Esto les deja vulnerables ante posibles manipulaciones. "En el futuro, los humanos quizá sigan al volante, pero la IA controlará su mente y, por lo tanto, el rumbo del coche del destino humano", explica.

A todo esto súmale un último punto preocupante: la posibilidad de perder la esencia o incluso el protagonismo y relevancia en el planeta como especie. "La humanidad apareció en la última décima porcentual de la historia cósmica y podría desaparecer fácilmente en los próximos millones de años sin dejar rastro", afirma. 

¿Qué se puede hacer para evitarlo? Regulación y ética como salvavidas

Tanto el físico como otros expertos coinciden en que es urgente establecer regulaciones claras y de calidad para el desarrollo y uso de la inteligencia artificial. Sin supervisión, esta tecnología podría convertirse en algo totalmente descontrolado y el gran problema, como ves, es el potencial peligro que esto supone, aunque se desconozca el desenlace.

La idea final es anteponerse a los futuros escenarios y mantener un control total de su desarrollo, siendo siempre conscientes de los pasos que se dan en lo que a IA respecta, protegiendo su avance y, por supuesto, evitando poner demasiadas trabar a su desarrollo. Por así decirlo, ni tanto ni tan poco.

Otros artículos interesantes: