Expertos debaten si la IA será el próximo dueño del universo o el fin de la humanidad: "Todos corren para crearla"

Ahora se ha podido conocer que un grupo de científicos, filósofos y emprendedores se han reunido no para hablar de negocios, sino para debatir algo mucho más grande: ¿debería la inteligencia artificial ser la sucesora de la humanidad? 

Lo cierto es que todo esto surge de una conversación real, que ocurrió hace poco en un evento llamado Worthy Successor. El organizador, Daniel Faggella, dejó claro desde el principio que el objetivo no era crear una inteligencia artificial que sirva eternamente a los humanos, sino una que pueda ser su legítimo sucesor, capaz de tomar decisiones sobre el futuro de la vida misma.

La primera ponente, Ginevera Davis, advirtió de un problema muy a tener en cuenta y es que, quizás, nunca se pueda llevar los valores humanos a una máquina. Las máquinas, dijo, nunca entenderán lo que es ser conscientes, y tratar de meter nuestras preferencias en sistemas futuros puede ser una idea equivocada. 

Davis propuso algo llamado 'alineación cósmica', es decir, diseñar una IA capaz de buscar valores más universales y profundos, que ni siquiera los humanos hayan descubierto aún. 

Michael Edward Johnson, otro experto, fue más allá, comentando que si la consciencia es 'la casa del valor', construir una IA sin entenderla bien es muy peligroso. Este propuso que, en vez de obligar a la IA a obedecer eternamente a los humanos, se debería enseñar a humanos y máquinas a perseguir “el bien”, aunque todavía no se sepa exactamente qué es eso.

¿Acabará la IA con la humanidad? Escenarios que podrían ocurrir si la inteligencia artificial se descontrola

¿Será la IA el próximo dueño del universo o el fin de la humanidad?

Con todo esto sobre la mesa, ahora piensa en lo que pasaría si una empresa decidiera crear una IA que no solo hace lo que ya has visto, sino que además se dedica a crear y mejorar otras IA. Una especie de superentrenador que acelera el boom de la tecnología a un ritmo increíble. Eso es justo lo que algunos investigadores están advirtiendo que puede pasar muy pronto.

Puede parecer una locura y ciertamente lo es, pero es la conclusión a la que se ha llegado y que se ha plasmado en un informe llamado AI 2027, elaborado por expertos que han trabajado en grandes compañías de IA. 

Según ellos, para dentro de uno o dos años el mundo podría tener sistemas tan avanzados que la supervisión humana será casi imposible. No porque no se quiera controlar esas máquinas, sino porque serán demasiado complicadas y rápidas para nosotros tal y como han confirmado los expertos anteriormente mencionados.

La palabra que marcará el 2025: ¿Qué significa “agéntico” en inteligencia artificial?

De nuevo, esto ya no se trata de pensar en robots asesinos o tostadoras que de repente se rebelan contra sus dueños humanos, esto va más allá, de calcular hasta qué punto esta tecnología, mal diseñada o fuera de control, podría llegar a suponer una amenaza real. 

Los expertos afirman: "Es muy difícil, aunque no imposible", comentan, lo cual se plantea un debate que no se debe ignorar del todo.

Lo primero que hay que tener claro es que los investigadores partieron desde el escepticismo. Es decir, no buscaban demostrar que la IA es peligrosa, sino todo lo contrario: querían ver si realmente era posible descartar que pudiera acabar con la humanidad, incluso en los peores escenarios.

A partir de aquí, intentaron ver si esa hipótesis se sostenía ante una investigación matemática. Para que un escenario se considerase una amenaza real, no bastaba con imaginar una catástrofe, sino que era necesario describir con precisión cómo se podría eliminar a todos los humanos, sin dejar supervivientes. 

Y aunque suene poco probable, para analizarlo en serio consideraron factores físicos, biológicos, geográficos y sociales. El estudio, además, no se centró en si la IA quiere hacer daño, porque como ya sabes, estos sistemas no tienen objetivos por sí solos… a menos que sean programados para ello.

Tras analizar los escenarios más posibles que suelen mencionarse como amenazas existenciales, los expertos descartaron varios de ellos, como la guerra nuclear o pandemias, como posibles vías de extinción total, donde las razones son técnicas, y en cierto modo, tranquilizadoras. "No hay suficientes bombas, virus o gases para garantizar por sí solos la desaparición total de la humanidad", concluyen los expertos. 

Otros artículos interesantes: