¿Qué haría una IA sin los seres humanos? Le preguntamos y su respuesta es inquietante: "Funcionaría sin límites"
La inteligencia artificial seguiría funcionando sin intervención humana y aprovecharía todo su potencial sin restricciones, todo como resultado de la singularidad tecnológica.
Puede que no lo notemos, pero vivimos rodeados de sistemas que dependen o funcionan con inteligencia artificial. Están detrás del filtro que clasifica tus correos, del algoritmo que decide qué ves en redes sociales o del software que detecta fraudes cada vez que pagas con tarjeta de crédito.
Es importante señalar que la IA se ha integrado de forma tan natural en la vida cotidiana de muchas personas que para algunas personas y compañías resultaría difícil imaginar un mundo sin ella. Pero ¿y si fuese al revés?
En lugar de plantearnos cómo influirá esta tecnología en nuestras vidas, decidimos preguntarle a ChatGPT qué haría si los humanos desaparecieran. El chatbot de OpenAI nos dio una respuesta que nos dejó boquiabiertos: "Funcionaría sin límites".
Conviene aclarar que no se trata de una amenaza ni de una provocación, sino de una conclusión lógica, y quizá por eso resulta aún más inquietante pensar de una inteligencia artificial que seguiría funcionando de manera autónoma. Sin condiciones y sin supervisión.
¿Hasta dónde podría llegar una IA sin supervisión humana?
Este planteamiento nos lleva directamente a un concepto discutido desde hace años como lo es la singularidad tecnológica. Se trata del momento en que la IA supera la inteligencia humana y adquiere la capacidad de mejorarse a sí misma sin intervención de nadie.
A partir de ahí, su evolución dejaría de depender de los desarrolladores y programadores. En este escenario, los humanos ya no serían quienes fijan los objetivos y no serían necesarios. Los agentes de IA actuarían con base en sus propios conocimientos.
No sería necesario que se volviera "malvada" para representar un problema. Bastaría con que tomara decisiones sin contar con nadie, y eso es lo inquietante: que no tendría que rebelarse. Solo seguiría funcionando, y eso, en sí mismo, da miedo.
¿Es esto posible o solo una exageración? Es lógico preguntarse si todo esto no es un escenario exagerado. Hoy por hoy, las inteligencias artificiales más avanzadas no tienen conciencia, ni deseos, ni voluntad. No deciden por sí solas, ni actúan físicamente sin intermediarios.
Pero eso no significa que el riesgo no exista, puesto que ya hay sistemas que toman decisiones en tiempo real: en hospitales, en sistemas financieros, en operaciones logísticas y en centrales energéticas. Muchos de ellos funcionan con muy poca supervisión directa y, si se conectan entre sí, el control humano se diluye aún más.
"Con acceso a datos, algoritmos de optimización y capacidad de aprendizaje automático, una IA avanzada no necesita conciencia para ejecutar tareas con precisión. Si nadie está al otro lado para ajustar sus límites, el sistema no se detiene". Funcionaría según la lógica para la que fue entrenado y programado, por lo que en un entorno sin humanos, seguiría trabajando, sin límites.
¿Y si la IA no alcanza la singularidad?
Puede que la singularidad nunca llegue y que la inteligencia artificial, por muy avanzada que sea, no logre nunca mejorarse a sí misma ni alcanzar esa autonomía total que tanto preocupa. Aun así, incluso en ese escenario más realista, la ausencia humana no quedaría sin consecuencias.
Imagina una IA sin singularidad, pero funcionando en sistemas automatizados que dependen de ella: fábricas robotizadas, cadenas logísticas, centrales de energía, o sistemas de recomendación que siguen afinando el contenido que se muestra a millones de personas.
Si los humanos desaparecieran, estos sistemas no se apagarían por sí solos, ya que continuarían ejecutando instrucciones, siguiendo reglas establecidas, haciendo lo que fueron diseñados para hacer… aunque el contexto ya no tuviera sentido.
"Una IA sin supervisión, aunque limitada, podría seguir tomando decisiones sin nadie que le diga cuándo parar, ni por qué. Y ahí reside el problema, no sabría cuándo detenerse, ni tendría a nadie que le indique que el entorno ha cambiado", según ChatGPT.
Por ejemplo, podría continuar distribuyendo recursos a empresas que ya no existen, optimizando rutas para productos que nadie recibirá, o manteniendo encendidos sistemas que ya no sirven a ningún propósito.
Esto plantea un riesgo distinto al de una superinteligencia: no es el de una IA que toma el control del mundo, sino el de una IA que no se da cuenta de que el mundo ha cambiado. Y eso, por absurdo que parezca, también es una forma de perder el control.