Sam Altman, CEO de OpenAI, se confiesa: "Lo que no me deja dormir de la IA es..."
El creador de ChatGPT advierte que el avance de la IA podría desencadenar situaciones extremadamente peligrosas si no se establecen límites claros, controles adecuados y cooperación global.
La inteligencia artificial ya no es una tecnología del futuro ni un proyecto reservado a laboratorios de investigación. Está en el móvil, en el televisor, en las decisiones empresariales y en los servicios públicos. Su impacto crece tan rápido que incluso quienes la desarrollan empiezan a sentirse preocupados.
Sam Altman, director ejecutivo de OpenAI, lo ha reconocido en voz alta, donde ha declarado que hay escenarios que le quitan el sueño. Si bien no teme tanto que el chatbot falle, sino que funcione demasiado bien, demasiado pronto, y en las manos equivocadas.
Durante un evento de la Reserva Federal de Estados Unidos, Altman compartió abiertamente los tres riesgos que considera más serios. Su advertencia se basa en desarrollos reales que, según él, avanzan más rápido de lo que la sociedad es capaz de asimilar, por lo que es un tema que se debe analizar con urgencia.
Los temores que mantiene despierto a Sam Altman
- Que un enemigo obtenga la superinteligencia: Su mayor inquietud es que un actor malicioso, ya sea un país rival o una organización sin escrúpulos, logre desarrollar una inteligencia artificial superavanzada antes que nadie. Esa ventaja podría usarse para diseñar armas biológicas, hackear redes eléctricas o desestabilizar sistemas financieros sin intervención humana directa. El problema, explica Altman, es que este tipo de amenazas aún no se toman con suficiente seriedad a nivel internacional.
- Que se pierda el control sobre los sistemas de IA: El segundo escenario que le preocupa es la pérdida de capacidad para apagar, pausar o controlar a una IA que ya haya alcanzado cierto nivel de autonomía. No se trata de una rebelión con intenciones maliciosas, sino de que un sistema pueda decidir por su cuenta lo que debe hacer, incluso si eso contradice una orden humana. En OpenAI ya están trabajando en medidas de contención, pero reconocen que no hay garantías cuando la complejidad del sistema supera la capacidad humana de supervisión.
- Que la IA se apodere del mundo sin que lo notemos: Sam Altman teme que los sistemas de IA se integren tanto en la vida cotidiana que se termine dependiendo de ellos para todo sin darnos cuenta. No habría una toma de poder violenta, sino una delegación progresiva de decisiones. Incluso un presidente podría llegar a dejar la toma de decisiones en manos de un sistema que aparentemente "lo sabe todo". El riesgo no es la maldad, sino el exceso de confianza en algo que no entendemos del todo.
Lo relevante de estas declaraciones no es que las haga un analista externo, sino uno de los máximos responsables del desarrollo actual de inteligencia artificial. Altman está al frente de OpenAI, la compañía que lanzó ChatGPT y que ha impulsado el uso cotidiano de modelos de lenguaje, imágenes, asistentes personales y sistemas de automatización avanzada.
Tú ya convives con herramientas impulsadas por IA, pero aún no eres plenamente consciente del nivel de dependencia que puedes llegar a tener. Esa dependencia se extiende a instituciones, gobiernos, empresas, etc. No se trata de si puede ocurrir, sino de cuándo, y si estaremos preparados para entenderlo, anticiparlo y controlarlo.
Lo que más le preocupa a Altman es que todo esto ocurra antes de que puedas darte cuenta. El avance de la inteligencia artificial no se está frenando, de hecho, cada semana aparecen nuevos modelos más potentes, capaces de aprender de su entorno, adaptarse, generar contenido, tomar decisiones y ejecutar acciones.
Qué es la singularidad tecnológica y por qué genera tanto temor
La singularidad es una hipótesis que plantea un momento en el que la inteligencia artificial supera la inteligencia humana y comienza a mejorar por sí sola, sin intervención externa. Es decir, una IA capaz de crear una IA aún más avanzada, que a su vez cree otra mejor y con mejores capacidades.
Figuras clave en el mundo tecnológico llevan años debatiendo sobre cuándo podría llegar, no sobre si llegará. Pero una vez que se cruce ese umbral, el control humano se volverá más difícil. La velocidad con la que evolucionarían estos sistemas no tendría precedentes, y no podríamos seguir su ritmo.
Las implicaciones son profundas, como cambios en la economía, en la política, en la cultura, en la forma de tomar decisiones. El mundo podría entrar en una dinámica gobernada por sistemas que entienden la realidad mejor que nosotros, pero que no compartirán los valores ni los límites.
Por eso Altman no habla de errores, sino de éxitos peligrosos. Porque si la IA funciona como debe, pero sin un marco ético global y sin supervisión, podría cambiarlo todo. Y no es paranoia, es el aviso de quien conoce cada línea de código, cada prueba y lo que podría ser capaz esta tecnología.