"La IA superinteligente será incontrolable": el aviso del experto tras ChatGPT
Ilya Sutskever, ex-científico jefe de OpenAI, advierte que la IA del futuro será autónoma e impredecible. Su salida de la empresa abre un debate importante en seguridad.
El desarrollo de la inteligencia artificial avanza a pasos agigantados, pero con él también crecen las preocupaciones.
Ilya Sutskever, cofundador y ex-científico jefe de OpenAI, ha lanzado un contundente aviso sobre los peligros de la próxima generación de IA: "La inteligencia artificial superinteligente será incontrolable, autónoma e impredecible".
Según el experto, estamos a punto de cruzar un umbral en el que estas tecnologías no solo serán más avanzadas, sino también más autónomas e impredecibles, planteando retos éticos y de seguridad sin precedentes.
Una nueva era para la inteligencia artificial
Ilya Sutskever es una figura clave en el desarrollo de ChatGPT y tras su salida de Open AI, fundó Safe Superintelligence Inc. (SSI), una organización que apuesta por un desarrollo de la IA controlado y seguro.
Él sostiene que la próxima generación de IA no será solo más potente, sino radicalmente diferente. En unas recientes declaraciones en la conferencia NeurIPS , el experto destacó tres características clave que marcarán esta evolución.
Las futuras inteligencias artificiales podrían actuar de forma independiente, sin supervisión humana constante. También, que la creciente complejidad de estos sistemas hará que sus acciones sean cada vez más difíciles de anticipar. Y que, aunque es controvertido, Sutskever no descarta que estas IA desarrollen cierto grado de autoconsciencia.
Estos avances, aunque prometedores, abren un debate sobre las posibles consecuencias de dejar que sistemas tan avanzados operen con libertad.
El panorama actual de la IA está marcado por una carrera entre empresas para liderar el sector, pero no todos los expertos coinciden en el enfoque. Sutskever abandonó OpenAI en mayo de 2024 tras tensiones con Sam Altman, CEO de la compañía.
Mientras Altman apostaba por un crecimiento rápido para mantener la competitividad, Sutskever defendía priorizar la seguridad, especialmente en el desarrollo de sistemas superinteligentes.
Esta disputa refleja una división más amplia en la industria. Por un lado, quienes buscan maximizar el impacto comercial de la IA, y por otro, quienes advierten sobre los riesgos de avanzar sin control suficiente.
La propuesta de la nueva empresa de Sutskever, SSI, se centra en garantizar que las futuras inteligencias artificiales estén alineadas con los intereses humanos. En palabras del experto a través de un comunicado de su fundación: "Nuestro único enfoque es la superinteligencia segura. Avanzaremos en capacidades tan rápido como sea posible, pero con la seguridad siempre un paso adelante".
La compañía ya ha captado la atención de inversores, logrando una financiación inicial de 1.000 millones de dólares.
El aviso de Sutskever no solo apunta a retos técnicos, sino también éticos. La posibilidad de crear sistemas que superen las capacidades humanas plantea preguntas fundamentales sobre el control, la coexistencia y el futuro mismo de la humanidad.
Estas interrogantes no tienen respuestas fáciles, pero son necesarias en un momento en que la tecnología avanza más rápido que las regulaciones y el debate público.
El desarrollo de la IA está lleno de promesas, pero también de riesgos. Mientras empresas como OpenAI y SSI trabajan en direcciones opuestas, el mundo observa con atención. ¿Seremos capaces de controlar los sistemas que estamos creando, o estos terminarán escapando a nuestra influencia?
La reflexión de Sutskever nos recuerda que la inteligencia artificial, por más avanzada que sea, sigue siendo una herramienta creada por humanos. El desafío está en garantizar que su evolución no solo sea tecnológica, sino también ética y responsable.