De ChatGPT a Grok: todas las IA suspenden en prácticas de seguridad, según un estudio
El Future of Life Institute ha llevado una minuciosa investigación de OpenAI, xAI, Meta y Anthropic, y sus conclusiones no han podido ser menos positivas.
La seguridad de la inteligencia artificial es algo que preocupa, y mucho. Tanto a los usuarios, según parece, como a un número creciente de expertos, que llevan bastante tiempo exigiendo que se tomen medidas al respecto. Sin embargo, no parece que la mayoría de empresas de IA estén por la labor. De ChatGPT a Grok, todos los modelos suspenden en este sentido.
Así al menos lo pone de manifiesto un estudio llevado a cabo por expertos que, se supone, resulta completamente independiente. ¿Qué quiere decir exactamente que la inteligencia artificial no se tome en serio la seguridad? ¿Y qué consecuencias podrían darse si la tendencia siguiese siendo la misma?
Ni ChatGPT ni Grok, nadie vigila la seguridad
La inteligencia artificial cada vez está más en auge, eso es indudable. Aunque algunos especialistas hablen de una inminente burbuja, lo cierto es que no dejan de aparecer modelos, compañías e inversiones imposibles que apuestan todo a ella. Una corriente que, sin la vigilancia adecuada, podría ser nefasta. ¿El problema? Que no parece que nadie este vigilando.
Un estudio llevado a cabo por el Future of Life Institute ha puesto la lupa en las principales compañías de inteligencia artificial detrás de modelos como ChatGPT o Grok. Es decir, OpenAI, xAI, Anthropic y Meta. Según ellos, ninguna de estas empresas estaría cumpliendo los estándares establecidos en materia de seguridad. Y eso que para muchos son insuficientes.
Lo que dice el estudio, tal y como refleja Reuters, es que ningún de las compañías estudiadas cuenta con un plan real para controlar un sistema de inteligencia artificial avanzado. Por el contrario, todas están realizando un enorme esfuerzo por conseguirlo. Como si lo más importante fuese alcanzar la llamada superinteligencia artificial, sin importar qué pasaría después.
Si realmente se alcanza esta evolución de la IA, ¿seguirían pudiendo los seres humanos tener un control sobre ella? En realidad, nadie lo sabe. Pero cada vez más expertos, incluyendo a gente de compañías tan importantes como Google o la propia Anthropic, insisten en que si no se siguen unas pautas de seguridad, las consecuencias podrían ser fatales para todo el mundo.
La respuesta de OpenAI
Las protagonistas del informe, como era de esperar, han ofrecido su punto de vista. La propia OpenAI, responsable de ChatGPT, ha asegurado que refuerzan continuamente sus protecciones para prepararse para futuras capacidades. E incluso aseguran que comparten sus medidas de seguridad para beneficiar a toda la industria.
Sin embargo, nada de esto convence a los responsables del estudio. Según ellos, "la IA sigue estando menos regulada que un restaurante", ha dicho Max Tegmark, profesor del MIT y presidente de Future of Life. Teniendo en cuenta todas las advertencias diarias que surgen alrededor de esta tecnología, resulta cuanto menos inquietante.