Experto en IA desmiente a Elon Musk y Sam Altman: "Puede perder el control y ser una amenaza"
Chris Sestito, reputado experto en inteligencia artificial, advierte de que las previsiones de los gurús de la inteligencia artificial como Sam Altman o Elon Musk podrían no ir en la dirección adecuada.
¿Puede ser realmente la inteligencia artificial un peligro para la humanidad? Según muchos expertos, la respuesta es afirmativa. Incluso sus principales valedores, gente como Sam Altman, el fundador de OpenAI y creador de ChatGPT o el propio Elon Musk, han reconocido sus riesgos. Ahora un nuevo experto en seguridad ha hablado al respecto con contundencia.
Se trata de una voz autorizada, puesto que tiene experiencia en temas de seguridad relacionados, precisamente, con la IA. En su opinión, existen algunas claves que serán fundamentales. De ellas dependerá que, efectivamente, esta tecnología pueda terminar por descontrolarse. Y sin necesidad de recurrir a escenarios apocalípticos propios de las películas de ciencia ficción más famosas.
Las preocupaciones de un experto en IA
Puede que el nombre de Chris Sestito no resulte tan conocido como el de Sam Altman u otros expertos mundiales en inteligencia artificial, pero lo cierto es que, en lo que concierne a la inteligencia artificial, tiene bastante que decir. Más que nada, porque se trata del cofundador y CEO de HiddenLayer, una empresa especializada en ciberseguridad que está enfocada en prevenir ataques relacionados con la IA.
En una reciente entrevista concedida al portal Axios ha reconocido que existen probabilidades de que la IA suponga una amenaza. A priori, podría pensarse que al ser una parte interesada en el tema (se dedica precisamente a eso) su voz tiene una validez relativa. Sin embargo, si se atiende a sus argumentos, estos son suficientes precisos como para resultar muy razonables.
Para el experto, la clave está en los criterios que se suelen utilizar a la hora de afrontar los temas de seguridad que conciernen a la IA. Sestito lamenta que por lo general se tienden a confundir lo que él llama "sesgos algorítmicos" y la "amenazas de seguridad" que ciertamente es real. O dicho de otra manera, que no se están tomando lo suficientemente en serio los peligros de esta tecnología.
Lo más llamativo de su visión del asunto pasa porque no habla de una rebelión de las máquinas como tal (tampoco lo descarta por completo), sino de casos mucho más prácticos y certeros. Es decir, que incluso hoy ya se pueden dar. Por ejemplo, problemas técnicos directamente relacionados con los algoritmos de la IA pueden ayudar a cualquiera a fabricar un arma.
Los auténticos peligros que trae consigo la inteligencia artificial
De esta forma, insiste una vez en una cuestión que para él resulta clave: la vulnerabilidad. No solo en lo que se refiere a hackeos, que el especialista piensa que parece lo único que realmente preocupa, sino en otros elementos importantes a los que de una forma o de otra habría que prestar mucha más atención.
Por ejemplo, declara que no se pueden ignorar otros retos que la inteligencia artificial ha traído con ella, y que ahora, debido a esta tecnología, permiten extraer información sensible de los modelos y las decisiones algorítmicas discriminatorias en ámbitos judiciales o médicos. Si se atiende a lo que dice, la IA puede ser muy indiscreta, y eso es algo que se debería cuidar.