De OpenAI a Google: un nuevo estudio revela que las principales empresas de IA corren "riesgos inaceptables"
Las principales herramientas actuales de inteligencia artificial, como ChatGPT, suspenden en materia de seguridad, con todo lo que eso podría traer consigo.
¿Es la inteligencia artificial segura? Esta es una pregunta que cada vez más expertos se hacen, desde que ChatGPT o Grok surgieron en el horizonte. La respuesta, al menos a día de hoy, parece tan categórica como unánime: no. Un nuevo estudio ha vuelto a ponerlo de manifiesto, esta vez centrándose en las principales compañías del sector, desde OpenAI a Google.
La situación es compleja (o alarmante, según se mire), porque esta tecnología está cada vez más presente en todas partes: la medicina, la educación o hasta la propia seguridad de los países. Los expertos denuncian que no se llevan a cabo los controles que serían necesarios, y ya se refieren sin tapujos a "riesgos inaceptables". ¿Pero cuáles son esos riesgos y por qué la creciente preocupación?
Los riesgos de OpenAI, Google y casi todas las desarrolladoras de IA
No pasa ni un solo día sin que surjan nuevas noticias acerca de la inteligencia artificial. El problema, por lo general, es que estas no acostumbran a ser lo que se dice positivas. Expertos hablan de despidos masivos o de la extinción de la humanidad, pero ya no se trata únicamente de vaticinios apocalípticos, sino de amenazas concretas que apuntan a OpenAI o Google entra otras compañías.
Según ha publicado la prestigiosa revista TIME, estas empresas y otras como Anthropic, Meta y xAI -la creada por Elon Musk- fallan de forma preocupante en sus sistemas de seguridad y control interno. Así lo ha puesto de manifiesto un nuevo estudio llevado a cabo por el instituto SaferAI. Este, conviene recalcarlo, no tiene ánimo de lucro ni supuestos intereses en el asunto.
La conclusión de la investigación es clara: ninguna compañía alcanza el mínimo aceptable en materia de seguridad en lo que concierne a la IA. Es decir, en transparencia, en documentación, en pruebas internas o en protocolos de mitigación por si algo saliese mal. Por ejemplo, su capacidad para reaccionar ante una fuga de datos o un mal uso de la información que se maneja.
La peor parada de todas la IA fue xAI, de Elon Musk, que solo alcanzó una puntuación de un 18%. Pero todas las analizadas por los expertos estuvieron lejos de aprobar. OpenAI, responsable de ChatGPT, llegó al 33%, y Google DeepMind se quedó en un triste 20%. Meta no superó el 20% y Anthropic, la mejor valorada de todas, se tuvo que conformar con un 35%.
Vale, son malos datos, pero ¿qué significan desde un punto de vista práctico? ¿En qué pueden afectar a la gente? Para empezar, los especialistas hablan de manipulación informativa, puesto que cada día más gente parece usar la IA a modo de buscador de Google. Pero existen amenazas mayores, como la creación de agentes patógenos por parte de criminales o ciberataques cada vez más complejos.
El (peligroso) futuro de la inteligencia artificial
El estudio no termina ahí. Tampoco se pasa por alto uno de los riesgos que más suele asociarse a la inteligencia artificial: la pérdida de control sobre sistemas autónomos, si los modelos adquieren un grado de autoaprendizaje difícil de supervisar.
El motivo que se alega para que todo esto suceda tampoco sorprende: las compañías anteponen intereses corporativos por encima de la seguridad de la gente. Así, la IA parece cada vez más una tecnología que puede traer muchos disgustos y, al menos de momento, tampoco tantas alegrías.