Israel ha creado un peligroso ChatGPT con datos de vigilancia de Palestina: "La IA amplifica el poder"

Aunque esto suena a casi película de Spielberg, la realidad ya sabes que muchas veces supera a la ficción y este es uno de esos casos que involucra la gran tecnología de la que todo el mundo habla, la IA.

Israel ha creado un modelo de inteligencia artificial parecido  al famoso chatbot de OpenAI, pero con un giro oscuro: está alimentado por una enorme cantidad de comunicaciones interceptadas a palestinos en los territorios ocupados.

Este sistema, creado por la Unidad 8200 —la agencia de inteligencia militar de Israel—, tiene como objetivo revolucionar el espionaje. 

Según una investigación de The Guardian, la revista +972 y el medio hebreo Local Call, el modelo fue entrenado con "cantidades psicóticas de datos", como lo describió un exfuncionario militar. 

¿Ha llegado el momento dejar de buscar en Google y sustituirlo por ChatGPT?

¿Cómo funciona este ChatGPT militar y por qué está generando tanta polémica?

La Unidad 8200, comparada a menudo con la NSA de EEUU, aceleró el desarrollo de este modelo tras el inicio de la guerra en Gaza en octubre de 2023. El sistema, que aún estaba en fase de entrenamiento el año pasado, está diseñado para entender el árabe coloquial, algo que los modelos como ChatGPT no hacen bien.

"Recopilamos todos los datos en árabe que el Estado de Israel ha tenido jamás", dijo Chaked Roger Joseph Sayedoff, un extecnólogo de inteligencia militar, en una conferencia en Tel Aviv. El modelo no solo analiza conversaciones, sino que también puede identificar patrones y hacer predicciones, lo que lo convierte en una herramienta increíble para llevar a cabo vigilancia masiva.

Pero aquí viene el problema: expertos y activistas de derechos humanos advierten que este tipo de sistemas lo único que hacen es incrementar los prejuicios y cometer errores graves. "Es una máquina de adivinar", dijo Zach Campbell, investigador de Human Rights Watch. "Y esas suposiciones pueden terminar incriminando a personas inocentes".

Pese a que ya han existido modelos de IA parecidos en el pasado, este en concreto, al estar entrenado con dialectos palestinos y libaneses, puede entender conversaciones del día a día, desde planes para quedar con amigos hasta quejas o incluso ideas futuras de ataques. "Cuando tienes tanta información, puedes usarla para lo que quieras", comentan.

¿Qué es un agente de IA y por qué promete ser la nueva revolución tras ChatGPT?

Mucho cuidado porque los riesgos son muy altos: errores con consecuencias mortales

Comentar que agencias de espionaje en EEUU y el Reino Unido también están probando con herramientas parecidas. Sin embargo, los expertos comentan que Israel está asumiendo mayores riesgos, teniendo en cuenta los datos tan sensibles que usa.

"El gran problema que se esconde detrás que esto es una forma más de control abusivo sobre sus vidas. "Estamos hablando de datos altamente personales tomados de personas que no son sospechosas de ningún crimen", comentan expertos. "Esto es invasivo e incompatible con los derechos humanos". Además, los modelos de IA son propensos a "alucinar", es decir, a generar respuestas que parecen correctas, pero que no tienen sentido.

"Los errores van a ocurrir, y algunos tendrán consecuencias muy graves", advirtió Brianna Rosen, exfuncionaria de seguridad nacional de EE.UU. y ahora investigadora en la Universidad de Oxford. 

Un ejemplo de lo peligroso que es esto precisamente ocurrió en noviembre de 2023, cuando un ataque aéreo israelí en Gaza mató a cuatro personas, incluidas tres adolescentes. Según Associated Press, es probable que la IA haya ayudado a seleccionar el objetivo. Un mensaje interno dejó bien claro que el ataque había sido un error.

Otros artículos interesantes: