Bruce Schneier, gran gurú de la seguridad informática, admite su gran miedo con la IA: "Temo que nos manipule"
Elígenos como tu fuente preferida en Google.
El experto advierte que, sin alternativas públicas transparentes, la inteligencia artificial acabará siendo una herramienta de manipulación comercial. Se repetirían errores del pasado como ocurrió con las redes sociales y los motores de búsqueda.
Bruce Schneier no necesita presentación debido a que su nombre está ligado desde hace décadas a la criptografía, la privacidad y la defensa de los derechos en internet. Ha asesorado gobiernos, escrito libros y alertado sobre los riesgos de un mundo cada vez más conectado.
Pero lo que ahora le preocupa no es un fallo técnico ni un nuevo software espía israelí, sino que su inquietud va más allá, donde teme que la inteligencia artificial se convierta en una nueva herramienta de manipulación disfrazada de neutralidad.
"Temo que nos manipule", admite, refiriéndose a sistemas que pueden estar diseñados para favorecer los intereses de quienes los desarrollan, como OpenAI, Gemini o Copilot. Para él, el problema no está en la tecnología en sí, sino en cómo se entrena, quién la dirige y con qué propósito.
Si esta tecnología avanza por el mismo camino que tomaron los motores de búsqueda o las redes sociales como herramientas abiertas, lo que parecía una revolución puede acabar en manos de unos pocos y terminar condicionando nuestras decisiones sin que nos demos cuenta.
Para Schneier, no es la primera vez que una tecnología prometedora acaba por intereses comerciales. Lo vimos —dice— con los buscadores, que nacieron con la promesa de ofrecer resultados relevantes, pero acabaron priorizando enlaces de pago, como Google.
O con las plataformas como Facebook, que prometían conectar personas y acabaron amplificando el contenido que más retención generaba, sin importar su veracidad o toxicidad. La inteligencia artificial, tal como la están desarrollando muchas grandes tecnológicas, podría repetir ese patrón.
"Se presenta como objetiva, pero responde a estructuras opacas", advierte. Las IA actuales aprenden de datos, sí, pero también actúan en función de cómo se entrenan, qué contenido se prioriza y qué alianzas comerciales influyen en su comportamiento.
Así que el verdadero problema no es solo qué te responde un chatbot, sino por qué te lo responde. ¿Esa recomendación es la mejor para ti o la mejor para quien ha pagado por estar ahí? Su ejemplo es simple, si ChatGPT te sugiere un hotel o una aerolínea, ¿lo hace porque es la mejor opción, o porque forma parte de un acuerdo comercial?
Esta falta de transparencia convierte a esta tecnología en una potencial herramienta de manipulación. No porque mienta, sino porque puede presentarte una versión de la realidad sesgada sin que lo sepas, por lo que al final puede ser una estrategia bien dirigida.
La IA no debe estar en manos de las empresas
Frente a este panorama, el experto en informática cree que los gobiernos y el mundo académico tienen que dar un paso al frente y no basta con confiar en la autorregulación del sector privado. La IA, por su impacto social, económico y político, necesita supervisión y normas claras.
En este sentido, reconoce que la Unión Europea ha dado un paso importante con su Ley de Inteligencia Artificial, que establece obligaciones proporcionales al nivel de riesgo de cada sistema.
La legislación exige, entre otras cosas, que las empresas que desarrollen modelos de IA de alto riesgo mantengan documentación técnica, evalúen sus sistemas y garanticen transparencia en su funcionamiento.
Para Bruce Schneier, no es una solución perfecta, pero sí es un punto de partida muy importante. Puesto que es una forma de empezar a limitar el poder casi absoluto que algunas compañías han acumulado en este terreno a lo largo de los años.
Se necesita una alternativa pública de IA
El experto afirma que hay, sin embargo, otro camino, uno que no se basa solo en regular a los gigantes tecnológicos, sino en construir alternativas. Schneier menciona el caso de Current AI, una iniciativa impulsada por el gobierno francés junto con empresas, universidades y fundaciones.
Su objetivo: desarrollar una inteligencia artificial abierta, con acceso público a los datos y pensada para servir al interés general, no al comercial. Este modelo busca diversificar el ecosistema, fomentar la innovación en entornos más transparentes y dar protagonismo a actores que hasta ahora han estado en los márgenes del desarrollo de la IA.
Esta es una vía necesaria, aunque reconoce que encontrará resistencia. "Las grandes corporaciones no lo pondrán fácil", admite. Pero si no se impulsa una alternativa no corporativa, el riesgo de que todo el poder se concentre en manos de unos pocos será cada vez mayor, y eso sería peligroso.