Geoffrey Hinton, la IA y el fantasma del fascismo: ¿estamos programando nuestro propio control?
Si el acceso a la tecnología se queda en manos de unos pocos, el resto de la sociedad queda a merced de ellos, sus intereses económicos, políticos o ideológicos.
No todos los días una de las consideradas como mentes más brillantes de la tecnología mundial se atreve a poner el dedo en la llaga y advertir, sin medias tintas, de un riesgo bastante complicado para la sociedad.
Geoffrey Hinton, considerado el 'padrino' de la inteligencia artificial, no es precisamente un apocalíptico de barra de bar, pero tampoco un fanático acérrimo de la IA. Es, eso sí, uno de los principales responsables de que hoy la IA esté en boca de todos y de que herramientas como ChatGPT, los asistentes de voz o los sistemas de reconocimiento de imágenes existan tal y como los conocemos.
Por eso, cuando alguien como él dice que el avance de la inteligencia artificial puede tener como consecuencia el avance del fascismo en nuestra sociedad, conviene al menos prestarle algo de atención —ya luego cada uno decide qué hacer con sus palabras—, sin caer tampoco en el alarmismo fácil, pero tampoco en la absurda idea de pensar que esto a nosotros no nos puede pasar.
A día de hoy, y más viendo todo lo que se está viviendo con respecto a China, EEUU, Nvidia y la IA en general, esta tecnología se ha convertido en el principal campo de batalla. Quien tenga el control, tendrá el poder, o al menos eso piensan las grandes potencias.
El gran problema es que si ya en el pasado las redes sociales prometían conectar a la humanidad y, sin embargo, han servido para dividirnos y manipularnos. ¿Podría la inteligencia artificial, la joya de la corona tecnológica, convertirse en la herramienta definitiva para el control, la censura y la pérdida de derechos?
Hinton, que ha visto la evolución de la IA desde dentro, cree que sí. Y no es el único.
La inteligencia artificial da un giro de 180 grados y pasa de utopía a futuro inquietante
Durante años, todo lo que se contaba sobre la IA era optimista: automatizaría tareas tediosas, aumentaría nuestra creatividad, democratizaría el acceso al conocimiento y resolvería problemas imposibles para el ser humano.
Y en parte, esto es cierto. Pero la realidad es que toda tecnología poderosa acaba siendo también un arma en manos de quien la controla. Hinton lo sabe bien: lo que empezó como una herramienta para mejorar la vida de las personas puede convertirse, si no se vigila, en un instrumento de vigilancia, manipulación y represión.
Lo cierto es que no hace falta mirar demasiado lejos para ver ejemplos y, en China, por ejemplo, el reconocimiento facial y los sistemas de puntuación social son ya una realidad del día a día, con millones de cámaras inteligentes que monitorizan cada movimiento de los ciudadanos y algoritmos que deciden quién merece un préstamo, un trabajo o incluso la posibilidad de viajar.
En Occidente, los algoritmos de recomendación de las grandes plataformas deciden qué vemos, qué pensamos y a quién leemos, creando burbujas ideológicas y haciendo realmente muy sencilla la manipulación política a gran escala. La capacidad de crear fake news, vídeos deepfake y campañas de desinformación ha escalado a niveles nunca vistos.
Hinton advierte que este poder, en manos de gobiernos autoritarios o grandes corporaciones sin escrúpulos, puede dar pie a un nuevo tipo de fascismo. No el fascismo clásico de los uniformes y las marchas, sino uno mucho más sofisticado: el del control invisible, la vigilancia constante y la anulación de la disidencia a golpe de algoritmo.
Un fascismo que no necesita valerse de la violencia tal y como ya se ha conocido, porque puede moldear la opinión pública, silenciar voces que apetece que sean escuchadas y anticiparse a cualquier intento de protesta incluso antes de que ocurra.
¿Por qué la IA es terreno fértil para el autoritarismo?
Todo este miedo de Hinton aclarar que tampoco es sea fruto de una absoluta paranoia o un pesimismo sin justificación. Si te paras a pensar un momento, no es tan loco lo que comenta y es cierto que hay muchas razones de peso para temer que la IA de pie a todo esto.
Básicamente, nunca antes fue tan fácil monitorizar a millones de personas en tiempo real. Además, uno de los grandes problemas es que la infraestructura de IA, esos grandes centros de datos o figuras que llevan las grandes compañías de IA, está en manos de muy pocos.
Si el acceso a la tecnología se queda en manos de unos pocos, el resto de la sociedad queda a merced de lo que ellos deseen, sean intereses económicos, políticos o ideológicos.
Quizá no del todo, pero los síntomas están ahí, y sería irresponsable mirar hacia otro lado. Aquí el peligro no es solo que la IA sea usada por dictaduras tal y como ya se conocen. En democracias con años a sus espaldas, la tentación de usar la tecnología para 'proteger' a la sociedad de amenazas reales o quién sabe si incluso inventadas es cada vez mayor.
El miedo, la inseguridad y la desinformación que ya actualmente se vive son el caldo de cultivo perfecto para justificar medidas de control que, una vez lleguen al mundo real, son muy difíciles de echar hacia atrás.
Con todo esto, que no es poco, lo cierto es que no se trata de rechazar la IA ni de caer en la idea de que cualquier novedad siempre va a ser negativa, sino de darse cuenta de que la vida avanza y con ella deben de ir de la mano la transparencia, regulación y control sobre el desarrollo y uso de la inteligencia artificial.
Otros artículos interesantes:
Carolina González
Redactora
Carolina González, redactora de actualidad, reportajes a fondo, análisis de todo tipo de productos y vídeos para el canal de Youtube.