"La infraestructura de la IA está fundamentalmente centralizada", la crítica de la presidenta de Signal al modelo de IA

Si existe una voz verdaderamente disidente en la industria tecnológica mundial, esa es la Meredith Whittaker, que pasó por Google para fundar el Google's Open Research Group y, muy pronto, se dio cuenta de que la opacidad del aprendizaje automático y los sesgos introducidos comenzaban a ser un verdadero problema para toda la sociedad. Precisamente, esto y otras cuestiones como el finiquito de 90 millones de dólares que Google pagó a Andy Rubin, acusado de conducta sexual inapropiada, llevó a Whittaker a apoyar el Google Walkout, una huelga a nivel mundial apoyada por más de 20.000 trabajadores de la compañía.

Tras varias problemáticas con Google, Whittaker fundó junto a la investigadora Kate Crawford el AI Now Institute, además de ser la presidenta de la fundación de Signal, una aplicación parecida a WhatsApp y Telegram, pero con la privacidad como su principal insignia.

Durante todos estos años, la presidente de Signal ha mostrado un discurso que se desmarca totalmente de los grandes oligarcas del mundo de la tecnología, asegurando que la inteligencia artificial es "una tecnología fundamentalmente centralizada" y que recae sobre unas pocas manos de personas muy poderosas y sin control democrático.

Incluso con lo que se conoce como IA de código abierto, como expresa en un ensayo de Reframing Impact Whittaker: "Lo que se ve con la IA de código abierto, que se puso de moda en 2023, es un arbitraje narrativo: se asume que el halo de democratizar la IA, reducir la concentración de poder e incrementar la capacidad de escrutinio se aplica a la IA, cuando en realidad las capacidades, posibilidades y virtudes del código abierto en el software no se trasladan de forma limpia a la IA".

El open source ha sido un terreno de lucha durante muchas décadas y, como es más que evidente, los mismo términos han pasado al ámbito de la inteligencia artificial; sin embargo, todo parece pertenecer más bien a un discurso que a una realidad palpable.

Las promesas de una IA soberana e independiente caen en saco roto

A nivel mundial, Estados Unidos y China son prácticamente imbatibles en lo que tiene que ver con la infraestructura de IA. Según el AI Index Report de la Universidad de Stanford, EEUU es el líder absoluto con aproximadamente el 75% de la capacidad de computación global, con empresas como Amazon, Google y Microsoft que dominan 87 centro avanzados.

En el caso de China, Alibaba y Huawei operan 39 centros avanzados, pero también cuentan con más de 200 clústeres de IA; este país presenta un 15% del total a nivel mundial, por lo que aún está muy lejos de EEUU, pero ha abanderado siempre lo que se conocen como modelos abiertos.

Para Whittaker, la "democratización" que usan las grandes compañías de la industria de la IA es, con este contexto en mente, una simple apreciación abstracta, ya que no es posible si la infraestructura está totalmente centralizada y ocupada en pocas manos.

"El uso indebido de los conceptos técnicos en la IA abandona la precisión en favor de las buenas sensaciones. La mitad de los términos técnicos con los que crecí y que utilizaba de forma muy precisa son ahora simples evocaciones abstractas basadas en sensaciones", explica la autora.

De la misma forma, cree que el open source en el mundo de la IA no desafía en ningún momento a la concentración económica y de poder entre pocos actores, ya que vacía de significado lo que ocurría con el software, en el que sí existen licencias muy claras por las que apostaron en su momento otras personalidades del sector tecnológico.

"Incluso con la IA de código abierto sigues necesitando cantidades ingentes de datos, mano de obra e infraestructura. No desafían la concentración que incluye las redes de distribución, las economías de escala, el alcance consolidado, la capacidad de definir las herramientas y los estándares, y así sucesivamente", reflexiona. "Frente a la concentración de la industria de la IA, la IA de código abierto ofrece una tranquilidad retórica, pero es incapaz de cumplir lo prometido".

Y aquí la pregunta más evidente es: ¿qué es lo prometido? Tal y como han declarado abiertamente personalidades como Elon Musk, Sam Altman y otros rectores de la política, la soberanía, la gobernanza, la independencia o la democratización.

Aunque todo eso puede parecer una quimera si se entiende el código abierto desde las perspectivas de una gran multinacional que, de una u otra forma, va a perseguir una rentabilidad para poder pagar las grandes inversiones de capital existentes a día de hoy.

"Existe el miedo a parecer poco técnico, a parecer ignorante, a quedarse rezagado. Una apisonadora impulsada por el miedo a quedarse fuera (FOMO) está dictando la necesidad de adoptar la IA", asegura Whittaker. "Esta forma de apertura no está ofreciendo realmente las posibilidades que necesitamos. Esta forma de soberanía en realidad no es soberana. Esta forma de independencia en realidad no es independiente".

El escrutinio sobre la IA es necesario si se quiere tener confianza

Ha habido muchísimos intentos por parte de las autoridades europeas de acabar con el cifrado de extremo a extremo, como ocurrió recientemente con Chat Control 2.0, bajo la premisa de perseguir el material de abuso infantil.

Pero en esa batalla, hay bastante expertos que aseguran que es imposible escanear las comunicaciones en el dispositivo antes de ser cifradas; para Whittaker, como ya expresó hace varios años, Signal prefería cortar sus operaciones en la región antes que instalar puertas traseras o debilitar su cifrado.

Y esto no es muy habitual en el actual mercado, lo que demuestra el compromiso de su app de mensajería instantánea para proteger la privacidad de sus usuarios, ya que suelen ser activistas, periodistas, etc. De esta forma, lo que Whittaker pide es un escrutinio democrático real de las herramientas de IA.

"Los despliegues pequeños y focalizados de IA de código abierto pueden ser útiles, pero deben ser pragmáticos y estar alineados con la misión. Sí que utilizamos un modelo de IA de código abierto, no un LLM, diseñado para la detección de rostros con el fin de activar nuestra función de desenfocar rostros. Todo se queda en el dispositivo. No envía datos fuera para ser inferidos mediante un LLM en una servidor en la nube".

Signal, por ejemplo, cuenta de forma continuada con revisiones independiente y auditorías de seguridad por parte de la comunidad internacional, que son quienes identifican y corrigen vulnerabilidad, con el objetivo de que su código sea verdaderamente abierto y auditable.

"No creemos que se pueda ser digno de confianza sin la capacidad de escrutar lo que realmente hacemos. ¿Se corresponde el código con mi discurso?", puntualizar Whittaker. "¿Cómo permitió nuestra estructura de poder que un puñado de personas, al servicio de resultados a corto plazo, tomara decisiones de gran trascendencia social en nombre de todos los demás sin posibilidad de escrutinio, sin claridad y sin alguna forma de gobernanza y supervisión democráticas?".