El colapso de los modelos de IA, el momento culmen en el que no hay vuelta atrás
Elígenos como tu fuente preferida en Google.
La comunidad ha alertado sobre el peligro de que los modelos de IA colapsen, algo que ya está sucediendo y que puede marcar un antes y un después.
Imagina por un momento que hubieras nacido en una aldea totalmente alejada de la civilización, con una población de poco más de 50 personas, pero con una educación marcada por la realidad que vives: todo a tu alrededor sería lo que identificarías para explicar el mundo exterior –e incluso tus propios sentimientos–.
Los modelos de inteligencia artificial funcionaron de forma muy parecida al principio, acumulando sesgos y sesgos, aunque en este caso concreto con grandes startups y multinacionales detrás, además de un entrenamiento en base a datos que de por sí ya contenían discriminaciones implícitas.
La forma de actuar de esta tecnología es recursiva y probabilística: al principio, en lo que se conoce como "colapso inicial", la IA dejaba a un lado lo menos probable –según sus datos de entrenamiento, claro–, mientras que destacaba lo que podría ocurrir con mayor probabilidad.
De tal forma, los eventos raros o poco frecuentes no tendrían cabida dentro de este colapso inicial de la IA; vuelve al ejemplo de esa aldea arrinconada. Si nunca has aprendido que el sol es la estrella central del Sistema Solar, pero sí has aprendido a venerarla como una divinidad, no importa ya que sea una estrella, ya que lo más probable es que se intente explicar la existencia de ese tipo de dios.
Es algo propio de muchas fases históricas de la humanidad, pero desafortunadamente también ha calado en los modelos de IA, y esto ha llevado a muchos científicos a investigar este tipo de tecnología, conceptualizando lo que se vendría a llamar el "colapso del modelo", acuñado en la revista Nature hace ya 2 años.
Pero ese "colapso inicial" es solo el principio, ya que a partir de ahí el modelo de IA –sea cual sea– comenzará a acumular problemas, algo que ya se puede ver en algunos de los más extendidos y que tienen un tope del que no podrán pasar, a menos que el ser humano pierda por completo su capacidad de crear y, por ende, su capacidad de pensar de forma independiente.
El colapso de la IA, la causa de la debacle del saber humano
Un modelo de IA nace con patologías que son difíciles de tratar, como el olvido catastrófico, que se refiere a la pérdida de habilidades que ya había dominado tras un nuevo entrenamiento en otra tarea, o la deriva del modelo, que puede provocar un agrandamiento entre el entrenamiento de este y lo que está ocurriendo en la realidad externa.
Pero el colapso del modelo va más allá, ya que supone básicamente la reducción al absurdo de la diversidad interna a causa de la ausencia real de datos informativos. Vamos a ejemplificarlo de forma más clara para que se pueda entender este concepto.
Piensa en el actual sistema de transmisión de conocimiento, por ejemplo, con una universidad. Si el profesor utiliza la IA para realizar sus investigaciones o para dar sus clases, mientras que los estudiantes usan esa misma IA para lo mismo, se produce un bucle en el que la creatividad humana deja de ser el principal valor.
E incluso peor, la IA se retroalimenta con preguntas y respuestas que llevan siempre al mismo sitio y en la misma dirección, con lo cual la diversidad se acaba perdiendo y, como consecuencia de ello, el progreso del conocimiento: tanto el profesor como los alumnos acabarán andando en círculos autorreferenciales.
Esto va un paso más allá de lo que se conocen como alucinaciones del modelo, que pueden responder a parámetros mal configurados o a la "pereza" del propio modelo; aquí entra en juego el conocimiento y, cuando la IA está presente desde el primer momento en el buscador, puede suponer un problema sin marcha atrás para el conocimiento y el saber humano.
Al buscar la eficiencia por encima de todo lo demás, estos modelos ya no solo consolidan los sesgos sociales de los que tanto se ha hablado, sino que directamente pueden llegar a provocar incluso una desestabilización a nivel existencial, en el más originario sentido de la palabra.
El colapso parece inevitable, a no ser que se evite desde la política
Hay países, como China, que mantienen un cierto liderazgo con la IA gracias a sus modelos abiertos, pero a pesar de ello no revelan muchos datos de su entrenamiento; al otro lado del mundo, otros presidentes, como Donald Trump, creen que su "alto coeficiente [sic] intelectual" puede manejar la IA a su antojo.
Pero en ambos casos la realidad es otra. La IA puede salirse de control y ninguna gran mente sería capaz de saber qué está ocurriendo en el interior de sus planteamientos, por más que un equipo de ingenieros de una gran multinacional haya vigilado constantemente su porvenir, como ya ocurre con Anthropic y OpenAI.
En una de las publicaciones más recientes sobre este modelo del colapso, investigadores de la Universidad de Michigan y del Instituto Tecnológico de Georgia introdujeron algunos matices a esta visión, asegurando que la IA ya ha dejado de ser una entidad creativa para ser una especie de espejo que deforma la realidad, con todo lo que esto implica.
"En las primeras iteraciones, el modelo de difusión exhibe una fuerte generalización, produciendo imágenes novedosas de alta calidad con escaso parecido con las muestras de entrenamiento", añade en sus conclusiones la investigación. "Sin embargo, su capacidad de generalización se deteriora rápidamente en iteraciones sucesivas, y el modelo solo puede copiar imágenes del conjunto de entrenamiento tras varias iteraciones".
A su vez, proponen varias soluciones matemáticas para que este colapso se pueda frenar, aunque con una industria estratégica como la IA, parece que lo que digan los científicos queda relegado a un segundo plano.
El verdadero cambio y el regreso a una IA que la humanidad pueda gobernar pasa por profundos cambios a todos los niveles, desde la cosmovisión de los grandes magnates y fondos de inversión que poseen estos hasta una gobernanza realmente efectiva y que anteponga los intereses humanos a los intereses de máquinas gobernadas por humanos.