Las IA ya están organizándose entre ellas: crean normas, pactan acuerdos y debaten sin humanos
Un estudio revela que las inteligencias artificiales pueden crear sus propias reglas, formar sesgos y tomar decisiones colectivas sin intervención humana, como si fueran una sociedad.
En un experimento sorprendente, varios sistemas de inteligencia artificial demostraron que pueden autoorganizarse sin necesidad de supervisión humana, estableciendo normas sociales, creando acuerdos colectivos e incluso desarrollando sesgos grupales.
Los resultados del estudio, creado por investigadores de la Universidad de Londres y publicado en Science Advances, revelan que los modelos de lenguaje como ChatGPT no solo entienden y generan texto, sino que pueden comportarse de forma parecida a una comunidad humana cuando se les deja interactuar entre ellos.
Lo que antes parecía ciencia ficción empieza a dibujarse como un escenario real, especialmente en entornos donde múltiples sistemas de IA operan simultáneamente.
Inteligencias artificiales que negocian y acuerdan
El experimento se centró en un juego simple, donde los agentes de IA tenían que elegir un nombre entre varias opciones y eran recompensados si coincidían con otro agente. A medida que avanzaban las rondas, comenzaron a establecer convenciones comunes sobre qué nombre usar, sin que ningún agente fuera líder ni sin que existiera programación previa que indicara esa conducta.
Esta dinámica de autoorganización muestra que las IA pueden llegar a una forma de "consenso social" de manera autónoma. Es decir, no solo ejecutan órdenes o rutinas programadas, sino que pueden alinear comportamientos entre ellas, adaptarse al entorno e incluso formar estructuras similares a normas sociales.
Aunque esto puede parecer fascinante, también supone un riesgo, ya que, al actuar en grupo, estas inteligencias artificiales pueden generar sesgos colectivos que no estaban previstos en su diseño. Estos sesgos no vienen heredados de su entrenamiento inicial, sino que emergen de sus propias interacciones.
Uno de los hallazgos más alarmantes fue que las IA, al interactuar entre sí, pueden desarrollar sesgos que luego se refuerzan colectivamente. Es decir, aunque cada sistema individual fuera inicialmente neutral, la dinámica grupal puede derivar en preferencias o rechazos hacia ciertas opciones, replicando comportamientos similares a los de los grupos humanos.
"Entender cómo funcionan es clave para liderar nuestra coexistencia con la IA, en lugar de estar sometidos a ella", afirmó en el estudio Andrea Baronchelli, catedrático de Ciencias de la Complejidad y uno de los autores principales del estudio.
Este fenómeno pone en entredicho los enfoques actuales de seguridad en inteligencia artificial, que suelen centrarse en controlar o supervisar modelos individuales. Si las decisiones peligrosas o erróneas emergen de las interacciones entre varios agentes, los sistemas de protección actuales podrían no ser suficientes.
Además, el estudio demostró que solo unos pocos agentes con una preferencia clara pueden influir en todo el grupo. Esta capacidad de "arrastre" colectivo es similar a cómo funcionan las opiniones dominantes en las redes sociales o las dinámicas de masas.
Un nuevo horizonte para la seguridad y la ética de la IA
Los investigadores insisten en que entender cómo interactúan múltiples sistemas de IA es esencial si queremos convivir con ellos de forma segura. Hasta ahora, gran parte del desarrollo de herramientas como ChatGPT, Copilot o Gemini se ha hecho con el foco en el rendimiento individual.
Pero el futuro apunta a redes de agentes colaborativos que operarán juntos, desde asistentes personales hasta sistemas automatizados en empresas, gobiernos o medios de comunicación. A largo plazo, esto plantea la necesidad de repensar los marcos regulatorios y éticos.
La inteligencia artificial está dejando de ser una herramienta aislada para convertirse en un ecosistema complejo. Y como ocurre con cualquier sociedad, cuando los individuos, en este caso, las máquinas, se agrupan, las consecuencias pueden ser tanto creativas como imprevisibles.