Crean una red social donde cada usuario es un bot, y las consecuencias son inesperadas
Científicos crearon una simulación de red social poblada solo por chatbots de IA basados en GPT-4o, con el fin de reducir la desinformación y el discurso de odio. El resultado fue desalentador y ningún bot logró un cambio significativo.
Un equipo de científicos decidió llevar la inteligencia artificial al extremo al diseñar una red social en la que no participa ningún ser humano. Cada cuenta está gestionada por un chatbot basado en GPT-4o, creando un entorno donde todas las interacciones y respuestas provienen de algoritmos.
La idea era sencilla en apariencia, ya que se buscaba comprobar si, en un entorno artificial y controlado, era posible librarse de los males que arrastran estas plataformas, como la polarización, discursos de odio, desinformación… todos esos problemas que contaminan la conversación pública.
Cabe señalar que lo sorprendente de todo fueron los resultados, puesto que, lejos de solucionarlos, el experimento confirmó que la toxicidad no depende solo de las personas que participan, sino de la propia arquitectura de las redes sociales.
Una red social sin humanos
El diseño de la prueba consistió en poblar una plataforma entera con bots de IA, donde cada uno tenía un comportamiento autónomo, generaba publicaciones y reaccionaba a los mensajes de otros. Para los investigadores, era la ocasión perfecta de probar estrategias que en la práctica muchas compañías han prometido como soluciones a la deriva tóxica de sus redes.
Entre ellas, organizar el contenido en un feed estrictamente cronológico, ocultar métricas de popularidad como el número de seguidores, potenciar la exposición a diferentes puntos de vista o reducir la información visible en los perfiles.
Sobre el papel parecía razonable, que era eliminar incentivos de popularidad, fomentar la diversidad y ordenar la conversación de forma más transparente, y esto debía ayudar a construir un espacio menos polarizado.
Sin embargo, los resultados fueron desalentadores, puesto que ninguna de las medidas probadas logró revertir el problema de fondo. Algunas ofrecieron mejoras mínimas, pero otras lo empeoraron. El caso más claro fue el del feed cronológico, que redujo desigualdades de visibilidad, sí, pero situó contenidos extremos en la parte alta de la pantalla, dándoles aún más relevancia.
Aquí está lo más inquietante, ya que incluso en un escenario donde no participan humanos, las dinámicas de la red social empujaron a los bots hacia la radicalización y consolidaron una desigualdad extrema en la atención. Es decir, la propia estructura generó el problema.
Lo que revela sobre las redes sociales
El estudio refuerza una conclusión difícil de pasar por alto: los problemas de las redes sociales no se deben solo al comportamiento de los usuarios, sino también al propio diseño de las plataformas. Así lo señaló Petter Törnberg, coautor de la investigación, en declaraciones a Ars Technica.
Son sistemas construidos para premiar la interacción, maximizar el tiempo de uso y retener a las personas a través de estímulos emocionales. Eso convierte a la polémica y al contenido extremo en moneda de cambio.
Si a eso le sumas la irrupción de la inteligencia artificial generativa, la ecuación se complica. Estas herramientas permiten crear mensajes en masa, con un tono convincente diseñado para captar atención.
El riesgo es evidente, la desinformación, así como los discursos polarizantes pueden multiplicarse sin apenas coste, aprovechando el mismo engranaje que ya favorece lo sensacionalista sobre lo razonado. La IA, en lugar de limpiar el ambiente, amenaza con amplificar la toxicidad.
Lo que ocurrió en la investigación es un espejo de lo que experimentas cada día en plataformas reales, como X. Todo ello responde a un modelo de negocio muy claro, que es captar tu atención a cualquier precio para vender publicidad.
Del mismo modo, evidencia que no es cuestión de unos cuantos usuarios problemáticos, incluso cuando quienes publican son máquinas, el sistema reproduce dinámicas de polarización. Eso significa que las redes sociales están condenadas a ese resultado por cómo están diseñadas.
Si los bots replican lo peor de la conversación digital, es porque la arquitectura lo favorece. Y si esa lógica se combina con la capacidad de la IA para producir contenidos masivos, las consecuencias pueden ser mucho más graves.
La advertencia es clara, no basta con ajustar el orden de las publicaciones o esconder métricas sociales. Mientras la lógica que manda sea maximizar la atención, la toxicidad seguirá intacta. Con o sin humanos, con más o menos filtros, el problema se repetirá.
Una advertencia para el futuro digital
El experimento con una red social formada solo por bots deja un mensaje incómodo, donde no puedes esperar que las mismas estructuras que alimentan la polarización se conviertan en espacios de convivencia saludable solo con pequeños retoques.
La IA no es una varita mágica capaz de resolver los defectos de fondo; puede ser, de hecho, el altavoz que los multiplique. Si hasta los chatbots, diseñados para simular diálogo, acaban atrapados en dinámicas tóxicas, quizá ha llegado el momento de replantear qué tipo de redes sociales queremos construir.