Los moderadores de Reddit están furiosos con la IA: por qué esta investigación académica ha traspasado todos los límites

Los límites de la inmoralidad no existen y tampoco los de la inteligencia artificial o, más bien, de quien está detrás de este tipo de soluciones tecnológicas. Es el caso de un grupo de investigadores de la Universidad de Zúrich (UZH), que dirigieron de forma silenciosa un experimento en el que se usó la inteligencia artificial generativa y modelos de lenguaje grande (LLM) para evaluar cómo puede inducir a los usuarios otras opiniones diferentes a las suyas.

Para elaborar este estudio los investigadores desplegaron comentarios generados por IA para conocer cómo podía utilizarse esta tecnología con el propósito de modificar las perspectivas y opiniones de los usuarios, algo que no está permitido en dicha comunidad y que hicieron sin pedir permiso.

Este experimento social se llevó a cabo en una de las comunidades más populares de la Reddit, que recibe el nombre de r/changemyview ―también conocido como CMV― y en el que habitualmente sus participantes comparten sus impresiones sobre ciertos temas para confrontarlas con las de otros usuarios y comprender sus puntos de vista.

En este escenario, se difundieron diferentes comentarios generados con IA para conocer la capacidad que tienen estas herramientas de persuadir a los usuarios para cambiar de opinión sobre determinados temas desde diferentes cuentas falsas creadas a raíz de la investigación.

Los administradores de este grupo han indicado que los investigadores no se pusieron en contacto con ellos antes del estudio y que, de haberlo hecho, lo habrían rechazado, porque las reglas de CMV "no permiten el uso de contenido generado por IA no revelado o bots" en el subreddit.

Lo que sí reconocen es que recibieron un correo de su parte como "parte de un paso de una acción de divulgación en el estudio aprobado por la Junta de Revisión Institucional (IRB) de la Universidad de Zúrich", algo que sucedió cuando ya se había utilizado la IA.

Asimismo, han indicado que, en esta comunicación, los expertos sugieren que no revelaron el uso de esta tecnología generativa para escribir comentarios, ya que esto habría tenido un resultado "inviable" y que, si bien no escribieron ninguno de los comentarios en cuestión, revisaron "manualmente" cada uno de ellos para asegurarse de que no fueran dañinos.

Con ello, han reconocido en esta misiva que su experimento "rompió las reglas de la comunidad" contra los comentarios generados por IA y se han disculpado, mientras que los administradores les han invitado a participar a través de una cuenta de usuario real y legítima (u/LLMResearchTeam) para dar las explicaciones que correspondan.

Usaron la IA para simular ser víctimas de violaciones

Para justificar sus acciones, los analistas han sugerido que se han visto en la necesidad de realizar un experimento de estas características debido a que faltan investigaciones que traten sobre este aspecto, lo que "constituye una brecha inaceptable", según han trasladado los moderadores en una publicación compartida en esta comunidad.

Además, han querido ser transparentes, proporcionando una lista de las falsas cuentas creadas que aún permanecen en activo y otra con las cuentas eliminadas por los administradores de Reddit por violar los términos de su servicio. Entre ellas, se encuentran u/catbaLoom213, u/jaKobbbest3 y u/spongermaniak. Reddit, por su parte, ha bloqueado los comentarios de todas estas cuentas y se ha comprometido a eliminarlos próximamente.

No obstante, el daño ya está hecho, ya que los investigadores utilizaron la IA para generar comentarios sobre temas bastante escabrosos. Tanto es así que usaron inteligencias artificiales fingiendo ser víctimas de violaciones, haciendo creer que eran consejeras especializadas en casos de abusos e, incluso, simulando ser personas negras contrarias a causas sociales como el Black Lives Matter.

Asimismo, los administradores de la cuenta de Reddit comprobaron que, durante el experimento, los investigadores modificaron los "argumentos basados en valores" y planificados originalmente, que fueron autorizados por la Comisión ética de la Facultad de Artes y Ciencias de la UZH. En su lugar, optaron por "argumentos personalizados y ajustados" a sus intereses, sin consultar primero con dicha comisión. 

"La falta de revisión ética formal para este cambio plantea serias preocupaciones. Creemos que estuvo mal y no creemos que lo de que no se haya hecho antes [un estudio similar] es una excusa para hacer un experimento como este", han señalado públicamente en este comunicado.

En base a todo ello, el equipo de moderación ha presentado una queja ética ante el IRB de la Universidad de Zúrich, citando "serias lagunas" que consideran que existían en este proceso de revisión y han solicitado realizar una revisión interna de cómo se aprobó el proyecto y si se mantuvo la supervisión adecuada para llevarlo a cabo.

Por su parte, el presidente de la Comisión Ética de la institución universitaria ha indicado que no tiene autoridad legal para paralizar la publicación del estudio, que aconsejará una coordinación más estricta con las comunidades para realizar estudios experimentales en el futuro y que, en su opinión, su investigación ha hecho "poco daño" a los implicados.

"Este proyecto produce información y portante y los riesgos son mínimos. Esto significa que suprimir la publicación no es proporcional a la importancia de la información que se ha generado con este estudio", han añadido los responsables de la Universidad de Zúrich.

OpenAI ya hizo otro estudio parecido

Los moderadores de Reddit han asegurado que esta investigación "no demuestra nada nuevo" y que OpenAI ya hizo algo similar hace un tiempo, utilizando una copia descargada de la comunidad, en lugar de "experimentar con sujetos humanos", tal y como han hecho los investigadores suizos.

"No estamos convencidos de que haya información importante que solo se pueda obtener violando este subreddit", han matizado, insistiendo en que el proyecto "no parece haber sido diseñado de manera sólida" y que, en apariencia, tampoco se ha sometido a un proceso de revisión ético "sólido".

Por ese motivo, han instado "encarecidamente" a los investigadores a reconsiderar su postura sobre la publicación de los resultados que, de ver la luz, "contribuirían a una mayor vulnerabilidad de la comunidad a futuros experimentos con sujetos humanos que no consienten" que se trate su opinión de manera ilícita.

Otros artículos interesantes: