Samantha Floreani, detective de la IA: "Mi feed de redes sociales se ha convertido en un infierno, desearía poder dejar este trabajo"

Samantha Floreani puede que nunca se llegase a imaginar que su trabajo terminaría atrapándola en un mundo de deepfakes y contenido generado por inteligencia artificial. 

Como experta en analizar este tipo de contenido, explica para The Guardian que su rutina se ha convertido en un ejercicio de paciencia y vigilancia. "Mi feed de redes sociales se ha convertido en un infierno", admite. "A veces desearía poder dejar este trabajo".

Explica que cada día recibe una enorme cantidad de archivos y clips que debe examinar, verificar y catalogar. Su misión es separar lo real de lo falso y para ella esto ya se ha convertido en buscar una aguja en un pajar.

Tal y como explica, antes podías fiarte de tu ojo y tu intuición. Hoy, admite que hasta ellos se confunde y que la IA ha alcanzado un nivel que hace que lo artificial sea casi indistinguible de lo real.

Expertos advierten que los vídeos con IA son un filón para los estafadores: "Van a estar en todas partes"

La inteligencia artificial lo acapara todo y convierte el 'feed' de las redes sociales en un caos

"Consumir un 'feed' de redes sociales seleccionado algorítmicamente es como ahogarse en un caldo insípido. Los pocos atisbos de realidad que puedas encontrar solo sirven para mantenerte enganchado, perdón, desplazándote sin parar, durante más tiempo", comenta.

El volumen de contenido generado por IA se ha disparado en los últimos meses. Redes sociales y plataformas como TikTok, Instagram y YouTube se han convertido en fábricas de contenido diseñado más para impresionar a algoritmos que a humanos. 

Esto al final ha provocado que los feed se llenen de contenido absurdo, con incluso manipulaciones de la realidad mediante versiones de noticias que nunca ocurrieron. El mayor problema es que todo esto entrena a los algoritmos, viraliza la desinformación y cambian por completo el sentido de las redes sociales y de la sociedad.

ChatGPT quiere ser una red social: estrena los chats en grupo

Como comenta la experta, cada pieza de contenido generado por IA tiene un propósito y es el de mantenerte pegado a la pantalla, generar clics y, al final, dinero. Un entorno, para ella, altamente tóxico.

"Como siempre, es importante recordar que esto sucede porque las empresas más poderosas del mundo y sus líderes multimillonarios decidieron que la adopción masiva de la IA generativa es beneficiosa para el negocio", comenta.

 "A las plataformas no les interesa detener la avalancha de spam generado por IA. Al contrario, la están adoptando, incentivando y creando herramientas para facilitarla. No importa cómo la use la gente ni con qué propósito. No importa si a la gente le gusta o no. Y dado que las plataformas se benefician, no hay indicios de que esto vaya a cambiar pronto", añade.

"Dime adónde vas y te diré quién eres", así es cómo tus movimientos son espiados y compartidos al activar la geolocalización del móvil

TikTok marcará los vídeos generados con IA para evitar la desinformación

Algunas plataformas han implementado alertas o etiquetas para señalar contenido generado por IA. Este es el caso de TikTok, que etiquetará los vídeos generados por IA con más precisión para que sepas cuándo lo que ves puede no ser completamente auténtico.

La herramienta permite a los creadores marcar sus vídeos: pueden usar un texto, un hashtag o un sticker en la descripción. Si se detecta que un vídeo ha sido creado o editado bastante con IA, TikTok podría incluso añadir automáticamente la etiqueta "Generado por IA". 

Por otro lado, también ha anunciado una marca de agua invisible que solo TikTok puede leer. Esa marca técnica se añade a los vídeos para que, si alguien los descarga o los vuelve a subir, siga apareciendo el rastro de que fueron creados con IA.