La IA sigue condenando a las personas famosas por los deepfakes y Meta no hace nada por solucionarlo
Los delincuentes campan a sus anchas por Facebook e Instagram y la Junta de supervisión de Meta cree que está siendo muy laxa con los deepfakes de celebridades.
No se pueden poner puertas al campo o, al menos, eso es lo que esperan (y están comprobando, dicho sea de paso) los ciberdelincuentes, que siguen haciendo todo lo que se les ocurre en las plataformas de Meta para esparcir bulos a golpe de deepfakes de famosos.
Lo peor es que la compañía, no está haciendo demasiado por frenar esta tendencia. Eso, al menos, es lo que opinan los expertos de la Junta de Supervisión de Meta, que ha observado que la creadora de Facebook e Instagram "probablemente esté permitiendo cantidades significativas de contenido fraudulento en sus plataformas".
"Los revisores [de contenido] a escala no están facultados para hacer cumplir esta prohibición sobre el contenido que establece una personalidad falsa o pretende ser una persona famosa con el el objetivo de estafar o defraudar", ha añadido este grupo de expertos en la última publicación de su blog.
Por todo ello, la empresa que dirige Mark Zuckerberg "debería aplicar esta prohibición a gran escala, proporcionando a los revisores indicadores, a menudo fácilmente identificables, que distingan el contenido de inteligencia artificial", ha concluido la Junta.
Los deepfakes están aumentando a nivel mundial
Los estafadores cibernéticos han encontrado en los deepfakes la herramienta perfecta para cometer fraude a gran escala de forma muy sencilla y efectiva. No es casualidad, por tanto, que esta modalidad ya esté más que extendida en las redes sociales que desarrolla Meta.
El caso que la Junta de Supervisión ha escogido para ilustrar esta problemática ha sido el de un vídeo manipulado de una persona mediante inteligencia artificial, que parece ser el exfutbolista brasileño Ronaldo Nazário y en el que anima a la gente a descargar una aplicación para jugar al Plinko, un juego de azar.
En ese vídeo, se incluye un audio que no está sincronizado con los movimientos de los labios del individuo que imita a este famoso. Asimismo, contiene imágenes poco realistas, generadas por IA, de un profesor, un conductor de autobús y un empleado de un supermercado, en las que también se hacían referencia al salario promedio de sus trabajos en Brasil.
Para animar a la gente a invertir en criptomonedas, en dicho audio se afirma que los jugadores de Plinko pueden ganar más dinero con el juego que con las profesiones a las que se dedican esas personas. Asimismo, se incluye un clic de descarga de la aplicación de Plinko, que en realidad lleva a un juego diferente llamado Bubble Shooter.
Una publicación falsa vista más de 600.000 veces
La Junta ha señalado que la publicación fue vista más de 600.000 veces y reportada por diferentes usuarios en más de 50 ocasiones. Sin embargo, la compañía no priorizó el problema y, por tanto, no se eliminó el contenido. En ese punto, uno de los denunciantes no se conformó con la respuesta y volvió a solicitar que un humano lo revisara, lo que tampoco sucedió.
Como la compañía parecía no tener la intención de frenar la estafa, este usuario apeló la decisión de Meta ante la Junta, alegando que la publicación incluía un anuncio o estaba patrocinada. Fue entonces cuando el anuncio se desactivó por infringir el Estándar sobre Prácticas Comerciales Inaceptables de la compañía, aunque la publicación orgánica original permaneció en la plataforma.
Después de que la Junta, finalmente, le comunicara el problema a Meta, la tecnológica eliminó la primera publicación por infringir la política de Fraude, Estafas y Prácticas Engañosas y caso cerrado. En este sentido, la Junta cree que se debe aplicar esta normativa sobre el contenido que intente crear una imagen falsa o hacerse pasar por una persona famosa con el fin de estafar o defraudar con el fin de que el deepfake deje de ser un problema en sus redes sociales.
Por último, la Junta ha instado a Meta a actualizar sus directrices internas, capacitar a los revisores de contenido humanos para identificar este tipo de estafas y capacitarlos sobre los indicadores de contenido manipulado por IA.
Esto podría incluir, entre otras cosas, la presencia de marcas de agua y metadatos de manipulación de medios o factores que evidencien que lo que se está viendo en el vídeo no se corresponde con el audio que se está escuchando.
