Youtube contra la IA: crean una herramienta para detectar si tu rostro se convierte en un deepfake
Youtube tiene un problema con los deepfakes creados mediante inteligencia artificial. Pero la conocida red social centrada en vídeos tiene un plan para evitarlos.
Youtube ha reconocido varias veces que los deepfakes hechos con IA suponen un problema. Incluso su CEO opinó hace no mucho al respecto. La gran mayoría de contenidos de inteligencia artificial están llenando de "basura de la IA" la plataforma, pero la tendencia se vuelve más complicada cuando se imita la voz o el rostro de alguien. Y también sucede.
Según ha trascendido, YouTube trabaja en una tecnología de "detección de semejanza" que funcionará de forma parecida al famoso sistema Content ID. Hasta ahora, Content ID permitía detectar automáticamente música o vídeos protegidos por derechos de autor. La nueva idea es aplicar una lógica similar, pero centrada en la identidad de las personas.
Curiosamente, también hay IA de por medio. El sistema utilizará inteligencia artificial para analizar vídeos subidos a la plataforma y detectar si alguien está usando la cara o la voz de otra persona generada artificialmente en Youtube. Si el sistema identifica una posible copia digital, el creador afectado recibirá una notificación, podrá revisar el contenido y tendrá la opción de solicitar su eliminación.
¿Y a quién irá dirigida esta iniciativa de Youtube, al menos por ahora? Principalmente a creadores, youtubers, periodistas y figuras públicas. Sin embargo, podría ampliarse más adelante a todo tipo de usuarios. Quizá dependa, más que nada, de cómo funcione en el momento de ver la luz.
Para acceder a este sistema, los creadores deberán pasar un proceso de verificación. Entonces YouTube pedirá documentación oficial y un vídeo selfie de confirmación. Con esos datos, la plataforma generará una referencia biométrica que permitirá comparar futuros vídeos sospechosos. La idea, por lo tanto, es que cualquiera no pueda hacerse pasar por quien no es, tampoco en la validación.
Tal y como explican en Digital Trends, la estrategia pasa por adelantarse a las posibles denuncias. Hasta ahora Youtube solo reaccionaba cuando alguien se quejaba de forma "manual", y el proceso acostumbraba a ser demasiado largo. Con esta herramienta, se busca que detectar deepfakes y resolverlos sea una operación mucho más rápida y eficaz.
Youtube tiene un problema con los deepfakes
El auge de la inteligencia artificial generativa está y herramientas como ChatGPT está cambiando Internet a una velocidad enorme. A veces, no es fácil para plataformas como Youtube adaptarse a ello. Ahora cualquiera puede generar voces sintéticas, vídeos muy realistas o fotografías falsas sin apenas tener que esforzarse. De ahí que los vídeos manipulados se hayan multiplicado en poco tiempo.
Es más frecuente que nunca ver famosos promocionando productos falsos, políticos aparentemente diciendo cosas que nunca dijeron, o creadores utilizados en anuncios fraudulentos. Algo que, como era de esperar, ha terminado por convertirse en todo un dolor de cabeza para Youtube.
YouTube no es la única empresa preocupada por este problema. Grandes tecnológicas como Google, Meta y OpenAI están desarrollando sistemas de autenticación y detección de contenido generado con IA. Solo que quizá el caso de Youtube es más apremiante, por el tipo de red social de la que se trata: centrada en vídeos.
Con todo, no parece que el desafío vaya a ser fácil. Los modelos de IA mejoran constantemente y los deepfakes son cada vez más difíciles de identificar incluso para sistemas automáticos. Pero algo habrá que hacer. Los derechos de imagen y la privacidad de la gente están en juego. Sobre todo sobre la famosa, es cierto, pero también la de todos los demás.