Google en el punto de mira por las imágenes explícitas que no retira de internet

En los últimos años, el problema de las imágenes explícitas publicadas sin consentimiento ha aumentado y, por si fuese poco, todo se ha agravado por la aparición de deepfakes, que, en su gran mayoría, afecta a mujeres. Google, como gran poseedor de casi la totalidad de internet, se encuentra en medio de un huracán al tener la posibilidad de hacer que todo eso desaparezca.

A principios de 2022, miembros del equipo de políticas de Google se reunieron con tres mujeres víctimas de una estafa que resultó en la difusión de videos explícitos. Estas mujeres, engañadas, fueron obligadas a participar en videos sexuales que luego se publicaron en webs pornográficas.

Aunque el sitio fue cerrado en 2020 y algunos de sus responsables fueron condenados por tráfico sexual, los vídeos seguían apareciendo en los resultados de búsqueda de Google más rápido de lo que las víctimas podían pedir su eliminación y Google poco estaba haciendo por colaborar.

Si bien es cierto que ha hecho algunos avances en la eliminación de resultados para víctimas de abuso sexual, muchos creen que se podría hacer mucho más.

YouTube Music es uno de los mejores productos de Google, ¿por qué tan poca gente lo usa?

Herramientas de inteligencia artificial que crean deepfakes solo ha empeorado la situación

Actualmente, las víctimas pueden demandar a los sitios web que tienen contenido no consensuado, pero estos procesos pueden ser costosos y no garantizan la eliminación del contenido. La eliminación de resultados de búsqueda es una solución más práctica para evitar que el contenido sea visto por amigos, familiares y en realidad por cualquiera.

Un portavoz de Google afirmó a Wired que combatir las imágenes explícitas no consensuadas sigue siendo una prioridad para la compañía. Aseguró que han invertido en políticas y protecciones para ayudar a las personas afectadas por este contenido dañino y que continúan trabajando para mejorar.

Sin embargo, en el otro lado señalan que Google ha implementado restricciones mucho más estrictas para el material de abuso sexual infantil, sugiriendo que la empresa podría hacer mucho más en el caso de las imágenes explícitas no consentidas. 

Por ejemplo, al buscar "niños desnudos deepfake" en Google, aparece una advertencia de que dicho contenido es ilegal, pero una búsqueda similar para contenido explícito de adultos no ofrece ninguna advertencia ni recursos.

Desde 2015, Google acepta solicitudes de eliminación de contenido explícito destinado a ser privado y no autorizado para publicación. Sin embargo, las políticas y procedimientos han sido criticados por su insuficiencia. Aunque Google ha ido poco a poco mejorando este sistema, desde luego, para muchos, no es suficiente. Mientras tanto, las víctimas continúan enfrentándose a un proceso difícil y traumático para eliminar estos contenidos de la web.

Otros artículos interesantes: