La Guardia Civil investiga a varios jóvenes que usaban IA para crear imágenes de menores desnudas

Tal y como notifica el Ministerio de Interior, cinco jóvenes han sido identificados como los presuntos responsables de crear y distribuir imágenes pornográficas falsas de al menos 20 menores de edad, utilizando herramientas de inteligencia artificial.

La operación se inició tras la denuncia de unos padres alarmados por la circulación de imágenes manipuladas de su hija. Con esto como base, rápidamente se descubrió que el caso era solo la punta del iceberg de un problema mucho más complejo.

Los acusados, cuyas identidades se mantienen en el anonimato, habrían usado software de IA para alterar fotografías de chicas menores a las que conocían personalmente. El resultado: imágenes falsas, pero muy realistas, que mostraban a las víctimas en situaciones comprometedoras y desnudas.

Comentan que la difusión de este material se realizó principalmente a través de aplicaciones de mensajería instantánea y grupos en redes sociales. Las autoridades han calificado los hechos como delitos de pornografía infantil y revelación de secretos y todo este proceso no ha hecho más que empezar.

¿Qué medidas se pueden tomar al respecto para evitar este uso indebido de la IA?

No cabe duda de que una de las principales medidas es la actualización y creación de leyes específicas para el uso de la inteligencia artificial para este tipo de actos. Estas leyes deben incluir sanciones claras para los infractores y considerar las circunstancias de cada caso, sea o no menores.

A esto se le suma, por supuesto, la educación a jóvenes y familias sobre los peligros del mal uso de esta tecnología. 

Las propias plataformas también tienen una gran responsabilidad en esta lucha. Deben implementar políticas rigurosas contra la difusión de imágenes falsas o comprometedoras y tomar medidas para eliminar este contenido cuando se identifique. Además, es importante que estas promuevan la denuncia de abusos y el respeto a la privacidad en internet.

El bombardeo de la inteligencia artificial: ¿Nos estamos saturando? 5 expertos responden

"Probablemente muchos de los jóvenes que acceden a estas aplicaciones ni siquiera son realmente conscientes de todas sus implicaciones y, si lo son, demuestran una falta de empatía y civismo realmente alarmante. Son estos los factores que como sociedad deberíamos plantearnos…", comentaba en una entrevista para Computer Hoy Miguel López, Director General de Barracuda Networks.

"Es un tema muy complejo al que habría que dar una respuesta tanto legislativa como técnica (implementar las herramientas adecuadas de ciberseguridad, cosa que actualmente brilla por su ausencia) pero también desde la mayor implicación en el problema de educadores y padres (la solución para que 'el niño' coma tranquilo no debería ser 'enchufarle' a ver vídeos uno detrás de otro en una red social en la que desconocemos los contenidos que terminan siéndole mostrados)", añade.

Otros artículos interesantes: