Alarma por el uso de IA para crear imágenes falsas explícitas de menores: ¿Cómo se puede parar esto?

El uso de la inteligencia artificial para crear imágenes falsas de menores desnudos vuelve a ser el tema central de grandes medios y con cada vez más fuerza cobra relevancia en España y en todo el mundo. Todo lo que actualmente está ocurriendo comienza a poner sobre la mesa serias preguntas sobre aspectos éticos, legales y sociales.

Recientemente, la Guardia Civil ha iniciado una investigación sobre varios jóvenes que presuntamente utilizaban IA para generar imágenes de menores desnudos. Estos manipulaban fotografías de menores de edad, creando contenido sexual explícito, falso, pero muy real, que luego difundían por redes sociales y otras aplicaciones.

El bombardeo de la inteligencia artificial: ¿Nos estamos saturando? 5 expertos responden

Poniendo otro caso, hace ya algunos meses saltaba la noticia de que menores —entre 12 y 14 años— de Almendralejo, Extremadura, también habían denunciado la circulación de imágenes falsas de desnudos, creadas con la ayuda de la inteligencia artificial.

El gran problema que se esconde detrás es su potencial para causar daño emocional y psicológico a los jóvenes. La adolescencia, al fin y al cabo, es una etapa de la vida en la que la construcción de la autoimagen y la aceptación por parte de los demás son casi vitales y la creación y difusión de estas fotos, siendo encima falsas, pueden tener un impacto horrible en la autoestima y la salud mental de los jóvenes.

Habiendo demostrado que hay leyes que nos amparan, entran en juego dos factores esenciales: la formación y la concienciación colectiva

Por supuesto, este tipo de actividad no solo es antimoral, sino que también supone un delito grave. La creación y distribución de imágenes sexuales de menores, incluso si son generadas artificialmente, se considera pornografía infantil y conlleva grandes consecuencias legales.

“Una ley específica para IA que entraría en juego en un caso como este, sería el reglamento de la Unión Europea sobre Inteligencia Artificial (IA Act), por el que se reconoce como práctica que atenta contra los derechos de los humanos la distribución de imágenes sensibles editadas con IA”, explica en una entrevista para Computer Hoy Aitor Pastor, CEO de Disia.

Pero aquí entran en juego dos aspectos clave. Por un lado, muchos de los jóvenes que acceden a estas aplicaciones ni siquiera son realmente conscientes de todas sus implicaciones. Algunos pueden ver esto como una broma o un juego, sin comprender el daño psicológico y emocional que pueden causar a las víctimas, así como las consecuencias legales que pueden enfrentar. 

Cámara top, carga rápida, inteligencia artificial... ¿Por qué es lo que más obsesiona a la hora de comprar un móvil?

Por otro, la facilidad de acceso a estas herramientas, que realmente cumplen su función y son capaces de sacar reproducciones exactas, es la otra cara de la moneda. Rizando el rizo, parece que esto solo puede ir a peor, ya que, tal y como explica Aitor Pastor, “en un futuro no muy lejano, las capacidades de la IA generativa se verán aumentadas, siguiendo un crecimiento exponencial, añadiendo a la creación realista de imágenes, la capacidad de crear vídeos fotorrealistas en cuestión de segundos que poco disten de la realidad”.

Con todo esto, parece que los gobiernos deben ponerse las pilas y centrar todos sus esfuerzos para que la creación y la difusión de este tipo de imágenes—o cualquier otro contenido— con el propósito de dañar la reputación de alguien termine.

“Habiendo demostrado que hay leyes que nos amparan en este sentido, entran en juego dos factores esenciales: la formación y la concienciación colectiva. Toda nueva tecnología o herramienta es un arma de doble filo y la formación ética y concienciación de las personas en Inteligencia Artificial es esencial para poder entender su potencial y los peligros de un mal uso, de manera que podamos prevenir antes que curar estas situaciones”, finaliza Aitor Pastor.

Otros artículos interesantes: