Imágenes de cientos de niños usadas ilegalmente para entrenar IA como Stable Diffusion

Al mismo tiempo que la inteligencia artificial avanza a pasos agigantados, también lo hace consigo las grandes preocupaciones sobre el tratamiento de los datos usados para que chatbots o herramientas de IA realmente sean una locura.

Precisamente cogiendo este aspecto como referencia, parece que las cosas se están poniendo algo feas tras descubrir que imágenes reales de niños brasileños se están usando sin su conocimiento para entrenar a la inteligencia artificial.

Un informe de Human Rights Watch explica que más de 170 imágenes y detalles personales de niños de Brasil fueron extraídos sin consentimiento y utilizados en el conjunto de datos LAION-5B, muy famoso por ser usado para entrenar modelos de IA como el famoso Stable Diffusion de Stability AI. 

"Los niños no deberían tener que vivir con el temor de que sus fotos sean robadas y utilizadas como arma contra ellos", afirmó Hye Jung Han, investigadora y defensora de los derechos y la tecnología de los niños de Human Rights Watch. "El gobierno debería adoptar urgentemente políticas para proteger los datos de los niños del uso indebido impulsado por la IA".

Human Rights Watch revisó menos del 0,0001% de los 5.850 millones de imágenes

Las imágenes en cuestión provienen de publicaciones en blogs y vídeos de YouTube con pocas visitas, que están ahí probablemente para que los vean familiares y amigos. Han también advierte sobre los peligros de que cualquier foto o vídeo de un niño en línea pueda ser manipulada por personas con no muy buenas intenciones usando estas herramientas de IA.

"Human Rights Watch encontró 170 fotografías de niños de al menos 10 estados: Alagoas, Bahía, Ceará, Mato Grosso do Sul, Minas Gerais, Paraná, Río de Janeiro, Rio Grande do Sul, Santa Catarina y São Paulo. Es probable que se trate de un conteo significativamente inferior a la cantidad total de datos personales de niños que existen en LAION-5B, ya que Human Rights Watch revisó menos del 0,0001% de los 5.850 millones de imágenes y leyendas contenidas en el conjunto de datos", explican.

Por su lado, LAION, la organización alemana sin fines de lucro que administra LAION-5B, se ha comprometido a eliminar esas imágenes, aunque también ha dicho que los niños y sus tutores son los responsables de eliminar de Internet sus fotografías personales, lo que, según afirman, es la protección más eficaz contra el uso indebido.

Por supuesto, la respuesta a esta afirmación no se ha hecho esperar y Hye Jung Han explica que no debería ser responsabilidad de los niños y sus padres protegerse contra estas tecnologías. Las leyes y las organizaciones deben asumir un rol activo en la regulación y protección contra el uso indebido de datos personales. 

Otros artículos interesantes: