Slack usa los mensajes privados de los usuarios, para entrenar a su IA
En una compañía cuyo negocio se basa en la privacidad de sus clientes, que en su mayoría son empresas, arriesgar con la privacidad no es una buena táctica.
Slack ha tenido un fin de semana caliente en redes sociales, y en foros de privacidad y seguridad. Al parecer, ha entrenado a su IA con los mensajes y datos privados de los clientes. Y toda su política alrededor de esto, es bastante confusa.
Todo empezó el pasado viernes, cuando en el foro Hacker News se dieron cuenta de que Slack estaba entrenando a su inteligencia artificial no generativa con datos privados de sus clientes: mensajes, contenido y ficheros.
El problema no es solo esto, sino la confusa política que hay alrededor de esta práctica de una compañía cuyo negocio es la privacidad de las comunicaciones entre miembros de una empresa, y sus clientes o proveedores.
Slack y la polémica con el entrenamiento de la IA
Slack es una aplicación de chat que mayoritariamente la usan los profesionales para la comunicación interna, organización de tareas, o comunicación con proveedores y clientes.
Hablamos de mensajes privados entre empleados, clientes, proveedores, etc., con mucha información confidencial. Las empresas confían en que la privacidad se mantenga en el más alto nivel.
Pero al parecer, no es así. Slack ha estado usado los datos privados de sus clientes para entrenar a sus IA no generativas, que recomiendan canales, emojis, y búsquedas. Así lo confirma en su política de privacidad:
"No desarrollamos LLM ni otros modelos generativos utilizando los datos de los clientes. Para desarrollar modelos de IA/ML no generativos para funciones como emoji y recomendaciones de canales, nuestros sistemas analizan Datos de clientes (por ejemplo, mensajes, contenido y archivos) enviados a Slack, así como Otra información".
Muchos usuarios se han mostrado sorprendidos, e irritados, porque se han usado datos privados de su empresa para entrenar a la IA. Aunque se incluya en la política de privacidad, lo que les molesta es que esta opción se use por defecto, sin preguntar ni avisar. Esto podría ir en contra de la GDPR, la ley de privacidad de los datos, que funciona en la Unión Europea.
La opción de usar tus datos para entrenar a la IA se usa por defecto, cuando en datos tan críticos, debería ser la revés. Primero preguntar a los clientes si pueden usar sus datos privados de la empresa para entrenar a la IA, y solo si lo aprueban, utilizarlos.
También ha causado bastante indignación el método que usa Slack si quieres cancelar la participación por defecto en el entrenamiento de su IA: enviar un correo electrónico a través del representante de tu empresa u organización, no se puede hacer como usuario individual, ni mediante una opción en tu Panel de Control.
Todo el mundo quiere crear su propia IA, y para eso, hace falta entrenarla. Y en muchos casos, para que sea efectiva, solo se puede hacer con datos propios. Pero hay diferentes formas de hacerlo. La de Slack, no ha gustado mucho a sus clientes.