La IA no sabe guardar secretos: "Le confié información confidencial y volvió para atormentarme"
¿Te has parado a pensar en todo lo que le cuentas a la IA? ¿Qué pasa si esa 'ayuda' se convierte en un problema? Esta historia va a hacer que te replantees cómo la usas.
La inteligencia artificial se ha convertido en la herramienta preferida y casi amada de miles de empresas y trabajadores. Pero la realidad es mucho más engañosa de lo que muchas veces se cuenta y no, aunque lo parezca, la IA no es tu amiga, ni tu abogada, ni un socio que se rija por ningún acuerdo de confidencialidad.
Precisamente esto es algo que Jonny Caplan, de Entrepeneur, cuenta y que ha aprendido por las malas. En pocas palabras, decidió poner a prueba a una IA con información confidencial de un proyecto. No vinculó datos personales ni nombres de empresas.
Sin embargo, al consultar desde otro dispositivo quién era, la IA no solo mencionó detalles del proyecto secreto, sino que los atribuyó directamente a Caplan, creando una historia falsa y nada favorecedora para este.
La información nunca había sido publicada ni relacionada con Caplan. La IA, en su afán de ser útil, conectó puntos que nadie le pidió y expuso datos privados con total seguridad.
El verdadero peligro se esconde en la memoria y las suposiciones de la IA
Aunque los proveedores insisten en que la IA no almacena datos personales ni recuerda conversaciones, la realidad es más complicada de lo que crees. Muchos sistemas se guardan contexto durante una sesión o incluso entre varias, salvo que se borre manualmente.
Además, si la IA se entrena o ajusta con datos de conversaciones, aunque estén anonimizados, la fina línea entre privacidad y propiedad intelectual desaparece. La IA hace suposiciones, conecta información y, a veces, no olvida aunque se le indique, dejando bien claro lo peligroso que esto supone para una empresa y sus trabajadores.
Sin ir más lejos, varias empresas, como Samsung y Apple, han impuesto restricciones a los bots generativos de IA debido a la sensibilidad de los datos. Hace unos años en Samsung precisamente se vivió un gran revuelo.
Un ingeniero subió información confidencial a ChatGPT para resolver un problema técnico. El resultado: datos internos expuestos y la posibilidad de que la IA los reutilizara en contextos no autorizados. Empresas como JPMorgan o Amazon también se han encontrado con este tipo de problemas.
Según Gartner, toda información dada a estos sistemas podría volverse accesible al público con el tiempo o por una filtración. Y la preocupación es global: en Francia, la CNIL alertó sobre más de 5.600 filtraciones de datos personales en 2024, muchas ligadas al uso de IA, y advirtió que el 80% de los incidentes podrían haberse evitado con mejores protocolos de seguridad
5 datos personales que jamás debes compartir con ChatGPT
Debes guardar a muy buen recaudo información como tu nombre completo, dirección, fecha de nacimiento e incluso tu número de seguro social, ya que son datos altamente sensibles que podrían ser utilizados de manera maliciosa si llegaran a manos equivocadas.
También es importante tener en cuenta que ChatGPT se utiliza para entrenar la inteligencia artificial, lo que implica que estos datos podrían ser utilizados con ese propósito y seguro que no te apetece que anden circulando por ahí.
Uno de los datos más buscados por los ciberdelincuentes en las violaciones de datos son los nombres de usuario y las contraseñas. Estas credenciales, como ya sabes, abren todo tipo de puertas, especialmente si se reutilizan en varios sitios.
Aunque es tentador confiar en ChatGPT, no es recomendable compartir tus inicios de sesión con la inteligencia artificial. No tiene sentido hacerlo y puede poner en riesgo la seguridad de tus cuentas.
La verdad es que no existe motivo alguno para dar información bancaria personal a ChatGPT, pero aun así parece que algunos usuarios lo hacen. OpenAI nunca necesitará números de tarjetas de crédito ni detalles de cuentas bancarias y ChatGPT no puede hacer nada con esos datos, así que por qué compartirlos.
La divulgación de este tipo de información tan sensible puede tener graves consecuencias para ti. Importante que tengas en cuenta que si una aplicación que se hace pasar por ChatGPT te solicita información financiera, es una señal de alerta de que podrías estar tratando con malware. Bajo ninguna circunstancia debes proporcionar esos datos.
Es fundamental mantener bajo llave los secretos de tu trabajo como la propia palabra lo indica, en secreto. Ya has visto que han ocurrido incidentes en los que información confidencial se ha cargado en ChatGPT u otros chatbots, lo cual es muy preocupante porque no resulta para nada útil.
Compartir datos de salud detallados con chatbots puede ser realmente una equivocación. Si bien es comprensible que desees dar indicaciones sobre "qué pasaría si" relacionados con síntomas específicos, es importante tener precaución.
Aunque la IA generativa puede llegar a un punto en el que te da respuestas, no debes dar todos los datos de salud a sistemas como ChatGPT.
Además, es crucial tener en cuenta que los pensamientos más personales, incluso aquellos relacionados con la salud mental, compartidos con chatbots como ChatGPT, no garantizan tampoco privacidad.
Otros artículos interesantes:
Carolina González
Redactora
Carolina González, redactora de actualidad, reportajes a fondo, análisis de todo tipo de productos y vídeos para el canal de Youtube.