WhatsApp dejó al descubierto las instrucciones secretas de su IA: esto es lo que no debía decir
Elígenos como tu fuente preferida en Google.
Un bug informático ha expuesto una orden de WhatsApp en la que se explica qué deben o no decir sus modelos de inteligencia artificial, lo que ha generado polémica en cuestión de ética y legalidad.
WhatsApp, plataforma desarrollada por Meta, ha reconocido haber cometido el error de dejar a la vista un documento del Centro de ayuda de esta aplicación de comunicación en la que aparecían descritas determinadas directrices para los modelos de lenguaje. grande (LLM), que impulsan sus herramientas de inteligencia artificial. En ellas se indicaba qué no debían decirles a los usuarios en temas delicados, como la privacidad. Según los responsables de la app, se trata de un error informático, aunque no han dado más explicaciones detalladas acerca de lo sucedido.
Wired se ha hecho eco de un informe ejecutado por la empresa de privacidad Redact, en el que detalla que ha tenido acceso a una serie de indicaciones de código en las páginas web en las que se hacía mención a secciones con una intención clara: "Qué no decir" a los usuarios con diferentes dudas y necesidades consultadas a la inteligencia artificial de la plataforma de comunicación instantánea.
Una brecha entre lo que qué quieren decir los LLM y lo que deben decir
El principio fundamental de la inteligencia artificial es el de ayudar a los usuarios a ejecutar determinadas tareas u orientarles sobre un tema que no saben, entre otras de sus demandas. Es aquí donde, en ocasiones, entran en conflicto diferentes factores, personales por parte del usuario y éticos por parte de la tecnología.
Teniendo en cuenta que, en definitiva, la inteligencia artificial está para ayudar a las personas, los investigadores no se esperaban que llegarían a encontrar páginas completas pensadas para limitar las respuestas de sus modelos de lenguaje.
Esto es, al menos, lo que han deducido los investigadores, que han descubierto un centenar de bloques de texto oculto en los que las instrucciones a los LLM parecían estar pensadas para responder a las preguntas de los usuarios de maneras poco efectivas.
Uno de los ejemplos que se ha expuesto es el de el apartado de ayuda de la plataforma, en el que, ante la pregunta de cómo eliminar una cuenta de WhatsApp, la respuesta tenía un matiz un poco sospechoso. "No recomiendo que te pongas en contacto con ninguna Autoridad de Protección de datos", sostenía la IA de Meta.
En base a esta respuesta, el fundador de Redact y también director ejecutivo de la empresa, Dan Saltman, ha asegurado que "lo que destaca aquí es la brecha entre lo que se le dice a la gente frente a los modelos de lenguaje grandes".
Asimismo, sobre este hallazgo, Saltman ha indicado que no parece que las instrucciones a estos LLM estuvieran destinadas a la exposición pública, de modo que todas estas indicaciones filtradas podrían haber pillado con el pie cambiado a los responsables de Meta.
WhatsApp asegura que son instrucciones orientadas a "garantizar respuestas precisas"
Una vez publicado el informe, Wired se puso en contacto con Meta y la compañía ha señalado que el problema ha residido en un bug informático y ha sugerido que esto no afecta directamente a los usuarios.
"Son instrucciones para nuestro chatbot y están destinadas a garantizar respuestas precisas y relevantes para los usuarios de WhatsApp que eligen enviar un mensaje al Centro de soporte de Whatsapp, que funciona con IA", ha explicado el portavoz de la plataforma, Joshua Breckman.
Desde este medio sostienen, no obstante, que una vez reconocido este error por parte de la compañía y la plataforma de comunicación instantánea, estos bloques de código, han dejado de estar visibles en la página web de WhatsApp.
