Cuidado con los resúmenes de IA de Google: te pueden recomendar un teléfono de atención al cliente falso y robar todos tus datos

La inteligencia artificial no siempre es tan lista como parece y eso se demuestra casi a diario, con acciones aparentemente sencillas que resultan ser muy peligrosas para los usuarios. Esto ha pasado, sin ir más lejos, con los conocidos Resúmenes de IA de Google.

Los Resúmenes de IA de Google son respuestas generadas por IA que aparecen en la parte superior de los resultados de búsqueda para ofrecer información clave de manera concisa y directa. De esta manera, en lugar de ofrecer una lista de enlaces, Google usa esta tecnología para extraer información de distintos sitios web y crear un resumen de éstas páginas.

Un reportaje recientemente publicado por The Washington Post recoge el testimonio de un usuario que se habría fiado de la IA del gigante tecnológico de Mountain View mientras estaba preparando un viaje por Europa y que resultó ser una estafa en toda regla.

El afectado, Alex Rivlin, ha explicado a este periódico que necesitaba reservar un servicio de transporte para llegar a un crucero y que, al hacer la búsqueda, la función de Resúmenes de IA le indicó un teléfono de atención al cliente que resultó ser ilegítimo. 

Esto lo supo porque, tras ponerse en contacto con la presunta empresa y dar sus datos, así como el número de su tarjeta de crédito, vio cargos sospechosos, momento en que se dio cuenta de que había sido engañado por otra persona que se hizo pasar por empleado del servicio de atención al cliente de Royal Caribbean.

"Bienvenidos a la era de las estafas con IA"

La redactora de la comentada cabecera, Shira Ovide, ha reconocido que ella también podría haber sido víctima de esta estafa, ya que apareció el mismo número de teléfono al que llamó Rivlin tanto en Google como en ChatGPT, con el que los estafadores se hacían pasar por líneas directas de otras compañías de cruceros.

"Bienvenidos a la era de las estafas con IA. Los expertos advierten que las viejas tácticas de los estafadores y spammers que han inundado la web, las redes sociales, el correo electrónico y los mensajes de texto ahora también están manipulando la información de la IA", ha señalado Ovide, insistiendo en que Rivlin "se encuentra entre las primeras víctimas".

Lo preocupante es que este usuario ha reconocido que tanto el número de atención al cliente falso como el supuesto representante de la empresa eran creíbles, ya que éste último tenía amplios conocimientos sobre la consulta que le hizo. Por ejemplo, el precio y los puntos de recogida de los traslados de Royal Caribbean en Venecia.

Lo que no convenció de todo a Rivlin fue el nombre de que aparecía en el cargo de la tarjeta de crédito, ya que no coincidía con el nombre de la empresa a la que presuntamente estaba pagando un cargo de 768 dólares. 

De esa manera, cuando al día siguiente aparecieron dos cargos falsos en su tarjeta, supo que lo habían engañado. Así, canceló su tarjeta de crédito y los revirtió, de modo que pudo evitar daños mayores y recuperar su dinero.

Cómo los estafadores hacen pasar números falsos por legítimos

La redactora ha explicado el modus operandi de los ciberdelincuentes que logran que teléfonos aparentemente reales se coloquen en los resúmenes de IA de Google. Al parecer, los atacantes escriben en sitios de reseñas online, fotos y otras páginas web afirmando que estos números de teléfono pertenecen al centro de atención al cliente de una empresa.

Al buscar en Google, la IA busca indicios que le puedan dirigir a información relevante y fiable, de modo que, si los números controlados por estafadores se repiten con suficiente frecuencia, Google puede sugerirlos a quienes buscan un número de contacto de un determinado negocio.

Esto significa que "Google es el blanco de los estafadores y nosotros las víctimas finales", ha señalado Shira Ovide, que ha insistido en que otras tecnologías similares, como es el caso de ChatGPT de OpenAI, tienen un comportamiento similar, lo que pone en riesgo la seguridad de los usuarios.

Es más, en una investigación paralela realizada junto a Mike Blumenthal, analista de near Media, descubrieron que ese mismo número de teléfono con el que habían engañado a Rivlin como perteneciente al servicio de atención al cliente de Royal Caribbean también estaba enlazado en los resultados de otras líneas de cruceros, como Disney y Princess Cruises.

Desde Google ya han confirmado que están tomando medidas y que  continúan "trabajando en mejoras más amplias para abordar consultas más raras como estas", tal y como ha señalado uno de sus portavoces a este periódico.

Otros artículos interesantes: