ChatGPT no solo sirve para crear imágenes Ghibli, también es genial para falsificar facturas y eso un problema
Generar imágenes con la inteligencia artificial de Sam Altman ya se está saliendo de control. Ahora los usuarios están creando recibos de pagos con el nuevo modelo de OpenAI.
Tras la reciente actualización de GPT 4.o, DALL-E se ha quedado atrás, pues el mencionado modelo ha evolucionado a tal punto en el que puede generar una copa de vino llena, algo que no podía hacer antes.
Pero eso no es todo, ahora hay una nueva tendencia de convertir fotos reales en ilustraciones similares al estilo del Studio Ghibli. Esto definitivamente ha marcado un antes y un después en la herramienta de OpenIA, ya que actualmente es la más potente en comparación con otros chatbots, como Microsoft Copilot o Google Gemini.
Sin embargo, siempre se ha criticado la posibilidad de que la IA reemplace a los humanos e incluso Hayao Miyazaki no está de acuerdo con esta revolución de la tecnología. ¿Por qué representa un problema? No solo se trata de que va a generar desempleos en el futuro, sino que también supone muchos riesgos.
Los estafadores y hackers podrían estar aprovechando el potencial de la inteligencia artificial y el reciente acontecimiento de la creación de fotos de facturas con GPT-4.o es un ejemplo de ello. Esto ya está sucediendo y las cosas no pintan nada bien.
GPT-4.o es capaz de generar recibos tan realistas que podrían servir como estafa
Sí, la imagen que estás viendo en este momento ha sido generada con inteligencia artificial, la misma que están utilizando para crear fotos de estilo Ghibli. A simple vista puede pasar desapercibida como una foto normal que te envían por algún chat de WhatsApp o Telegram.
Esta muestra ha sido compartida por el influencer Deedy Das en X, quien ha demostrado que es posible hacer una factura de un restaurante real usando el prompt adecuado. Según lo que comenta, es posible compartir algo como esto para los “flujos de verificación en el mundo real que dependen de ‘imágenes reales’ como prueba”.
A su publicación le respondió otra figura destacada de la red social, quien ha tomado como referencia su imagen generada para producir otra similar, pero con toques más realistas, como leves arrugas en el papel y manchas de comida.
Sin embargo, una de las más impresionantes de todas en este revuelo ha sido la de un usuario de LinkedIn llamado Raphael Chenol, el cual ha confirmado que se pueden producir documentos falsificados aún más realistas con ChatGPT, explicando que “cuando dedicamos tiempo a hablar de ética en el contexto de la IA, es importante denunciar posibles abusos”.
Las imágenes que ha compartido podrían ser confundidas sin ningún problema con una real, pues hay muchos detalles e imperfecciones que las hacen ver verídicas. Al parecer se enfoca en un local llamado “Hippopotamus”, donde las arrugas y la tinta de impresión son muy cercanas a la realidad.
A su vez, ha mostrado un ejemplo de cómo podrían ser empleadas este tipo de fotografías en negocios de comida o tiendas online que solicitan un comprobante de pago por este método.
¿Es posible que un negocio pueda caer en la trampa de facturas con IA?
Por lo visto, hay posibilidades de que la gran capacidad que tiene la herramienta de Sam Altman sea explotada por los ciberdelincuentes de varias maneras. Como parte de un plan muy elaborado con suplantaciones de voz (Deepfake), correos o mensajes de phishing y enlaces fraudulentos, podrían convencer a la víctima de proporcionar datos bancarios.
No obstante, puede que sea poco común, al menos en la actualidad. La IA todavía es susceptible a cometer errores en ciertas cuentas, palabras o números. De igual manera, la facturación con criptogramas de código QR, verificación Blockchain o integración OCR avanzado son útiles para evitar ser engañados por fotos de inteligencia artificial.
Sea como sea, esta es una advertencia para todos los CFO y RRHH de las compañías, ya que de no tener los métodos mencionados, hay que redoblar las fuerzas. Según TechCrunch, han logrado hablar con Taya Christianson, una trabajadora del equipo de comunicación de OpenIA, quien ha mencionado que se “toman medidas” para evitarlo.
A su vez, ha dicho que la misión principal de la compañía es que haya una amplia libertad creativa en cuanto a la generación de imágenes y que estas facturas u otros documentos creados por la plataforma podrían ser empleados en el ámbito de la educación.
Por lo tanto, lo más probable es que el modelo incorpore nuevas políticas de uso con el tiempo, ya que la empresa trabaja para evitar estas posibles situaciones.