Novo gerador de imagem do ChatGPT é excelente para falsificar recibos

Neste mês, o ChatGPT revelou um novo gerador de imagens como parte de seu 4º modelo, que é muito melhor em gerar texto dentro de imagens. As pessoas já estão usando para gerar recibos falsos de restaurantes, potencialmente adicionando mais uma ferramenta ao já extenso arsenal de deepfakes de IA usados por fraudadores.

O prolífico postador de mídias sociais e VC Deedy Das postou no X uma foto de um recibo falso de um restaurante de carne de São Francisco (real), que ele diz ter sido criado com o 4º.

Outros foram capazes de replicar resultados semelhantes, incluindo um com manchas de comida ou bebida para torná-lo ainda mais autêntico.

O exemplo mais realista encontrado pelo TechCrunch foi na França, onde um usuário do LinkedIn postou um recibo enrugado gerado por IA de uma cadeia de restaurantes local.

TechCrunch testou o 4º e também foi capaz de gerar um recibo falso para um Applebee’s em São Francisco.

Mas nossa tentativa teve algumas pistas que era falsificado. Primeiro, o total usa uma vírgula em vez de um ponto. Além disso, as contas não fecham. Os LLMs ainda lutam para fazer contas básicas, então isso não é particularmente surpreendente.

Porém, não seria difícil para um fraudador corrigir rapidamente alguns números com um software de edição de fotos ou, possivelmente, prompts mais precisos. É claro que tornar muito fácil gerar recibos falsos apresenta enormes oportunidades para fraude. Não seria difícil imaginar esse tipo de tecnologia sendo usada por atores mal-intencionados para serem “reembolsados” por despesas totalmente falsas.

Um porta-voz da OpenAI, Taya Christianson, disse ao TechCrunch que todas as suas imagens incluem metadados indicando que foram feitas pelo ChatGPT. Christianson acrescentou que a OpenAI “age” quando os usuários violam suas políticas de uso e que está “sempre aprendendo” com o uso e feedback do mundo real.

O TechCrunch então perguntou por que o ChatGPT permite que as pessoas gerem recibos falsos e se isso está em linha com as políticas de uso da OpenAI (que proíbem a fraude). Christianson respondeu que o “objetivo da OpenAI é dar aos usuários o máximo de liberdade criativa possível” e que recibos de IA falsos poderiam ser usados em situações não fraudulentas, como “ensinar pessoas sobre educação financeira” juntamente com a criação de arte original e anúncios de produtos.