Prime example of the dangers in the pay-to-verify system: This account, which tweeted a (very likely AI-generated) photo of a (fake) story about an explosion at the Pentagon, looks at first glance like a legit Bloomberg news feed. pic.twitter.com/SThErCln0p
— Andy Campbell (@AndyBCampbell) May 22, 2023
A notícia falsa rapidamente ganhou repercussão e foi compartilhada por diversos veículos de mídia, incluindo a emissora de mídia controlada pelo Estado russo, Russia Today, para seus 3 milhões de seguidores no Twitter, e a organização de mídia indiana, Republic, para seus 2,8 milhões de seguidores no Twitter.
Ambos os veículos de mídia excluíram posteriormente seus respectivos tweets sobre a história.
So @republic aired a 'Live & Breaking' news of Pentagon explosion image. They even invited Prof. Madhav Nalapat "strategic expert" to discuss about the explosion.
— Mohammed Zubair (@zoo_bear) May 22, 2023
BWT, It was an AI generated image. pic.twitter.com/8j1nfSJR6x
As autoridades locais, incluindo a Agência de Proteção do Pentágono, responsável pela segurança do edifício, afirmaram estar cientes dos relatos e confirmaram que não houve nenhuma "explosão ou incidente" relacionados ao caso.
@PFPAOfficial and the ACFD are aware of a social media report circulating online about an explosion near the Pentagon. There is NO explosion or incident taking place at or near the Pentagon reservation, and there is no immediate danger or hazards to the public. pic.twitter.com/uznY0s7deL
— Arlington Fire & EMS (@ArlingtonVaFD) May 22, 2023
Vários usuários do Twitter apontaram inconsistências na imagem que indicavam que ela havia sido criada por IA, destacando que a fachada do prédio não era uniforme e que duas cercas diferentes mostradas na imagem pareciam se fundir.
Confident that this picture claiming to show an "explosion near the pentagon" is AI generated.
— Nick Waters (@N_Waters89) May 22, 2023
Check out the frontage of the building, and the way the fence melds into the crowd barriers. There's also no other images, videos or people posting as first hand witnesses. pic.twitter.com/t1YKQabuNL
Devido à notícia, o S&P 500 teve uma queda breve de 0,26%, mas se recuperou rapidamente após ser revelada como falsa.
Ferramentas de IA têm sido utilizadas na criação de notícias falsas e conteúdo enganoso anteriormente. No início de maio, o jornal irlandês The Irish Times pediu desculpas após ser enganado e publicar um artigo enviado que foi gerado por IA.
Em abril, o órgão regulador financeiro da Califórnia reprimiu supostos serviços de negociação de criptomoedas e alegou que algumas empresas usavam avatares gerados por IA para atuar como seus CEOs em vídeos promocionais.
"Deepfakes" criados por IA de figuras da indústria de criptomoedas têm sido frequentemente usados na tentativa de perpetrar golpes.
Um exemplo notável foi um vídeo falso do cofundador da FTX, Sam Bankman-Fried, que circulou logo após o colapso da exchange e tentou direcionar os usuários da FTX para um site malicioso sob a promessa de uma "distribuição de brindes".