Se você é ativo no Twitter, pode ter visto algumas imagens chocantes do ex-presidente dos EUA, Donald Trump, sendo recluso por policiais, lutando com eles e até fugindo deles. Acontece que zero disso era real. Mas uma vez que tudo isso aconteceu?
A prisão de Donald Trump que nunca aconteceu
O ex-presidente dos EUA compartilhou um suposto vazamento por meio de seu identificador solene do Truth Social em 18 de março. A postagem afirmava que ele esperava uma prisão na terça-feira da semana seguinte por acusações “antigas e totalmente desmascaradas” contra ele. Não demorou muito para que as imagens da prisão de Trump começassem a chegar em toda a internet.
As imagens mostraram o que parecia ser a prisão de Trump por um grupo de policiais.
As imagens foram geradas por IA
As imagens, no entanto, não eram autênticas. Eles eram deepfakes feitos com o Midjourney, um gerador de imagens de IA. Midjourney usa um algoritmo de tirocínio profundo para gerar imagens do zero usando prompts de texto. Nesse caso, os prompts de texto eram variações de Trump sendo recluso.
A tecnologia deepfake já existe há qualquer tempo e está se tornando cada vez mais sofisticada. As imagens geradas por IA costumavam ser facilmente identificáveis: careciam de detalhes e realismo. No entanto, a versão mais recente do Midjourney (v5) corrigiu a maioria desses problemas e foi, de roupa, a versão usada para gerar os deepfakes da prisão de Trump.
Porquê as imagens se tornaram virais
Eliot Higgins, um jornalista investigativo, criou as primeiras versões dos deepfakes da prisão de Trump para visualizar uma vez que seria uma prisão de Trump. Ele os postou em sua conta no Twitter. Embora sua legenda tenha deixado evidente desde o início que as imagens eram falsas, não demorou muito para que o post se tornasse viral.
À medida que as imagens se espalhavam pelas redes sociais, muitas pessoas acreditavam que era real. A postagem de Trump no Truth Social já deixou as pessoas suspeitas, e as imagens realistas exclusivamente alimentaram o lume. Demorou um pouco até permanecer evidente que as fotos eram falsas e que a história da prisão era uma farsa.
As postagens nas redes sociais “relatando” a prisão falsa foram excluídas ou têm o rótulo de desinformação. Porquê penalidade, Midjourney também baniu Higgins de seu servidor por um mês, de consonância com o The Washington Post.
A era dos deepfakes exige vigilância
Os deepfakes da prisão de Trump destacam os avanços alarmantes na tecnologia de IA. Imagens falsas agora podem ser criadas com uma facilidade incrível e parecem tão realistas que é difícil notabilizar o que é real do que não é. A vigilância agora é mais sátira do que nunca quando se trata de teor online.
