As imagens falsas criadas com IA para tentar atrair eleitores negros para Trump

  
A BBC descobriu que imagens falsas de eleitores negros com Donald Trump fazem parte de uma crescente tendência de desinformação nas eleições americanas Esta imagem, criada por um apresentador de rádio e sua equipe usando inteligência artificial, é uma de dezenas de imagens falsas criadas por apoiadores de Trump
Deepfake gerada por IA
Apoiadores de Donald Trump estão usando inteligência artificial (IA) para criar e compartilhar imagens falsas do ex-presidente supostamente posando com apoiadores negros para estimular eleitores desse grupo a votarem no Partido Republicano nas próximas eleições presidenciais.
O programa BBC Panorama descobriu dezenas de deepfakes retratando pessoas negras como se elas estivessem apoiando Trump.
O candidato do Partido Republicano de fato está abertamente se esforçando para ganhar os votos desse grupo demográfico, que foi fundamental para a vitória de Joe Biden em 2020.
Mas não há nenhum indício de que a equipe oficial de campanha de Trump tenha participação na produção dessas imagens.
O co-fundador do movimento “Black Voters Matter” (“Eleitores Negros Importam”, em tradução livre), um grupo que incentiva eleitores negros a votar, disse que as imagens manipuladas estavam forçando uma “narrativa estratégica” criada para mostrar Trump como sendo popular entre a comunidade negra.
“Não estou afirmando que é uma representação exata da realidade”, disse à BBC o criador de uma das imagens.
As imagens falsas dos apoiadores negros de Trump geradas por IA são uma das tendências de desinformação que começam a surgir antes das eleições presidenciais de novembro.
O que é deepfake e como ele é usado para distorcer realidade
Diferentemente de 2016, quando havia indícios de influência estrangeira nas campanhas, as imagens geradas por IA encontradas pela BBC parecem ter sido criadas e compartilhadas por eleitores americanos.
Entre eles estão Mark Kaye e sua equipe de um programa de rádio conservador na Flórida.
Eles criaram uma imagem de Trump sorrindo em meio a um grupo de mulheres negras e compartilharam no Facebook, onde Kaye tem mais de um milhão de seguidores.
A princípio a imagem pode parecer real, mas quando é analisada de perto é possível ver que a pele de todos está um pouco brilhante demais e que há dedos faltando nas mãos das pessoas – alguns dos sinais mais óbvios de que as imagens foram geradas por IA.
“Eu não sou um fotojornalista”, me diz Kaye do seu estúdio de rádio. “Eu não estou por aí tirando fotos do que realmente está acontecendo. Eu sou um contador de histórias.”
Ele publicou um artigo sobre eleitores negros apoiando Trump e usou a imagem falsa como ilustração.
Nos comentários no Facebook, vários usuários pareciam acreditar que a imagem era real.
“Eu não estou afirmando que é uma representação exata da realidade. Eu não estou falando: ‘Ei, vejam, Donald Trump estava nessa festa com todos esses eleitores afro-americanos, vejam como ele é amado por eles!'”, diz Kaye.
“Se alguém está votando em um candidato ou outro por causa de uma foto que viu em uma página do Facebook, o problema é daquela pessoa, não da publicação.”
DEEPFAKE AO VIVO: tecnologia que muda rosto e voz em videochamada já existe na vida real
Esta imagem circulou muito pelas redes sociais com uma legenda que mentia que Trump tinha parado seu comboio para posar com estes supostos apoiadores
Deepfake gerada por IA
Outra imagem gerada por inteligência artificial que circulou muito e foi identificada pela investigação da BBC mostra Trump posando com homens negros em frente a uma varanda.
Ela foi postada originalmente em um perfil satírico que gera imagens do ex-presidente, mas só ganhou repercussão quando foi repostada com uma nova legenda que mentia que ele teria parado o comboio de carros que o acompanhava para se reunir com esses supostos apoiadores.
LEIA TAMBÉM:
Teve o celular roubado? Veja como proteger acesso a apps de bancos
Conheça o Sora, modelo de IA da dona do ChatGPT que cria vídeos a partir de textos
Celular pode ser aliado para descobrir câmeras escondidas em quartos; veja como se proteger
Alvos da desinformação
Nós rastreamos a pessoa que administra o perfil chamado “Shaggy”, que é um apoiador de Trump que mora no Estado do Michigan.
“[Minhas publicações] atraíram milhares de seguidores cristãos maravilhosos e de bom coração”, disse ele em mensagens enviadas à BBC nas redes sociais.
Quando a reportagem tentou questioná-lo sobre a imagem gerada por IA, ele bloqueou o contato.
O post dele teve mais de 1,3 milhão de visualizações, de acordo com a rede social X (antigo Twitter).
Alguns usuários perceberam que se tratava de uma imagem falsa, mas outros parecem ter acreditado que ela era real.
A reportagem não encontrou imagens manipuladas de Joe Biden com eleitores de grupos demográficos específicos.
As imagens geradas por inteligência artificial do presidente tendem a mostrá-lo sozinho ou com outros líderes mundiais, como o presidente russo, Vladimir Putin, ou o ex-presidente Barack Obama.
Algumas são criadas por críticos, outras por apoiadores.
Em janeiro, o candidato democrata foi vítima de uma montagem gerada por inteligência artificial.
Uma chamada de áudio supostamente gravada por Biden estimulava os eleitores a faltarem às primárias de New Hampshire, onde o presidente estava concorrendo.
Um apoiador do Partido Democrata admitiu ser o responsável pela gravação, dizendo que queria chamar atenção para o potencial perigo da tecnologia.
Os impactos eleitorais do deepfake
Cliff Albright, co-fundador do grupo “Black Voters Matter”, afirma que parece haver um ressurgimento de táticas de desinformação direcionadas especificamente à comunidade negra, como aconteceu na eleição de 2020.
“Há tentativas documentadas de direcionar desinformação a comunidades negras de novo, especialmente a jovens eleitores negros”, diz.
O escritório de Albright fica em Atlanta, capital do Estado da Geórgia – Estado que será fundamental para o resultado das eleições e onde convencer mesmo uma pequena porcentagem dos eleitores negros a mudar seu voto de Biden para Trump pode ser decisivo.
Uma pesquisa recente do jornal The New York Times e do Sienna College mostrou que em seis Estados considerados chave para definir o vencedor das eleições, 71% dos eleitores negros dizem que votarão em Biden em 2024, uma diferença considerável em relação aos 92% de eleitores desse grupo demográfico que votaram nele no país inteiro em 2020.
Albright diz que as imagens falsas são parte de uma “narrativa muito estratégica” forçada pelos conservadores – desde a campanha de Trump até influenciadores digitais – e que foi criada para conquistar eleitores negros.
Eles estariam direcionando essa narrativa especialmente a jovens homens negros, que acredita-se serem mais abertos a votar em Trump do que as mulheres negras.
Principal comitê que apoia a candidatura de Trump deve lançar uma campanha direcionada a eleitores negros na Georgia
REUTERS/Andrew Kelly/Pool/File Photo
Na segunda-feira, o principal comitê que apoia a candidatura de Trump deve lançar uma campanha direcionada a eleitores negros na Georgia, no Michigan e na Pensilvânia.
Essa campanha foi criada para eleitores como Douglas, um taxista de Atlanta.
Douglas diz que está preocupado especialmente com a economia e a imigração – questões em que sente que Trump está mais focado. Ele diz que a mensagem do Partido Democrata sobre a ameaça que Trump representa para a democracia não o motivaria a votar porque ele já está desiludido com o processo eleitoral.
A economia americana em geral está indo bem, mas alguns eleitores, como Douglas, não sentem que sua vida melhorou porque eles também têm enfrentado uma crise de custo de vida.
E o que ele acha da imagem gerada por inteligência artificial de Trump sentado na frente de uma varanda com eleitores negros?
Quando eu mostrei pela primeira vez, ele acreditou que era real e disse que isso reforçou sua visão, compartilhada por alguns outros negros que ele conhece, de que Trump apoia a comunidade.
Aí, eu revelei que a imagem era falsa.
“Bom, esse é o problema das redes sociais. É muito fácil enganar as pessoas”, ele respondeu.
As táticas de desinformação têm evoluído desde as eleições presidenciais de 2016, quando Donald Trump venceu.
Na época, houve tentativas documentadas de forças estrangeiras, como a Rússia, de usar redes de perfis falsos para estimular a polarização e plantar determinadas ideias entre o eleitorado.
Já em 2020, o foco era no crescimento da desinformação criada dentro dos Estados Unidos – em particular, nas narrativas falsas de que a eleição presidencial havia sido roubada, que foram muito compartilhadas por usuários nas redes sociais e endossadas por Trump e por outros políticos Republicanos.
Em 2024, especialistas alertam para uma perigosa combinação das duas coisas.
Ben Nimmo, que até o mês passado era responsável por combater operações de influência estrangeira na Meta, a dona do Facebook e do Instagram, disse que a confusão criada por imagens falsas como essas também abre novas oportunidades para governos estrangeiros que queiram manipular eleições.
“Qualquer pessoa que tenha uma audiência substancial em 2024 precisa começar a pensar: como eu checo qualquer coisa que seja mandada pra mim? Como eu me certifico de que eu não estou involuntariamente me tornando parte de uma operação de influência estrangeira?”, diz.
Principais empresas de redes sociais têm políticas para lidar com possíveis operações de influência
Alessandro Feitosa Jr/g1
Nimmo afirma que os usuários de redes sociais estão cada vez mais aptos a identificar contas falsas automatizadas, então à medida que fica mais difícil construir uma audiência dessa maneira, “operações tentam cooptar pessoas reais” para aumentar o alcance de informações enganosas.
“A melhor aposta que eles têm é tentar espalhar seu conteúdo através de um influenciador. E esse influenciador pode ser qualquer pessoa que tenha um grande número de seguidores nas redes sociais”, explica.
Nimmo diz que está preocupado com o fato de que essas pessoas, que podem estar dispostas a espalhar desinformação para seus seguidores, poderiam se tornar “vetores involuntários” de operações de influência estrangeira.
Ele diz que essas operações poderiam compartilhar conteúdos com usuários – tanto secretamente quanto abertamente – e encorajá-los a postar eles mesmos esses conteúdos, para que pareça que as informações vieram diretamente de um eleitor americano real.
Todas as principais empresas de redes sociais têm políticas em vigor para lidar com possíveis operações de influência, e várias introduziram novas medidas para lidar com conteúdo gerado por inteligência artificial durante as eleições.
Políticos do mundo todo também já alertaram para os riscos de conteúdo gerado por inteligência artificial neste ano.
Narrativas sobre a eleição de 2020 ter sido roubada – que foram compartilhadas sem nenhuma evidência – se espalharam online com publicações simples, memes e algoritmos, sem imagens ou vídeo gerados por inteligência artificial, e mesmo assim resultaram na invasão do Capitólio em 6 de janeiro.
Agora, há todo um novo conjunto de ferramentas disponíveis para apoiadores de partidos políticos e provocadores que pode inflamar os ânimos mais uma vez.
g1 explica: o que é deepfake
G1 Explica: Deepfake