Por Alexandra Ulmer e Anna Tong
(Reuters) - "Na verdade, gosto muito de Ron DeSantis", diz uma falsa versão de Hillary Clinton em um vídeo surpresa de endosso online. "Ele é exatamente o tipo de cara que este país precisa, e eu realmente quero dizer isso."
Um Joe Biden alternativo finalmente deixa a máscara cair, desencadeando um discurso cruel contra uma pessoa transgênero. "Você nunca será uma mulher de verdade", rosna o falso presidente.
Bem-vindos à corrida presidencial norte-americana de 2024, onde a realidade está em jogo.
Os deepfakes de Clinton e Biden - vídeos realistas, porém, criados por algoritmos de inteligência artificial treinados com milhares de imagens online - estão entre os milhares que estão surgindo nas redes sociais, confundindo fato e ficção no mundo polarizado da política dos Estados Unidos.
Embora essa mídia manipulada exista há vários anos, foi turbinada no ano passado por uma série de novas ferramentas de "IA generativa", como o Midjourney. O programa torna mais barato e fácil o processo de criar deepfakes convincentes, de acordo com entrevistas da Reuters com cerca de dois dezenas de especialistas em áreas como inteligência artificial, desinformação online e ativismo político.
"Vai ser muito difícil para os eleitores distinguir o verdadeiro do falso. E você pode imaginar como os apoiadores de Trump ou de Biden poderão usar essa tecnologia para fazer o oponente parecer ruim", disse Darrell West, membro sênior do Centro de Inovação Tecnológica do Instituto Brookings.
O ex-presidente Donald Trump, que competirá com DeSantis e outros pela indicação republicana para enfrentar Biden, compartilhou ele mesmo em um vídeo adulterado do âncora da CNN Anderson Cooper no início deste mês em sua plataforma de mídia social Truth Social.
"Aquele foi o presidente Donald J. Trump esmagando um novo idiota ao vivo da CNN", diz a imagem de Cooper no vídeo, embora as palavras não correspondam ao movimento de seus lábios.
A CNN disse que o vídeo é um deepfake. Um representante de Trump não respondeu a um pedido de comentário sobre a publicação, que ainda estava na página do Twitter de seu filho Donald Jr. nesta semana.
DEEPFAKE COM PENCE, MAS NÃO COM TRUMP
Houve três vezes mais deepfakes de vídeo de todos os tipos e oito vezes mais deepfakes de voz publicados online este ano em comparação com o mesmo período em 2022, de acordo com a DeepMedia, uma empresa que trabalha com ferramentas para detectar mídia sintética.
No total, cerca de 500 mil deepfakes de vídeo e voz serão compartilhados em sites de mídia social globalmente em 2023, estima a DeepMedia. A clonagem de uma voz costumava custar 10 mil dólares em custos de servidor e treinamento de inteligência artificial até o final do ano passado, mas agora as startups oferecem isso por alguns dólares, diz.
A líder da indústria OpenAI, que mudou o jogo nos últimos meses com o lançamento do ChatGPT e o modelo atualizado GPT-4, afirma que está tentando combater o problema. O presidente-executivo da empresa, Sam Altman, disse ao Congresso dos Estados Unidos que a integridade eleitoral é uma "área significativa de preocupação" e pediu uma regulamentação rápida do setor.
Ao contrário de algumas startups menores, a OpenAI tomou medidas para restringir o uso de seus produtos na política, de acordo com uma análise da Reuters dos termos de uso de meia dúzia de empresas líderes que oferecem serviços de IA generativa.
Apesar disso, as salvaguardas possuem lacunas. Por exemplo, a empresa diz que proíbe seu gerador de imagens DALL-E de criar figuras públicas – e, de fato, quando a Reuters tentou criar imagens de Trump e Biden, o pedido foi bloqueado e apareceu uma mensagem dizendo que “pode não seguir nossa política de conteúdo. " A empresa também restringe qualquer uso "em escala" de seus produtos para fins políticos.
No entanto, a Reuters conseguiu criar imagens de pelo menos uma dúzia de outros políticos norte-americanos, incluindo o ex-vice-presidente Mike Pence, que também está avaliando uma candidatura à Casa Branca em 2024.
A startup, apoiada pela Microsoft (NASDAQ:MSFT), explicou suas políticas, mas não respondeu a novos pedidos de comentários sobre as lacunas na aplicação das regras.
Mesmo assim, várias startups menores não têm restrições explícitas sobre conteúdo político.
O Midjourney, lançada no ano passado, é líder em imagens geradas por inteligência artificial, com 16 milhões de usuários em seu servidor oficial do Discord. O aplicativo, que tem uso que varia de gratuito ao que cobra 60 dólares por mês, dependendo de fatores como quantidade e velocidade da imagem, é o favorito de designers e artistas de IA devido à sua capacidade de gerar imagens hiper-realistas de celebridades e políticos, de acordo com quatro pesquisadores e criadores entrevistados.
A empresa por trás do programa não respondeu a um pedido de comentário para este artigo. Durante um bate-papo online no Discord na semana passada, o presidente-executivo, David Holz, disse que provavelmente fará mudanças antes da eleição para combater a desinformação.
O Midjourney quer cooperar em uma solução do setor para permitir a rastreabilidade de imagens geradas com um equivalente digital de marca d'água e considerará o bloqueio de imagens de candidatos políticos, acrescentou Holz.
ANÚNCIO REPUBLICANO
Mesmo enquanto a indústria afirma que está tentando evitar o uso indevido, alguns atores políticos estão aproveitando o poder da tecnologia para potencializar suas campanhas.
Até agora, o único anúncio político relevante gerado por inteligência artificial nos Estados Unidos foi publicado pelo Comitê Nacional Republicano (RNC) no final de abril. O anúncio de 30 segundos, divulgado como sendo inteiramente gerado por IA, usou imagens falsas para sugerir um cenário tenebroso caso Biden seja reeleito, com a China invadindo Taiwan e São Francisco sendo tomada pela criminalidade.
Jon Smith, presidente republicano do 5º distrito congressional de Michigan, está realizando várias reuniões educacionais para que seus aliados possam aprender a usar inteligência artificial para mídia social e geração de anúncios.
"A IA nos ajuda a jogar contra os grandes felinos", disse ele. "Vejo o maior aumento nas disputas locais. Alguém de 65 anos, fazendeiro e vereador poderá facilmente ser derrotado por alguém mais jovem usando a tecnologia."
As consultorias políticas também estão buscando a tendência, confundindo ainda mais a linha entre a verdade e a mentira.
A Numinar Analytics, uma empresa de dados políticos com foco em clientes republicanos, começou a experimentar a geração de conteúdo de IA para áudio e imagens, bem como a geração de voz para potencialmente criar mensagens personalizadas na voz de um candidato, disse o fundador Will Long em entrevista.
Enquanto isso, o grupo democrático de pesquisa e estratégia Honan Strategy Group está tentando desenvolver um bot de pesquisa de IA. A empresa espera lançar um bot feminino a tempo das eleições municipais de 2023, disse o presidente-executivo Bradley Honan, citando pesquisas de que homens e mulheres têm maior probabilidade de falar com uma entrevistadora do sexo feminino.