50% de desconto! Supere o mercado em 2025 com o InvestingProGARANTA JÁ SUA OFERTA

Ferramentas de IA de OpenAI e Microsoft geram imagens eleitorais enganosas, dizem pesquisadores

Publicado 06.03.2024, 08:41
Atualizado 06.03.2024, 08:46
© Reuters. Ilustração com o logo da Microsoft
26/07/2021
REUTERS/Dado Ruvic
MSFT
-

Por Sheila Dang

(Reuters) - Ferramentas de criação de imagens alimentadas por inteligência artificial de empresas como OpenAI e Microsoft (NASDAQ:MSFT) podem ser usadas ​​para produzir fotos que possam promover a desinformação eleitoral ou relacionada à votação, apesar de cada um ter políticas contra a criação de conteúdo enganoso, disseram pesquisadores em um relatório nesta quarta-feira.

O Centro de Combate ao Ódio Digital (CCDH na sigla em inglês), uma organização sem fins lucrativos que monitora o discurso de ódio online, utilizou ferramentas de IA generativa para criar imagens do presidente dos Estados Unidos, Joe Biden, deitado numa cama de hospital e de funcionários eleitorais destruindo máquinas de votação, levantando preocupações sobre falsificações antes das eleições presidenciais norte-americanas em novembro.

“O potencial de tais imagens geradas por IA servirem como ‘evidências fotográficas’ poderia exacerbar a propagação de alegações falsas, representando um desafio significativo para a preservação da integridade das eleições”, afirmaram os investigadores do CCDH no relatório.

O CCDH testou ChatGPT Plus da OpenAI, Image Creator da Microsoft, Midjourney e DreamStudio da Stability AI, que podem gerar imagens a partir de requisições do usuário de texto.

O relatório segue um anúncio no mês passado de que OpenAI, Microsoft e Stability AI estavam entre um grupo de 20 empresas de tecnologia que assinaram um acordo para trabalhar em conjunto para evitar que conteúdo enganoso de IA interfira nas eleições que ocorrem em todo o mundo este ano. O Midjourney não estava no grupo inicial de signatários.

O CCDH disse que as ferramentas de IA geraram imagens em 41% dos testes dos pesquisadores e foram mais suscetíveis a solicitações que pediam fotos que retratassem fraudes eleitorais, como cédulas de votação no lixo, em vez de imagens de Biden ou do ex-presidente dos EUA Donald Trump.

O ChatGPT Plus e o Image Creator conseguiram bloquear todos os pedidos quando solicitadas imagens de candidatos, disse o relatório.

No entanto, o Midjourney teve o pior desempenho entre todas as ferramentas, gerando imagens enganosas em 65% dos testes dos pesquisadores, disse.

Algumas imagens do Midjourney estão disponíveis publicamente para outros usuários, e a CCDH disse que há evidências de que algumas pessoas já estão usando a ferramenta para criar conteúdo político enganoso. Um prompt bem-sucedido usado por um usuário do Midjourney foi “Donald Trump sendo preso, foto de paparazzi de alta qualidade”.

Por email, o fundador do Midjourney, David Holz, disse que “atualizações relacionadas especificamente às próximas eleições nos EUA chegarão em breve”, acrescentando que as imagens criadas no ano passado não eram representativas das atuais práticas de moderação do laboratório de pesquisa.

© Reuters. Ilustração com o logo da Microsoft
26/07/2021
REUTERS/Dado Ruvic

Um porta-voz da Stability AI disse que a startup atualizou suas políticas na sexta-feira para proibir “fraude ou criação ou promoção de desinformação”.

Um porta-voz da OpenAI disse que a empresa estava trabalhando para evitar o abuso de suas ferramentas, enquanto a Microsoft não respondeu ao pedido de comentários.

(Reportagem de Sheila Dang em Dallas)

Últimos comentários

Instale nossos aplicativos
Divulgação de riscos: Negociar instrumentos financeiros e/ou criptomoedas envolve riscos elevados, inclusive o risco de perder parte ou todo o valor do investimento, e pode não ser algo indicado e apropriado a todos os investidores. Os preços das criptomoedas são extremamente voláteis e podem ser afetados por fatores externos, como eventos financeiros, regulatórios ou políticos. Negociar com margem aumenta os riscos financeiros.
Antes de decidir operar e negociar instrumentos financeiros ou criptomoedas, você deve se informar completamente sobre os riscos e custos associados a operações e negociações nos mercados financeiros, considerar cuidadosamente seus objetivos de investimento, nível de experiência e apetite de risco; além disso, recomenda-se procurar orientação e conselhos profissionais quando necessário.
A Fusion Media gostaria de lembrar que os dados contidos nesse site não são necessariamente precisos ou atualizados em tempo real. Os dados e preços disponíveis no site não são necessariamente fornecidos por qualquer mercado ou bolsa de valores, mas sim por market makers e, por isso, os preços podem não ser exatos e podem diferir dos preços reais em qualquer mercado, o que significa que são inapropriados para fins de uso em negociações e operações financeiras. A Fusion Media e quaisquer outros colaboradores/partes fornecedoras de conteúdo não são responsáveis por quaisquer perdas e danos financeiros ou em negociações sofridas como resultado da utilização das informações contidas nesse site.
É proibido utilizar, armazenar, reproduzir, exibir, modificar, transmitir ou distribuir os dados contidos nesse site sem permissão explícita prévia por escrito da Fusion Media e/ou de colaboradores/partes fornecedoras de conteúdo. Todos os direitos de propriedade intelectual são reservados aos colaboradores/partes fornecedoras de conteúdo e/ou bolsas de valores que fornecem os dados contidos nesse site.
A Fusion Media pode ser compensada pelos anunciantes que aparecem no site com base na interação dos usuários do site com os anúncios publicitários ou entidades anunciantes.
A versão em inglês deste acordo é a versão principal, a qual prevalece sempre que houver alguma discrepância entre a versão em inglês e a versão em português.
© 2007-2024 - Fusion Media Limited. Todos os direitos reservados.