Diante das crescentes preocupações com a desinformação e a manipulação de eleitores via inteligência artificial, a OpenAI anunciou nesta 2ª feira (15.jan.2024) medidas para limitar o uso de suas ferramentas, incluindo o ChatGPT e o Dall-E, nas eleições de 2024, incluindo o pleito para presidente nos EUA em novembro.
Em uma publicação no blog da empresa, a OpenAI proibiu o uso de suas ferramentas para campanhas políticas. Além disso, a empresa fez restrições adicionais, incluindo proibições à criação de chatbots que se passem por candidatos, figuras públicas ou instituições e o uso da plataforma para fins que desencorajem a votação ou o processo eleitoral em si. Leia as Políticas de Uso atualizadas da OpenAi aqui.
“Queremos ter certeza de que nossos sistemas de IA sejam construídos, implantados e usados com segurança”, escreveu a empresa. “A medida que nos preparamos para as eleições em 2024 nas maiores democracias do mundo, a nossa abordagem é continuar o nosso trabalho de segurança da plataforma”.
Os usuários terão a opção de relatar potenciais violações na plataforma. Além disso, a empresa está empenhada em aprimorar a transparência relacionada à origem de suas imagens. Uma nova ferramenta, atualmente em desenvolvimento, pretende identificar a proveniência das imagens geradas pelo Dall-E.
“Nossos testes internos mostraram resultados iniciais promissores, mesmo quando as imagens foram sujeitas a tipos comuns de modificações”, escreveu a empresa. A OpenAI planeja disponibilizar o recurso “em breve” em um grupo de teste que inclui jornalistas, plataformas e pesquisadores.
Com as mudanças previstas para 2024, o ChatGPT será “cada vez” mais integrado com fontes de informação existentes. Segundo a plataforma, os usuários começarão a ter acesso a reportagens e notícias em tempo real, incluindo atribuições e links.
“A transparência em torno da origem da informação e o equilíbrio nas fontes de notícias podem ajudar os eleitores a avaliar melhor a informação e a decidir por si próprios em que podem confiar”, diz a OpenAI.
A empresa também prometeu melhorar o acesso a informações oficiais de votação. Nos EUA, anunciou uma parceria com a NASS (Associação Nacional de Secretários de Estado, em inglês) em que o ChatGPT direcionará os usuários para o CanIVote.org.
O site disponibilizará informações eleitorais nos Estados Unidos quando forem feitas perguntas relacionadas às eleições, como por exemplo, onde votar.