(Reuters) - As startups de inteligência artificial OpenAI e Anthropic assinaram acordos com o governo dos Estados Unidos para pesquisa, testes e avaliação de seus modelos de IA, informou nesta quinta-feira o Instituto de Segurança de Inteligência Artificial dos EUA.
Os primeiros acordos desse tipo surgem em um momento em que as empresas enfrentam o escrutínio regulatório sobre o uso seguro e ético de tecnologias de IA.
Os legisladores da Califórnia devem votar um projeto de lei ainda esta semana para regulamentar amplamente como a IA é desenvolvida e implantada no estado.
"IA segura e confiável é crucial para o impacto positivo da tecnologia. Nossa colaboração com o US AI Safety Institute alavanca sua ampla experiência para testar rigorosamente nossos modelos antes da implantação generalizada", disse Jack Clark, cofundador e chefe de política da Anthropic, apoiada pela Amazon (NASDAQ:AMZN) e pela Alphabet (NASDAQ:GOOGL).
Pelos acordos, o Instituto de Segurança de IA terá acesso aos principais novos modelos da OpenAI e da Anthropic antes e depois de seu lançamento público.
Os acordos também permitirão pesquisas colaborativas para avaliar as capacidades dos modelos de IA e os riscos associados a eles.
"Acreditamos que o instituto tem um papel fundamental a desempenhar na definição da liderança dos EUA no desenvolvimento responsável da inteligência artificial, e esperamos que nosso trabalho conjunto ofereça uma estrutura na qual o resto do mundo possa se basear", disse Jason Kwon, diretor de estratégia da OpenAI, fabricante do ChatGPT.
"Esses acordos são apenas o começo, mas são um marco importante à medida que trabalhamos para ajudar a administrar de forma responsável o futuro da IA", disse Elizabeth Kelly, diretora do instituto.
O instituto, parte do Instituto Nacional de Padrões e Tecnologia (NIST, na sigla em inglês) do Departamento de Comércio dos EUA, também colaborará com o Instituto de Segurança de IA do Reino Unido e dará retorno às empresas sobre possíveis melhorias de segurança.
O Instituto de Segurança de IA dos EUA foi lançado no ano passado como parte de uma ordem executiva do governo do presidente Joe Biden para avaliar riscos conhecidos e emergentes de modelos de inteligência artificial.
(Reportagem de Harshita Mary Varghese em Bengaluru)