🔮 Melhor do que Buffett? Nosso Preço-Justo achou essa joia com +42% 5 meses antes deleLibere o preço-justo

OpenAI cria comitê de segurança com membros da própria empresa para treinar novo modelo

Publicado 28.05.2024, 09:55
© Reuters. Logo da OpenAI n20/05/2024nREUTERS/Dado Ruvic

Por Muhammad Tasim Zahid

(Reuters) - A OpenAI formou um Comitê de Segurança e Proteção que será liderado por membros do conselho de administração da própria empresa, incluindo o presidente-executivo, Sam Altman, enquanto começa a treinar seu próximo modelo de inteligência artificial, disse a empresa nesta terça-feira.

Os diretores Bret Taylor, Adam D'Angelo e Nicole Seligman também liderarão o comitê, disse a OpenAI.

Os chatbots da OpenAI com recursos de IA generativa, como o envolvimento em conversas semelhantes às humanas e a criação de imagens, têm despertado preocupações de segurança à medida que os modelos de IA se tornam cada vez mais poderosos.

Os ex cientistas-chefes da OpenAI Ilya Sutskever e Jan Leike, que eram líderes da equipe de Superalinhamento da companhia, que garantia que a IA permanecesse alinhada aos objetivos pretendidos, deixaram a empresa no início deste mês.

A OpenAI havia dissolvido a equipe de Superalinhamento no início de maio, menos de um ano depois que a empresa a criou, com alguns membros da equipe sendo transferidos para outros grupos, informou a CNBC.

O novo comitê será responsável por fazer recomendações à diretoria sobre decisões de segurança e proteção para os projetos e operações da OpenAI.

A primeira tarefa será avaliar e desenvolver ainda mais as práticas de segurança existentes da OpenAI nos próximos 90 dias, e após isso compartilhará as recomendações com a diretoria.

Após a análise da diretoria, a OpenAI compartilhará publicamente uma atualização sobre as recomendações adotadas, informou a empresa.

Outros membros do comitê incluem o recém-nomeado cientista-chefe, Jakub Pachocki, e Matt Knight, chefe de segurança.

© Reuters. Logo da OpenAI 
20/05/2024
REUTERS/Dado Ruvic

A empresa também consultará outros especialistas, incluindo Rob Joyce, ex-diretor de segurança cibernética da Agência de Segurança Nacional dos Estados Unidos, e John Carlin, ex-funcionário do Departamento de Justiça do país.

A OpenAI não forneceu mais detalhes sobre o novo modelo de "fronteira" que está treinando, exceto que ele levará seus sistemas ao "próximo nível de recursos em nosso caminho para a AGI (Inteligência Artificial Geral)".

No início de maio, a OpenAI anunciou um novo modelo de IA capaz de conversas por voz realistas e interação entre texto e imagem.

Últimos comentários

Instale nossos aplicativos
Divulgação de riscos: Negociar instrumentos financeiros e/ou criptomoedas envolve riscos elevados, inclusive o risco de perder parte ou todo o valor do investimento, e pode não ser algo indicado e apropriado a todos os investidores. Os preços das criptomoedas são extremamente voláteis e podem ser afetados por fatores externos, como eventos financeiros, regulatórios ou políticos. Negociar com margem aumenta os riscos financeiros.
Antes de decidir operar e negociar instrumentos financeiros ou criptomoedas, você deve se informar completamente sobre os riscos e custos associados a operações e negociações nos mercados financeiros, considerar cuidadosamente seus objetivos de investimento, nível de experiência e apetite de risco; além disso, recomenda-se procurar orientação e conselhos profissionais quando necessário.
A Fusion Media gostaria de lembrar que os dados contidos nesse site não são necessariamente precisos ou atualizados em tempo real. Os dados e preços disponíveis no site não são necessariamente fornecidos por qualquer mercado ou bolsa de valores, mas sim por market makers e, por isso, os preços podem não ser exatos e podem diferir dos preços reais em qualquer mercado, o que significa que são inapropriados para fins de uso em negociações e operações financeiras. A Fusion Media e quaisquer outros colaboradores/partes fornecedoras de conteúdo não são responsáveis por quaisquer perdas e danos financeiros ou em negociações sofridas como resultado da utilização das informações contidas nesse site.
É proibido utilizar, armazenar, reproduzir, exibir, modificar, transmitir ou distribuir os dados contidos nesse site sem permissão explícita prévia por escrito da Fusion Media e/ou de colaboradores/partes fornecedoras de conteúdo. Todos os direitos de propriedade intelectual são reservados aos colaboradores/partes fornecedoras de conteúdo e/ou bolsas de valores que fornecem os dados contidos nesse site.
A Fusion Media pode ser compensada pelos anunciantes que aparecem no site com base na interação dos usuários do site com os anúncios publicitários ou entidades anunciantes.
A versão em inglês deste acordo é a versão principal, a qual prevalece sempre que houver alguma discrepância entre a versão em inglês e a versão em português.
© 2007-2024 - Fusion Media Limited. Todos os direitos reservados.