Últimas horas! Economize até 50% no InvestingProGARANTA JÁ SUA OFERTA

Ex-líder de segurança da OpenAI assume posição na rival Anthropic

Publicado 28.05.2024, 18:17
© Reuters Ex-líder de segurança da OpenAI assume posição na rival Anthropic

O ex-líder de pesquisa em inteligência artificial da OpenAI, Jan Leike, anunciou que agora está liderando uma nova equipe na Anthropic. O grupo é focado em "superalinhamento", conceito no campo da inteligência artificial (IA) que se concentra em garantir que os sistemas estejam alinhados com valores humanos e siga diretrizes críticas de segurança.

Leike dará continuidade ao trabalho em "supervisão escalável", que são técnicas para controlar o comportamento da IA em larga escala de maneiras previsíveis e desejáveis.

A formação da equipe de superalinhamento na Anthropic ocorre após dissidências internas na OpenAI, onde Leike co-liderou uma equipe com objetivos semelhantes. A equipe da criadora do ChatGPT enfrentou obstáculos impostos pela liderança da empresa, o que levou à sua dissolução.

A Anthropic, fundada por Dario Amodei, ex-vice presidente de pesquisa da OpenAI, tem se posicionado como uma organização mais focada na segurança de IA do que sua concorrente. Amodei e outros ex-funcionários da OpenAI, incluindo o ex-líder de políticas Jack Clark, estão trazendo sua experiência para a Anthropic.

A Anthropic desenvolve a família de modelos de IA Claude 3, lançada em 4 de março.

Rivalidade

A contratação de Leike pela Anthropic evidencia uma das crises internas que a OpenAI vem lidando. Recentemente, o co-fundador e cientista-chefe da OpenAI, Ilya Sutskever, que cuidava da equipe de superalinhamento e apoiou a trama de demissão do CEO Sam Altman, deixou a companhia, com Leike saindo logo em seguida. Segundo Leike, a segurança na OpenAI "ficou em segundo plano".

Após essas baixas, a OpenAI dissolveu a equipe de superalinhamento, de acordo com a Wired. Na semana passada, a pesquisadora de políticas da OpenAI, Gretchen Krueger, também anunciou sua renúncia, citando preocupações semelhantes.

Paralelamente ao anúncio da contratação de Leike pela rival Anthropic, nesta terça-feira, 28, a OpenAI anunciou a formação de uma nova equipe de segurança, liderada pelo CEO Sam Altman, e outros dois membros do conselho, Adam D'Angelo e Nicole Seligman.

Últimos comentários

Instale nossos aplicativos
Divulgação de riscos: Negociar instrumentos financeiros e/ou criptomoedas envolve riscos elevados, inclusive o risco de perder parte ou todo o valor do investimento, e pode não ser algo indicado e apropriado a todos os investidores. Os preços das criptomoedas são extremamente voláteis e podem ser afetados por fatores externos, como eventos financeiros, regulatórios ou políticos. Negociar com margem aumenta os riscos financeiros.
Antes de decidir operar e negociar instrumentos financeiros ou criptomoedas, você deve se informar completamente sobre os riscos e custos associados a operações e negociações nos mercados financeiros, considerar cuidadosamente seus objetivos de investimento, nível de experiência e apetite de risco; além disso, recomenda-se procurar orientação e conselhos profissionais quando necessário.
A Fusion Media gostaria de lembrar que os dados contidos nesse site não são necessariamente precisos ou atualizados em tempo real. Os dados e preços disponíveis no site não são necessariamente fornecidos por qualquer mercado ou bolsa de valores, mas sim por market makers e, por isso, os preços podem não ser exatos e podem diferir dos preços reais em qualquer mercado, o que significa que são inapropriados para fins de uso em negociações e operações financeiras. A Fusion Media e quaisquer outros colaboradores/partes fornecedoras de conteúdo não são responsáveis por quaisquer perdas e danos financeiros ou em negociações sofridas como resultado da utilização das informações contidas nesse site.
É proibido utilizar, armazenar, reproduzir, exibir, modificar, transmitir ou distribuir os dados contidos nesse site sem permissão explícita prévia por escrito da Fusion Media e/ou de colaboradores/partes fornecedoras de conteúdo. Todos os direitos de propriedade intelectual são reservados aos colaboradores/partes fornecedoras de conteúdo e/ou bolsas de valores que fornecem os dados contidos nesse site.
A Fusion Media pode ser compensada pelos anunciantes que aparecem no site com base na interação dos usuários do site com os anúncios publicitários ou entidades anunciantes.
A versão em inglês deste acordo é a versão principal, a qual prevalece sempre que houver alguma discrepância entre a versão em inglês e a versão em português.
© 2007-2024 - Fusion Media Limited. Todos os direitos reservados.