A OpenAI mudou seu líder de segurança de IA, Aleksander Madry, para uma posição nova e mais ampla dentro da organização. Madry, que estabeleceu a equipe de preparação da empresa em 2023, foi fundamental na avaliação de modelos de IA para riscos graves antes de seu lançamento ao público. As responsabilidades da equipe de preparação agora serão supervisionadas pelo pesquisador da OpenAI, Tejal Patwardhan, de acordo com uma pessoa com conhecimento das mudanças internas.
A mudança no papel de Madry ocorre quando os chatbots da OpenAI, conhecidos por sua capacidade de imitar conversas humanas e gerar conteúdo multimídia a partir de prompts de texto, viram avanços nas capacidades, levantando preocupações de segurança entre alguns observadores.
No início de 2024, a OpenAI, que recebe apoio da Microsoft (NASDAQ:MSFT), criou um Comitê de Segurança e Proteção liderado por membros do conselho, incluindo o CEO Sam Altman. Essa mudança fez parte dos preparativos para o desenvolvimento do modelo de inteligência artificial de próxima geração da OpenAI.
Até hoje, nem a OpenAI nem a Madry forneceram comentários sobre a reatribuição.
A Reuters contribuiu para este artigo.Essa notícia foi traduzida com a ajuda de inteligência artificial. Para mais informação, veja nossos Termos de Uso.