Por Martin Coulter
LONDRES (Reuters) - Quatro especialistas em inteligência artificial têm expressado preocupação após seus trabalhos terem sido citados em uma carta aberta --co-assinada por Elon Musk-- demandando uma pausa urgente na pesquisa.
A carta, datada de 22 de março e com mais de 1.800 assinaturas até esta sexta-feira, reivindica uma pausa de seis meses no desenvolvimento de sistemas "mais poderosos" do que o apoiado pela Microsoft (NASDAQ:MSFT), o novo GPT-4, da OpenAI, que pode manter uma conversa semelhante à humana, compor músicas e resumir documentos longos.
Desde que o predecessor do GPT-4, o ChatGPT, foi lançado no ano passado, empresas concorrentes têm se apressado para lançar produtos similares.
A carta aberta diz que os sistemas de IA com "inteligência competitiva à humana" representam riscos profundos à humanidade, citando 12 pesquisas de especialistas, incluindo acadêmicos de universidades, assim como atuais e ex-funcionários da OpenAI, do Google (NASDAQ:GOOGL) e de sua subsidiária DeepMind.
Desde então, grupos da sociedade civil nos Estados Unidos e na União Europeia têm pressionado parlamentares a controlar as pesquisas da OpenAI, que não respondeu imediatamente a pedidos de comentários.
Os críticos acusam a organização Future of Life Institute (FLI), que é financiada principalmente pela Fundação Musk e está por trás da carta, de priorizar cenários apocalípticos imaginários em sobreposição a preocupações mais imediatas em relação à IA, como a programação de preconceitos racistas ou sexistas nas máquinas.
Entre as pesquisas citadas está um conhecido artigo de autoria de Margaret Mitchell, que supervisionou anteriormente a pesquisa de ética em IA no Google.
Mitchell, agora cientista-chefe de ética da empresa de IA Hugging Face, criticou a carta, dizendo à Reuters que não está claro o que conta como "mais poderoso que o GPT4".
"Ao tratar muitas ideias questionáveis como um dado adquirido, a carta afirma um conjunto de prioridades e uma narrativa sobre IA que beneficia os apoiadores do FLI", disse ela. "Ignorar danos ativos agora é um privilégio que alguns de nós não têm."
Seus co-autores Timnit Gebru e Emily M. Bender criticaram a carta no Twitter, com Bender classificando algumas das reivindicações da carta como "desequilibradas".
O presidente do FLI, Max Tegmark, disse à Reuters que a campanha não é uma tentativa de impedir a vantagem corporativa da OpenAI.
"É quase hilário. Já vi pessoas dizerem: 'Elon Musk está tentando desacelerar a concorrência'", disse ele, acrescentando que Musk não teve nenhum papel na redação da carta. "Isso não se trata de uma empresa."
(Reportagem de Martin Coulter)