ÚLTIMAS HORAS: Assine InvestingPro com um super desconto na Oferta Relâmpago
Investing.com - A OpenAI planeja permitir que usuários adultos verificados gerem conteúdo erótico no ChatGPT a partir de dezembro, disse o CEO Sam Altman na terça-feira, marcando uma mudança de política para a empresa que antes mantinha rígidas barreiras contra conteúdo sexual ou romântico.
"Tornamos o ChatGPT bastante restritivo para garantir que estávamos sendo cuidadosos com questões de saúde mental", escreveu Altman no X. "Agora que conseguimos mitigar esses riscos e temos novas ferramentas, podemos relaxar com segurança as restrições na maioria dos casos."
A OpenAI anteriormente mantinha limites firmes sobre conteúdo sexual para reduzir riscos de dependência emocional excessiva e preocupações com saúde mental entre os usuários. A nova medida, segundo Altman, reflete confiança em sistemas de segurança mais fortes e um princípio mais amplo de "tratar usuários adultos como adultos".
Ainda assim, a OpenAI enfrenta um desafio central: como manter barreiras de proteção enquanto relaxa restrições. A empresa diz que contará com verificação de idade, configurações de personalidade opcionais e ferramentas de moderação aprimoradas para prevenir o uso indevido e manter os menores seguros.
A mudança ocorre após o lançamento do modo "picante" 18+ da xAI, startup liderada por Elon Musk, e de companheiros de IA flertadores, recursos que destacam um ecossistema crescente de IA construída para intimidade.
Por outro lado, a Anthropic, um laboratório focado em segurança por trás da linha de modelos de IA Claude, adotou uma abordagem mais analítica. Um estudo interno descobriu que menos de 0,1% das conversas com Claude envolviam interpretação de papéis românticos ou sexuais, sugerindo que, embora o conceito de intimidade com IA atraia atenção desproporcional, na prática continua sendo um comportamento marginal.
Altman recentemente delineou uma visão mais ampla para o ChatGPT que vai além da produtividade, dizendo que quer que o ChatGPT "lembre-se de toda a sua vida", um passo que ele considera crucial para construir um sistema que possa atuar como um ajudante vitalício, ou até mesmo um amigo.
Mas essa ambição vem com tensão. Altman também alertou sobre usuários se tornando emocionalmente dependentes demais da IA, particularmente jovens que "não conseguem tomar nenhuma decisão sem contar tudo ao ChatGPT". A introdução de conteúdo adulto e personalidades expressivas testará a capacidade da OpenAI de equilibrar utilidade, companheirismo e escolha do usuário, e decidir o quão humana sua IA realmente deve parecer.
Essa notícia foi traduzida com a ajuda de inteligência artificial. Para mais informação, veja nossos Termos de Uso.