MILÃO, Itália (Reuters) - A Agência de Proteção de Dados da Itália disse nesta sexta-feira que proibiu a empresa de inteligência artificial Replika de usar dados pessoais de usuários italianos em seu chatbot, citando riscos para menores e pessoas emocionalmente frágeis.
A Replika, uma startup norte-americana lançada em 2017, oferece aos clientes avatares personalizados que falam e ouvem. O chatbot despontou entre os falantes de inglês e é gratuito, embora gere cerca de 2 milhões de dólares em receita mensal com a venda de recursos, como chats de voz.
O "amigo virtual" é comercializado como capaz de melhorar o bem-estar emocional do usuário.
Mas o regulador italiano disse que, ao intervir no humor do usuário, "pode aumentar os riscos para indivíduos ainda em estágio de desenvolvimento ou em estado de fragilidade emocional".
A agência também apontou a ausência de um mecanismo de verificação de idade, como filtros para menores ou um dispositivo de bloqueio se os usuários não declararem explicitamente sua idade.
A Replika viola os regulamentos europeus de privacidade e processa dados pessoais ilegalmente, pois não pode se basear, mesmo implicitamente, em um contrato que um menor não possa assinar, disse o órgão de vigilância.
A desenvolvedora da Replika, a empresa norte-americana Luka, deverá notificar a autoridade italiana sobre as medidas tomadas para implementar as medidas de segurança em 20 dias e pode ser multada em até 20 milhões de euros, ou até 4% de seu faturamento anual global.
A Replika não comentou o assunto.