O Instagram testará recursos que desfocam mensagens contendo nudez para proteger os adolescentes e evitar que golpistas em potencial os alcancem. Sua coordenadora Meta (META.O), disse na quinta-feira, enquanto tentava dissipar as preocupações sobre conteúdo prejudicial em seus aplicativos.
A gigante tecnológica está sob crescente pressão nos Estados Unidos e na Europa devido a alegações de que as suas aplicações eram viciantes e alimentavam problemas de saúde mental entre os jovens.
Meta disse que o recurso de proteção para mensagens diretas do Instagram usaria aprendizado de máquina no dispositivo para analisar se uma imagem enviada pelo serviço contém nudez.
O recurso será ativado por padrão para usuários menores de 18 anos e o Meta notificará os adultos para incentivá-los a ativá-lo.
“Como as imagens são analisadas no próprio dispositivo, a proteção contra nudez também funcionará em bate-papos criptografados de ponta a ponta, onde o Meta não terá acesso a essas imagens – a menos que alguém decida denunciá-las para nós”, disse a empresa.
Ao contrário dos aplicativos Messenger e WhatsApp da Meta, as mensagens diretas no Instagram não são criptografadas, mas a empresa disse que planeja implementar criptografia para o serviço.
A Meta também disse que está desenvolvendo tecnologia para ajudar a identificar contas que possam estar potencialmente envolvidas em golpes de extorsão sexual. Além disso, também está sendo testado novas mensagens pop-up para usuários que possam ter interagido com essas contas.
Em janeiro, o gigante das redes sociais disse que iria ocultar mais conteúdo de adolescentes no Facebook e Instagram, acrescentando que isso tornaria mais difícil para eles encontrarem conteúdos sensíveis, como suicídio, automutilação e distúrbios alimentares.
Procuradores-gerais de 33 estados dos EUA, incluindo Califórnia e Nova York, processaram a empresa em outubro, dizendo que ela enganou repetidamente o público sobre os perigos de suas plataformas.
Na Europa, a Comissão Europeia procurou informações sobre como o Meta protege as crianças de conteúdos ilegais e prejudiciais.
*Com informações do Portal Reuters