Apple removeu uma série de aplicativos da App Store após uma investigação da BBC. Esta ação foi motivada pelo fato de os aplicativos, apresentados no TikTok como ferramentas para criar deepfakes de “remoção de roupas” sem o consentimento das pessoas, estarem promovendo práticas ilegais.
A prática de “nudificação” utilizada por esses aplicativos é baseada em inteligência artificial e permite a manipulação digital de imagens, apagando virtualmente as roupas de indivíduos, produzindo assim imagens ou vídeos nus ou parcialmente nus. Embora os desenvolvedores descrevessem os aplicativos como maneiras de “apimentar selfies”, as propagandas veiculadas na plataforma TikTok promoviam esses serviços de forma bastante enganosa, buscando sexualizar mulheres sem sua permissão.
Nos anúncios, os usuários eram induzidos a baixar os aplicativos com promessas como “ver as fotos mais quentes da sua paixão”, revelando a intenção de criar conteúdos sexualmente explícitos sem consentimento. Essa questão levantou preocupações globais, especialmente após casos de chantagem envolvendo vítimas de manipulações por IA.
Empresas de tecnologia, como a Apple, enfrentam um dilema ético ao lidar com aplicativos de “nudificação”. De acordo com especialistas, deve haver mais barreiras para restringir o acesso a essa tecnologia. A Apple removeu três aplicativos e suspendeu um quarto, encerrando a conta do desenvolvedor responsável por criar vídeos sexualizados de mulheres.
Após a remoção dos anúncios pagos pelo TikTok, a plataforma continua lidando com vídeos não divulgados que ainda promovem esses aplicativos, o que levanta questões sobre a eficácia da moderação de conteúdo. O TikTok afirmou que os anúncios violam suas políticas, mas não esclareceu como passaram pela revisão de conteúdo.
A situação ressaltou o potencial de aplicativos de manipulação de imagem para prejudicar indivíduos, especialmente adolescentes, e fez com que as empresas de tecnologia reconsiderassem suas práticas de segurança. O Google Play Store, por sua vez, também iniciou uma investigação sobre esses aplicativos, enquanto o aplicativo mais popular já havia acumulado mais de um milhão de downloads na plataforma.
A manipulação digital de fotos para criar conteúdos sexualmente sugestivos é uma questão complexa e ética, exigindo uma vigilância contínua e ações firmes das plataformas para proteger os indivíduos de abusos digitais e promover um ambiente online seguro.
