Saiba tudo a respeito da Inteligência Artificial
Um grupo de amigas de Minneapolis, Minnesota descobriu que fotografias particulares publicadas em redes sociais foram usadas para criar deepfakes pornográficos, revelando um lado perigoso e pouco conhecido da inteligência artificial. A constatação ocorreu em junho do ano passado, quando a especialista em tecnologia Jessica Guistolise recebeu uma mensagem informando que mais de 80 mulheres da região tiveram suas imagens manipuladas em conteúdos sexuais produzidos por IA.
De acordo com apuração da CNBC, os vídeos e fotos falsos foram gerados por meio do site DeepSwap, um dos aplicativos conhecidos como “nudify”. Essas ferramentas permitem que qualquer pessoa, sem conhecimento técnico, crie imagens e vídeos explícitos sem consentimento. O episódio envolvendo as mulheres de Minnesota mostra como recursos de IA podem ser usados para violar a privacidade e causar prejuízos concretos às vítimas.
O impacto da descoberta
Em junho do ano passado, Jessica Guistolise recebeu um aviso de uma conhecida chamada Jenny, que informou que o ex-marido, Ben, teria usado fotos públicas de redes sociais para fabricar deepfakes pornográficos. Jenny mostrou a Guistolise imagens obtidas no computador de Ben que revelavam conteúdos manipulados de mais de 80 mulheres, entre elas amigas de Guistolise, como a estudante de Direito Molly Kelley.
Ao examinar as imagens adulteradas, Guistolise identificou que várias provinham de momentos íntimos: fotos de férias em família e registros da formatura de sua afilhada, todas extraídas do Facebook.
O grupo se mobilizou para dimensionar o problema e buscar alternativas jurídicas. Embora Ben tenha admitido ter criado os deepfakes, não havia provas de que os tivesse divulgado, o que dificultou o enquadramento de sua conduta na legislação. “Ele não quebrou nenhuma lei que conhecemos”, afirmou Kelley, ressaltando lacunas legais diante das novas tecnologias.
Nudify: fácil, acessível e perigoso
Serviços como o DeepSwap funcionam com planos de assinatura, aparecem anunciados no Facebook e no Instagram e estão disponíveis na App Store e no Google Play. Especialistas alertam que a criação de imagens explícitas é extremamente rápida e simples. Conforme Haley McNamara, do National Center on Sexual Exploitation, é possível gerar um deepfake sexual convincente a partir de apenas uma foto em menos tempo do que se leva para preparar um café.
O fácil acesso e a difusão dessas ferramentas ampliam os riscos, especialmente para mulheres, que historicamente são as maiores vítimas. Pesquisadores da Universidade da Flórida e da Georgetown University observam que plataformas como a DeepSwap adotam modelos de assinatura semelhantes aos de apps convencionais, tornando-se um mercado rentável, embora relativamente pequeno no universo da IA generativa.
O que são apps “nudify”
- Apps “nudify” utilizam inteligência artificial para modificar fotografias de pessoas, simulando que elas estão nuas.
- A tecnologia substitui roupas por uma representação digital do corpo do indivíduo, criando imagens falsas com aparência realista.
- Esses aplicativos operam com redes neurais e algoritmos de deep learning, analisando a foto original e reconstruindo artificialmente partes do corpo.
Consequências psicológicas
O trauma causado pelos deepfakes produzidos pelo ex-marido foi severo. Kelley, que estava grávida na época, relatou aumento do estresse e impacto na saúde. Megan Hurley descreveu episódios de paranoia e ansiedade e chegou a pedir a colegas que salvassem imagens caso as encontrassem online. Pesquisas indicam que, mesmo sem divulgação pública, a mera existência desse conteúdo gera medo e sensação de vulnerabilidade.
Ações legais e políticas
O grupo procurou apoio de legisladores locais, incluindo a senadora estadual Erin Maye Quade, autora de um projeto de lei em Minnesota que prevê multas de US$ 500 mil para empresas que ofereçam serviços de nudify e produzam deepfakes sexuais sem consentimento. A proposta enfatiza a responsabilização pela criação do conteúdo, não apenas por sua distribuição, buscando preencher lacunas na legislação atual, que ainda encontra dificuldades para regular empresas internacionais.
Em âmbito federal, o Take It Down Act, sancionado pelo presidente Donald Trump, torna crime a publicação online de imagens e vídeos sexuais não consensuais, incluindo deepfakes. No entanto, especialistas apontam que a norma não resolve integralmente situações em que o material nunca chega a ser divulgado publicamente.
O cenário internacional e o mercado de deepfakes
A questão ultrapassa os Estados Unidos. Em 2024, um australiano recebeu nove anos de prisão por criar deepfakes de 26 mulheres, e autoridades também investigaram casos envolvendo dezenas de adolescentes. O aumento de serviços de nudify e a promoção de aplicativos em redes sociais sugerem que o mercado segue em expansão, mesmo após a remoção de sites populares como o MrDeepFakes.
No Brasil, grupos criminosos foram acusados de empregar inteligência artificial para fabricar deepfakes pornográficos a partir de fotos de mulheres publicadas em redes sociais, com a existência de comunidades no Facebook e no Telegram que aceitam “encomendas” de imagens falsas.
Plataformas como a Meta e órgãos estaduais têm atuado para remover anúncios e aplicativos relacionados, mas especialistas em segurança digital alertam que novas vias, como o Discord, têm sido usadas para trocar instruções sobre a produção de conteúdo sexual por IA.
Um alerta para o público
Guistolise e suas amigas seguem buscando reconstruir suas vidas e informando a população sobre os perigos dessa tecnologia. “É importante que as pessoas saibam que isso existe, é acessível e fácil de fazer, e precisa parar”, afirmou Guistolise.
O caso das mulheres de Minnesota demonstra que a IA, quando utilizada indevidamente, pode provocar danos reais e duradouros, evidenciando a urgência de leis e de conscientização sobre deepfakes.
