Nos últimos anos, o avanço da inteligência artificial (IA) levantou alarmes, especialmente em relação à criação e disseminação de deepfakes—conteúdos falsos e extremamente realistas que frequentemente geram vídeos pornográficos sem o consentimento das pessoas retratadas. Essa prática afeta majoritariamente mulheres e suscita debates sobre assédio digital, ética e a necessidade de regulamentação.
A quantidade de vídeos deepfake online cresceu alarmantes 550% desde 2019, segundo a empresa Security Hero. Impressionantes 98% desses vídeos são de natureza pornográfica, e 99% das vítimas são mulheres. A facilidade de criar um vídeo falso leva menos de 25 minutos, a partir de uma única imagem nítida da vítima, e muitas vezes é realizada gratuitamente.
As consequências para as vítimas de pornografia deepfake são devastadoras. Muitas enfrentam transtornos como síndrome do pânico, estresse pós-traumático e ansiedade. Casos emblemáticos, como o de Almendralejo, na Espanha, em que imagens de meninas adolescentes se tornaram virais, destacam a urgência da questão. Além de danos emocionais, essas situações podem resultar em extorsão e outras consequências duradouras.
A situação evidencia a necessidade premente de regulamentação em torno da inteligência artificial. Atualmente, muitas práticas relacionadas a deepfakes não são consideradas crimes, deixando as vítimas vulneráveis. Apenas algumas jurisdições nos Estados Unidos e na Europa possuem leis rigorosas contra esse tipo de violação.
A proliferação de deepfakes pornográficos reflete um problema mais amplo relacionado à objetificação do corpo feminino na sociedade. Para combater essa prática, são necessárias não apenas medidas legais, mas também uma transformação cultural que promova respeito e igualdade de gênero, reduzindo a aceitação de conteúdos que infrinjam a dignidade e os direitos das mulheres.
