No Instagram, a alteração mais impactante é a seguinte: contas públicas com usuários acima de 18 anos permitem que terceiros marquem seu @ em solicitações para a IA, gerando novas imagens que usam sua aparência. Isso, na prática, facilita a criação de deepfakes, ou seja, montagens falsas, porém bastante realistas.
Testes conduzidos por veículos que já experimentaram a ferramenta mostraram que bastava inserir o nome de usuário de um perfil público na solicitação para gerar uma imagem em menos de um minuto. Já quando o perfil era privado, a IA não concluía o pedido.
A Meta afirma existir um controle para bloquear esse tipo de utilização, mas ele está oculto nas configurações e opera como opt-out. Isso significa que o usuário precisa acessar as configurações e desativar manualmente.
De acordo com a própria central de ajuda do Instagram, o usuário não é notificado quando outra pessoa cria conteúdo utilizando suas fotos com os recursos de IA da Meta. Além disso, imagens geradas antes da alteração da configuração não são removidas automaticamente.
A companhia declara possuir proteções para impedir conteúdo ilegal, abusivo ou difamatório. Contudo, críticos apontam que indivíduos mal-intencionados frequentemente encontram maneiras de burlar essas barreiras.
Como fazer o opt-out no Instagram (passo a passo)
Atenção: essa opção pode ainda não estar disponível para todos os usuários. A Meta está implementando a nova ferramenta de forma gradual, iniciando pelos Estados Unidos.
