O sistema de segurança cibernética do Supremo Tribunal Federal (STF) detectou a primeira tentativa de fraude processual com uso de prompt injection em um processo da corte. Esse método de inteligência artificial é utilizado para manipular análises processuais.
O episódio envolve um recurso sob a relatoria do ministro Cristiano Zanin e foi identificado pelo Núcleo de Inteligência Artificial da Secretaria-Geral de Tecnologia e Inovação do STF.
Método utilizado na fraude
A ação fraudulenta consistiu em inserir, em duas páginas do documento processual, comandos ocultos voltados a sistemas de inteligência artificial. Os trechos foram redigidos em letras brancas e em tamanho reduzido, tornando-se imperceptíveis na leitura comum. Havia ainda uma fragmentação incomum das palavras, aparentemente com o propósito de dificultar a identificação dos comandos. O objetivo era influenciar a decisão do ministro.
A fraude não produziu efeito prático, pois o gabinete de Zanin não utiliza ferramentas de inteligência artificial para análise ou fundamentação de processos.
O processo trata de um agravo apresentado por uma servidora pública negra contra a decisão que determinou sua exoneração do cargo de oficial do Ministério Público de Minas Gerais. A defesa alega que a candidata branca que a substituiu teria se beneficiado de manobras processuais para burlar o sistema de cotas raciais.
Em 19 de agosto, Zanin negou o recurso com base na jurisprudência do STF que impede o reexame de fatos e provas em recurso extraordinário. Ao encaminhar o caso para julgamento na Primeira Turma, o ministro classificou a inserção dos comandos como uma tentativa de “direcionar, de forma oculta, os sistemas de inteligência artificial do STF para a obtenção de decisão judicial favorável”.
Para Zanin, a conduta viola o dever de lealdade processual previsto no Código de Processo Civil. O ministro aplicou multa equivalente a dois salários mínimos e determinou o envio do caso à OAB, para apuração de eventual infração ético-disciplinar do advogado, e ao Ministério Público Federal, para verificar possível prática de crime.
