Você pergunta à IA a fonte de um dado, o nome de um livro, a data exata de um evento. A resposta vem rápida, cheia de detalhes, com aquele tom de quem estudou a vida inteira para aquela pergunta. Você copia, cola, usa no trabalho. Depois descobre que o livro não existe. O autor não existe. A data está errada. A IA mentiu para você.
A reação mais comum é achar que a IA mentiu. Mas isso pressupõe uma coisa que ela nunca teve: a informação verdadeira guardada em algum lugar, esperando ser escondida de você.
A IA mentiu para você
Esse tipo de erro tem até nome técnico, “alucinação”, mas o nome não importa tanto quanto entender o que está por trás dele. A IA não consultou uma estante, não checou um arquivo, não teve o momento “ah, é melhor eu não contar essa parte”. Ela simplesmente montou uma frase que parecia certa.
O problema é que “parecer certa” e “ser certa” são coisas completamente diferentes, e a IA não tem como distinguir uma da outra, e ela sempre vai te responder alguma coisa.
Quem não tem cão… e o resto você já sabe
Se eu escrever “quem não tem cão”, você provavelmente completou a frase na sua cabeça antes mesmo de terminar de ler. Não porque você sabe alguma verdade sobre cachorros, mas porque já ouviu essa sequência de palavras centenas de vezes.
É basicamente assim que uma IA generativa funciona. Ela foi alimentada com uma quantidade absurda de texto, livros, sites, conversas, e aprendeu a prever qual é a próxima palavra mais provável numa frase. A diferença é de escala: você decorou um ditado, ela “decorou” um pedaço enorme da internet.
Quando você pergunta algo que ela “viu” muitas vezes com a mesma resposta, o palpite sai certo. Quando pergunta algo raro, obscuro, ou que simplesmente não existe nos dados que ela recebeu, ela ainda assim faz um palpite, só que agora ele pode vir completamente errado. E aqui está o pulo do gato: ela entrega o palpite errado com a mesma convicção do palpite certo.
Para mentir, precisa saber a verdade primeiro
Mentir é um ato que exige duas coisas: saber como as coisas realmente são e escolher dizer outra coisa no lugar. Um político que promete algo sabendo que não vai cumprir está mentindo. Um aluno que cola sabendo a resposta certa e entrega outra de propósito está mentindo.
A IA nunca teve a primeira parte desse processo. Não existe, em nenhum lugar dentro dela, uma versão “verdadeira” da resposta que ela decidiu esconder. Existe apenas uma sequência de palavras calculada com base em padrões, verdadeira ou não.
Chamar isso de mentira é dar um crédito de intenção que simplesmente não está lá. É como culpar um dado de estar “trapaceando” quando cai no número errado.
O papagaio mais convincente do mundo
Imagine um papagaio que passou anos ouvindo médicos falando em consultórios. Com o tempo, ele aprendeu o tom, o vocabulário, as pausas, até a forma de encerrar uma frase com autoridade. Um dia ele solta um diagnóstico inteiro, com termos técnicos e tudo. Soa impecável.
Só que ele não examinou ninguém. Não entende o que está dizendo. Só sabe que aquela sequência de sons combina bem com o papel de “médico falando”. Se o diagnóstico por acaso estiver certo, foi coincidência de padrão. Se estiver errado, ele vai repetir com a mesma segurança de antes.
É exatamente essa a sensação de conversar com uma IA generativa. A confiança no tom não é evidência de nada.
Fora da caixa
O quarto onde ninguém entende chinês
Imagine uma pessoa trancada numa sala, recebendo bilhetes escritos em chinês por baixo da porta. Ela não entende uma palavra do idioma, mas tem um manual gigantesco de instruções em português: “se receber este símbolo, responda com aquele outro”. Ela segue o manual à risca e devolve o bilhete pela mesma fresta.
Do lado de fora, alguém que lê chinês recebe respostas perfeitamente coerentes e pensa que está conversando com alguém que entende o idioma. Só que, dentro da sala, não existe compreensão nenhuma, só combinação de símbolos seguindo regras.
Esse experimento de pensamento foi proposto por John Searle, muito antes do ChatGPT existir, mas descreve com uma precisão incômoda o que acontece quando você troca mensagens com uma IA. As respostas fazem sentido para você. Lá dentro, não tem ninguém entendendo nada.
Fatos e números: a diferença entre errar e inventar
Esse “chute com cara de certeza” já foi medido de verdade, e os números ajudam a entender o tamanho do problema.
Um estudo da empresa Vectara descobriu que até os modelos mais confiáveis do mercado ainda inventam informações em pelo menos 0,7% das respostas.
Alguns modelos, em testes específicos, chegaram a inventar respostas em mais de 25% dos casos.
Em um teste da OpenAI (ChatGPT) focado em perguntas sobre pessoas reais, um de seus modelos mais avançados errou com invenção em 33% das respostas, e uma versão menor chegou a 48%.
Em perguntas genéricas de conhecimento geral, esse tipo de teste já registrou taxas de invenção de até 79% em determinados modelos.
O detalhe mais curioso é que, segundo especialistas que monitoram o fenômeno, esse tipo de erro nunca vai ser completamente eliminado. Não é um defeito de fabricação que vai ser corrigido numa próxima versão, é uma consequência direta de como esse tipo de tecnologia funciona.
Manual de sobrevivência: como não cair no papo confiante
Não dá pra desconfiar de tudo que uma IA responde; isso tornaria a ferramenta inútil. Mas dá para treinar o olho para alguns sinais de risco.
Desconfie sempre que a resposta trouxer números muito específicos, nomes exatos de fontes ou datas cravadas sobre algo que você não tem como checar rapidamente. Esses são justamente os pontos em que o “palpite estatístico” tem mais chance de errar com aparência de certeza.
A regra prática é simples: trate a resposta da IA como um rascunho bem escrito, não como um fato confirmado. Se a informação importa de verdade, vale os dois minutos de busca pra confirmar antes de repassar adiante.
Conta aí
Qual foi a “mentira” mais convincente que uma IA já te contou? Aquela resposta cheia de segurança que você só descobriu depois que era pura invenção? Conta aqui nos comentários!
