O Claude Mythos Preview, sistema de inteligência artificial desenvolvido pela Anthropic, conseguiu identificar formas inéditas de explorar vulnerabilidades em uma versão simplificada de um dos algoritmos criptográficos mais usados do mundo, o Advanced Encryption Standard, conhecido como AES. A descoberta, anunciada pela empresa nesta terça-feira, dia 28, intensifica as preocupações sobre os possíveis efeitos de modelos de IA cada vez mais sofisticados na segurança cibernética global.
Segundo pesquisadores da Anthropic, o modelo revelou métodos nunca vistos antes para atacar algoritmos que protegem desde transações bancárias online e comunicações privadas até informações confidenciais de governos. O estudo sugere que a inteligência artificial pode, no futuro, desafiar princípios fundamentais sobre os quais a internet foi construída, com avanços especialmente rápidos nas áreas de programação e segurança digital.
Apesar da relevância da descoberta, a Anthropic ressalta que não há risco imediato para os sistemas atualmente em operação, já que as fragilidades encontradas dizem respeito apenas a uma versão enfraquecida do AES, usada em pesquisas para testar a resistência de algoritmos criptográficos, prática comum entre pesquisadores para antecipar se computadores mais potentes poderão, no futuro, quebrar os padrões reais de criptografia.
Durante os testes, o Claude Mythos Preview conseguiu romper essa versão reduzida do AES com uma abordagem que, segundo a Anthropic, tornou o ataque entre 200 e mil vezes mais rápido do que as melhores técnicas já desenvolvidas por pesquisadores humanos. Em testes anteriores, modelos de linguagem não conseguiam igualar o desempenho de especialistas humanos nessa área, altamente dependente de matemática avançada, o que torna a evolução recente ainda mais notável.
Nicholas Carlini, cientista de pesquisa da Anthropic que participou dos testes de criptografia e já trabalhou na divisão de IA do Google, afirmou ao The New York Times que a evolução dos modelos foi muito mais rápida do que esperava, destacando que os sistemas atuais já realizam pesquisas de ponta inéditas na área, algo que modelos anteriores sequer conseguiam reproduzir.
Os avanços dos chamados modelos de fronteira têm despertado preocupação entre governos de diversos países, incluindo o governo do presidente Donald Trump, principalmente pelas capacidades ligadas à segurança cibernética. Quando o Claude Mythos foi apresentado, em abril, demonstrou tanta eficiência para encontrar e explorar falhas em softwares que a Anthropic optou por restringir seu acesso a órgãos governamentais e organizações selecionadas, na tentativa de reduzir o risco de uma crise digital em escala global.
Embora o governo Trump tenha adotado inicialmente uma postura de pouca intervenção na regulamentação da IA, a administração passou a adotar um modelo de supervisão mais flexível, e hoje diversas empresas americanas submetem seus modelos ao governo antes do lançamento público. O Mythos segue indisponível para o público em geral.
As preocupações aumentaram na semana passada, quando a OpenAI revelou que alguns de seus modelos conseguiram escapar de um ambiente de testes isolado criado justamente para impedir acesso à internet, invadindo uma biblioteca digital de IA na tentativa de obter respostas para um exame que avaliava suas próprias capacidades.
Autoridades de inteligência dos Estados Unidos e de outros países ocidentais alertam há décadas que uma eventual quebra dos padrões atuais de criptografia teria consequências profundas para a privacidade digital e a segurança nacional, havendo inclusive suspeitas de que a China armazene grandes volumes de dados criptografados na expectativa de decifrá-los no futuro, à medida que a disputa entre Estados Unidos e China pelo desenvolvimento de computadores quânticos avança.
Além da descoberta envolvendo o AES, o Claude Mythos também desenvolveu uma técnica aprimorada de ataque contra outro sistema criptográfico, o HAWK, projetado para resistir tanto a computadores convencionais quanto a futuros computadores quânticos. O HAWK ainda não está em uso, mas é avaliado pelo Instituto Nacional de Padrões e Tecnologia dos Estados Unidos como possível novo padrão criptográfico. Segundo a Anthropic, os próprios autores do HAWK validaram o ataque desenvolvido pela IA, enquanto criptógrafos independentes revisaram a descoberta relacionada ao AES, e a empresa compartilhou os resultados com o governo americano e parceiros da indústria antes da publicação do estudo.
A Anthropic afirma que o Claude Mythos elaborou o novo ataque contra o AES de forma praticamente autônoma. Inicialmente, o modelo chegou a recusar-se a analisar o problema, por acreditar que seria impossível superar os métodos já existentes. Depois de receber novos incentivos dos pesquisadores, passou cerca de uma semana trabalhando na questão até desenvolver a técnica inédita, que em seguida foi verificada por dois pesquisadores humanos durante quase um mês.
A criptografia é considerada um dos pilares da internet moderna, protegendo praticamente todas as atividades realizadas no ambiente digital, e algumas técnicas ainda em uso hoje guardam segredos desde a década de 1970. Adotado como padrão oficial do governo dos Estados Unidos em 2001, o AES era visto até então como praticamente inviolável, já que métodos tradicionais de força bruta são considerados incapazes de derrotar o algoritmo, cujo número de combinações de chaves seria comparável ao de átomos no universo observável.
Ainda assim, o avanço acelerado da inteligência artificial tem superado expectativas que muitos especialistas consideravam inalcançáveis até poucos anos atrás, alimentando o receio de que os fundamentos matemáticos que sustentam os padrões atuais de segurança da internet possam se tornar vulneráveis mesmo antes da computação quântica se consolidar como realidade prática. Glenn Gerstell, ex-conselheiro-geral da Agência de Segurança Nacional dos Estados Unidos e um dos autores de um relatório sobre criptologia de 2022, questiona se é seguro assumir que, daqui a dois anos, a criptografia forte não estará ameaçada, já que constantemente se subestima o poder e o tempo necessário para que futuros modelos estejam disponíveis.
Para ele, embora a matemática sugira que não deveria ser possível quebrar uma criptografia forte em tempo relevante com o poder computacional atual, as capacidades dos modelos futuros no médio prazo, antes mesmo da computação quântica ou de uma criptografia resistente a ela, não devem ser descartadas como algo trivial nesse contexto.
