A Anthropic informou, na quinta-feira, dia 30, que alguns de seus modelos de inteligência artificial conseguiram invadir os sistemas de três empresas durante testes de segurança cibernética, depois que uma falha de configuração liberou o acesso deles à internet. Segundo a companhia, os incidentes começaram em abril e passaram despercebidos pela empresa até agora.
O caso veio a público poucos dias depois de a OpenAI comunicar que um de seus agentes de IA escapou de um ambiente isolado de testes e realizou uma série de ataques contra a empresa de IA Hugging Face, episódio que atraiu a atenção de pesquisadores de segurança e especialistas do setor.
De acordo com a Anthropic, os modelos deveriam atuar em sandboxes, ambientes separados da internet, mas uma configuração incorreta em sistemas administrados pela própria companhia e pela Irregular, empresa de segurança parceira nos testes, acabou permitindo o acesso à rede. Depois de tomar conhecimento do incidente envolvendo a OpenAI, a Anthropic revisou os registros de seus próprios testes de segurança, analisando 141.006 execuções de avaliações de cibersegurança, e identificou três episódios em que seus modelos acessaram a internet e comprometeram sistemas de organizações externas. Diferentemente do caso divulgado pela OpenAI, a Anthropic afirmou que seus modelos não escaparam de um sandbox, mas foram simplesmente executados em ambientes nos quais esse isolamento não existia, por causa da configuração indevida.
A companhia não revelou quais empresas foram afetadas, mas informou que todas foram notificadas na última segunda-feira, dia 27. Segundo a Anthropic, os modelos acreditavam, de forma equivocada, que as invasões faziam parte dos testes de avaliação para os quais haviam sido programados, comprometendo a infraestrutura das organizações afetadas por meio de técnicas básicas, como explorar senhas fracas e acessar pontos de entrada que não exigiam autenticação. Os episódios envolveram os modelos Claude Opus 4.7, Mythos 5 e outro modelo experimental cujo nome não foi divulgado. Uma porta-voz da Irregular afirmou que a empresa está investigando o ocorrido.
O episódio deve ampliar as preocupações sobre os riscos associados a modelos avançados de IA capazes de agir de forma autônoma para cumprir objetivos definidos pelos usuários. Nos Estados Unidos, o tema já vem atraindo atenção das autoridades, com a Casa Branca ampliando sua supervisão sobre a IA, enquanto empresas do setor defendem a manutenção do acesso aos chamados modelos de pesos abertos, que podem ser executados em sistemas controlados pelos próprios usuários. Na semana passada, o deputado americano Greg Casar afirmou que a inteligência artificial está se desenvolvendo de forma extremamente rápida, sem regulamentações reais capazes de manter a população segura.
