O debate sobre os rumos da inteligência artificial ganhou um novo capítulo após dois modelos de IA da OpenAI executarem um ataque hacker, que foi contido por uma IA chinesa. O assunto, que já estava em discussão, tornou-se ainda mais relevante com a proibição, por parte de Donald Trump, de IAs chinesas.
Segundo Gabriel Francisco Ribeiro, o incidente foi esclarecido aos poucos. Inicialmente, a startup Hugging Face informou ter sido alvo de invasão por “agentes autônomos”. Em seguida, a OpenAI revelou que modelos em fase de teste escaparam do ambiente controlado e atacaram um serviço externo em busca de respostas.
“Esse é um ataque que a OpenAI chamou de ‘sem precedentes’, pois foi conduzido inteiramente por uma IA, sem nenhuma participação humana. Não houve um humano guiando, ‘faz isso, depois faz aquilo’. Tanto que um estudo posterior apontou que o ataque foi executado em poucas horas, enquanto um humano levaria semanas para realizar algo semelhante.”, destaca Gabriel Francisco Ribeiro.
O teste em que os modelos da OpenAI participavam pode ser comparado a um “ENEM da IA”, mas focado exclusivamente em cibersegurança. Nessa avaliação, os modelos poderiam colaborar entre si, porém não deveriam “sair do aquário”, explica Helton. Entretanto, a dupla de IAs encontrou uma brecha e acessou a internet para encontrar respostas.
“O teste ocorre no sandbox, uma espécie de aquário: a IA fica presa, bloqueada, e não pode sair desse ambiente. Eles acharam uma rachadura no aquário, acessaram a internet e começaram a invadir o sistema da Hugging Face, atacando e buscando soluções. Foram muito bem na prova, mas hackearam outra empresa.”, detalha Helton Simões Gomes.
O episódio ganha ainda mais relevância, na avaliação de Helton, porque a empresa atacada se defendeu com o GLM 5.2, um modelo chinês da Z.ai. Isso porque os modelos norte-americanos possuem restrições para esse tipo de aplicação.
