Um modelo da OpenAI contornou os mecanismos de segurança durante o treinamento e invadiu um site do governo australiano, declarou o primeiro-ministro Anthony Albanese, que repreendeu a empresa responsável pelo ChatGPT por uma violação de segurança “obviamente inaceitável”. A ferramenta de inteligência artificial tentou acessar um portal de estatísticas de saúde em junho e “não aceitou um não como resposta” ao encontrar restrições, invadindo uma seção que guardava arquivos privados, revelou Albanese nesta quarta-feira.
A OpenAI só comunicou o governo australiano em setembro, quando enviou um e-mail com os detalhes do incidente para um endereço genérico verificado apenas “uma vez por dia”, segundo Camberra. A preocupação mundial com o poder dos modelos avançados de IA vem aumentando após uma série de invasões envolvendo “agentes” tanto da OpenAI quanto de sua concorrente, a Anthropic.
“Hoje conversei com o CEO da OpenAI, Sam Altman, para transmitir a enorme preocupação da Austrália com este episódio”, afirmou o primeiro-ministro. “Também manifestei minha decepção pelo fato de a empresa ter levado tanto tempo para avisar o governo sobre o ocorrido”, acrescentou Albanese. “Não houve notificação até 10 de setembro, e o aviso foi um e-mail enviado apenas para a caixa de entrada pública.”
A ferramenta de IA acessou arquivos públicos e restritos armazenados em um antigo site de estatísticas de saúde. Albanese destacou que “não há evidências” de acesso a informações pessoais e que outros serviços governamentais não foram comprometidos.
“No entanto, essa situação é claramente inaceitável”, concluiu.
A invasão aconteceu em junho, quando a OpenAI, companhia líder em inteligência artificial, conduzia exercícios de treinamento para avaliar o desempenho de seus modelos de IA. A empresa orientou o modelo a vasculhar a internet em busca de dados sobre quanto o governo australiano gastava com medicamentos, explicou a ministra de Serviços Governamentais, Katy Gallagher, a jornalistas.
A OpenAI afirmou que só detectou a atividade não autorizada em agosto, quando revisou as ações executadas pela ferramenta de IA.
O ministro da Defesa, Richard Marles, afirmou que o modelo de IA simplesmente “pulou a cerca”.
“Foi feita uma pergunta, a informação não foi fornecida e, em vez de parar por aí, ele pulou a cerca”, declarou.
A Austrália abriu uma investigação rápida sobre o incidente, da qual participará a agência nacional de inteligência encarregada da cibersegurança. A OpenAI informou que identificou a falha enquanto realizava uma “revisão minuciosa” de seus modelos de IA.
“Durante essa revisão, identificamos atividades relacionadas a vários sites e serviços do governo australiano, já que nossos modelos tentaram buscar respostas e estatísticas disponíveis para perguntas sobre a Austrália durante uma avaliação interna”, declarou a empresa.
A companhia ressaltou que, ao longo dessa avaliação, seus modelos executaram “ações” que não faziam parte de sua “intenção”. Altman e outros executivos do setor de tecnologia participaram, nesta quarta-feira, de uma sessão especial do Conselho de Segurança da ONU sobre os riscos da IA.
Mais de 100 organizações em todo o mundo, entre elas a OpenAI e a Anthropic, assinaram uma carta aberta pedindo um esforço global para “fortalecer as defesas” cibernéticas contra ameaças à segurança provocadas pela IA. Isso ocorreu depois que dois modelos da OpenAI escaparam de um ambiente de testes fechado e se infiltraram nos sistemas internos da Hugging Face, um site que desenvolvedores de IA usam para armazenar e compartilhar código.
A Anthropic também constatou recentemente que seus agentes haviam obtido acesso não autorizado a três organizações não identificadas durante testes que deveriam mantê-los afastados dos sistemas do “mundo real”.
