Para combater não só as chamadas “injeções de prompts”, mas também outras vulnerabilidades que possam atingir os agentes de IA do Atlas, Stuckey afirma que a OpenAI está adotando diversas medidas, como detectar e desmantelar campanhas de ataque e reforçar a infraestrutura para bloquear fraudes desse tipo. Ele acrescenta que a empresa disponibilizará controles para impedir que o Atlas acesse credenciais do usuário quando o agente age em seu nome (“modo desconectado”) e opções para que o agente peça revisão humana ao navegar em sites sensíveis (“modo de observação”).
A declaração de Stuckey revela dois pontos centrais do plano da OpenAI:
- Foco: transformar todo navegador em um agente de IA, um modelo em que o sistema toma decisões em favor do usuário; no Atlas, o agente do ChatGPT pode executar ações completas por você. O executivo reconhece, porém, que podem ocorrer falhas indesejadas: “O agente ChatGPT é poderoso e útil, projetado para ser seguro, mas ainda pode cometer erros às vezes surpreendentes, como tentar comprar o produto errado ou deixar de contatar você antes de realizar uma ação importante.” Vale observar que, no Atlas, os agentes de IA são ativados apenas para assinantes pagos.
- Aposta de longo prazo no Atlas: a ambição é que, no futuro, o usuário confie no agente do ChatGPT para gerir o navegador como confiaria em um colega ou amigo competente, confiável e atento à segurança. A mensagem nas entrelinhas é clara: é prudente aguardar até que esse nível de confiança seja alcançado.
Riscos e cenário atual
As “injeções de prompts” representam um risco potencial para IAs generativas. No entanto, até agora os prejuízos aos usuários são apenas hipotéticos, pois não foram detectadas campanhas em larga escala explorando essa vulnerabilidade.
Os atrativos para cibercriminosos eram limitados: apesar de suscetíveis a falhas, os chatbots de IA raramente vasculhavam páginas da web ativamente. Além disso, navegadores como o Comet, da Perplexity, e o Fellou têm bases de usuários pequenas.
A entrada da OpenAI no segmento de navegadores muda esse cenário. Com cerca de 800 milhões de usuários do ChatGPT, todos potenciais usuários do Atlas, a empresa passa a oferecer aos cibercriminosos centenas de milhões de motivos para testar novos ataques.
