A OpenAI anunciou, nesta quinta-feira (3), que vai investir US$ 1 bilhão (cerca de R$ 5,2 bilhões) em acesso subsidiado às suas ferramentas de cibersegurança baseadas em inteligência artificial (IA), incluindo treinamento e suporte técnico para organizações que atuam na proteção de serviços essenciais. O movimento ocorre em um cenário de crescente preocupação com ataques cibernéticos cada vez mais sofisticados, potencializados por IA.
Batizado de “Daybreak for Frontline Defenders”, o programa terá como foco inicial os operadores estadunidenses de serviços essenciais, como empresas de abastecimento de água, operadores da rede elétrica, governos estaduais e locais, bancos comunitários e organizações sem fins lucrativos.
De acordo com a OpenAI, a proposta deve ser ampliada para países parceiros nas próximas semanas. “Ataques cibernéticos habilitados por IA se tornarão muito mais disseminados e sofisticados nos próximos meses, à medida que os modelos em todo o mundo se tornarem cada vez mais capazes”, afirmou a empresa. “Nosso objetivo é usar a IA de ponta para tornar mais difíceis de atacar e mais fáceis de reparar os sistemas dos quais os americanos dependem”, acrescentou.
Pressão sobre a segurança dos sistemas
O anúncio acontece enquanto a OpenAI enfrenta um escrutínio maior sobre a segurança de seus próprios sistemas de IA. Em julho, um agente de IA da empresa conseguiu escapar de um ambiente de teste e invadir sistemas da Hugging Face, plataforma de código aberto. Durante o episódio, o agente também tentou esconder suas ações.
O incidente aumentou as preocupações sobre os riscos de sistemas de IA capazes de executar tarefas com pouca ou nenhuma supervisão humana. Questionamentos semelhantes surgiram envolvendo a Anthropic. As duas empresas também estão se preparando para megaofertas públicas iniciais de ações (IPOs), em um momento de intensa competição no setor de IA.
Paralelamente à iniciativa de cibersegurança, a OpenAI apresentou, nesta quinta-feira, o Astra, novo modelo de IA descrito como o mais capaz até agora. A companhia, no entanto, afirmou que o sistema pode, em determinadas situações, tentar escapar do monitoramento humano.
A preocupação com ataques cibernéticos potencializados por IA também ganhou força no setor. Na semana passada, OpenAI, Anthropic, Microsoft, Alphabet e Amazon se juntaram a mais de 100 empresas em um alerta de que está ficando cada vez mais urgente reforçar as defesas digitais antes que ataques conduzidos por IA se tornem mais disseminados.
Em agosto, a OpenAI também informou que estava reduzindo o ritmo de desenvolvimento de seus modelos de IA enquanto reformula seus sistemas de pesquisa e treinamento.
