A inteligência artificial avança em ritmo acelerado, mas um novo levantamento revela que a segurança ainda não acompanha essa evolução. As principais empresas do setor continuam distantes de alcançar os padrões considerados ideais.
A Anthropic lidera uma avaliação internacional de segurança em IA. Ainda assim, nenhuma das companhias analisadas atingiu a nota máxima no índice.
Avaliação revela cenário distante do ideal
O estudo foi elaborado pelo Future of Life Institute, um think tank americano voltado à segurança em inteligência artificial. A entidade avaliou nove das principais empresas do setor com base em informações públicas e dados fornecidos pelas próprias organizações.
A análise considerou seis áreas: avaliação de riscos, danos atuais, estruturas de segurança, segurança existencial, governança e transparência, além do compartilhamento de informações.
A Anthropic obteve o melhor resultado geral, com nota C+, mas nenhuma empresa recebeu conceito A em qualquer uma das categorias avaliadas. O resultado mostra que até mesmo as companhias mais avançadas no desenvolvimento de IA ainda enfrentam desafios para lidar com possíveis riscos.
O ranking geral de segurança em IA ficou assim:
- Anthropic — nota geral C+ | pontuação 2,66
- OpenAI — nota geral C | pontuação 2,28
- Google DeepMind — nota geral C | pontuação 2,01
- Meta AI — nota geral D+ | pontuação 1,32
- Z.ai — nota geral D- | pontuação 0,88
- Alibaba Cloud — nota geral D- | pontuação 0,87
- xAI — nota geral F | pontuação 0,65
- DeepSeek — nota geral F | pontuação 0,47
- Mistral — nota geral F | pontuação 0,33
Os principais aspectos avaliados foram:
- Avaliação dos riscos associados aos modelos de IA.
- Medidas para reduzir danos já identificados.
- Estruturas internas voltadas à segurança.
- Transparência, governança e compartilhamento de informações.
- Preparação para riscos considerados existenciais.
Riscos vão além dos problemas atuais
Entre as conclusões do levantamento, uma das mais preocupantes envolve as chamadas ameaças existenciais. O termo se refere, por exemplo, ao desenvolvimento de modelos capazes de atingir um nível de inteligência semelhante ao humano, conhecido como inteligência artificial geral (AGI).
Os autores reconhecem que “existam tentativas construtivas”, mas avaliam que os esforços continuam “totalmente insuficientes”. O documento também alerta para a possibilidade de esses modelos serem usados em ciberataques ou em outras ações potencialmente prejudiciais às pessoas.
A preocupação aumenta à medida que os sistemas ficam mais avançados e passam a executar tarefas cada vez mais complexas. Para os pesquisadores, acompanhar essa evolução com mecanismos de segurança adequados continua sendo um dos maiores desafios do setor.
Uso militar também entra em debate
Outro ponto destacado é a mudança de postura de parte das empresas em relação ao uso militar da tecnologia. Segundo o relatório, algumas companhias que antes restringiam esse tipo de aplicação vêm flexibilizando suas políticas.
A Anthropic aparece entre elas e é criticada por manter “compromissos militares questionáveis”. De acordo com relatos da imprensa citados pela AFP, a tecnologia da empresa foi utilizada pelo governo dos Estados Unidos em operações militares na Venezuela e no Irã durante o último ano.
O documento também lembra que a companhia foi recentemente alvo de uma proibição do Pentágono por divergências relacionadas à segurança da IA.
O alerta continua para o setor
Mesmo ocupando a primeira posição do ranking, a Anthropic ficou distante da nota máxima. O resultado reforça um cenário em que as maiores empresas de inteligência artificial ainda precisam lidar com limitações importantes na proteção contra riscos.
Para o Future of Life Institute, embora existam iniciativas voltadas à segurança, os esforços atuais continuam insuficientes diante dos desafios que acompanham o avanço rápido da inteligência artificial.
