Satya Nadella, CEO e presidente do conselho da Microsoft, publicou no sábado (10) um artigo em que defende a criação de um “freio de emergência” para a inteligência artificial, além de argumentar que as empresas necessitam de mecanismos de segurança mais robustos para a tecnologia. O texto foi divulgado na conta do X (antigo Twitter) do executivo.
As declarações surgem depois que líderes de desenvolvedoras como OpenAI e Anthropic se manifestaram a favor de uma desaceleração no desenvolvimento da IA.
De acordo com Nadella, que dirige a Microsoft desde 2014, conforme sistemas avançados são implantados em larga escala, as ações da tecnologia acabam não correspondendo àquilo para o qual foram treinadas.
Ele também afirmou que, mesmo diante desse cenário, as pessoas continuam adotando modelos complexos e autônomos, chegando a conceder acesso a dados confidenciais e permitindo que esses modelos executem ações em nosso nome.
Nadella sustentou que “é hora de dar um passo atrás” e reavaliar a forma como a tecnologia opera.
“Simplesmente não podemos delegar a responsabilidade pelo que a inteligência faz em nosso nome. As garantias de um fornecedor de modelos não nos eximem dessa responsabilidade.”
Dentre as propostas para garantir a segurança, o executivo sugeriu um “freio de emergência”. Nessa situação, uma pessoa teria a capacidade de intervir e pausar ou desligar o que o modelo estiver executando.
CEO da Microsoft pediu mais segurança
No artigo, Nadella escreveu que não podemos encarar a inteligência artificial como uma “caixa preta”, aceitando simplesmente os resultados fornecidos sem conseguir observar como os modelos chegaram a determinado resultado.
Para tanto, ele solicita medidas de segurança mais robustas para monitorar a IA, o que inclui tratar os modelos como “riscos internos”.
“Não porque sejam necessariamente maliciosos, mas porque qualquer agente suficientemente capaz, com acesso a sistemas importantes, pode cometer erros ou ser comprometido.”
O CEO defende que as empresas não devem se apoiar somente nas garantias oferecidas pelas desenvolvedoras de IA e precisam estabelecer uma separação entre o modelo e a estrutura responsável por sua execução.
Ele também argumenta que as IAs não devem permanecer sob a responsabilidade delas mesmas. Nesse sentido, as organizações precisam de autonomia para definir quais dados podem ser acessados e o que podem fazer com eles, sem que as IAs consigam modificar ou contornar essas regras.
Propostas para proteção da IA
Além do “freio de emergência”, Nadella enumerou outras providências que, em sua visão, devem reger a tecnologia.
Ele pediu diversidade de modelos e verificabilidade, de modo que todos os sistemas sejam testados continuamente em busca de falhas e erros — não apenas em relação a tarefas bem-sucedidas.
“Nenhum modelo deve se tornar a única fonte de confiança para um resultado relevante nem ser responsável por verificar o próprio trabalho”, escreveu.
O CEO também defendeu que toda ação significativa das IAs deve deixar evidências que possam ser verificadas por humanos. “Se não puder ser observada, não é confiável!”
Ele ainda ressaltou a necessidade de verificações independentes e que todos os incidentes sejam divulgados, inclusive para notificar as pessoas e organizações afetadas.
Desaceleração da IA
O artigo divulgado por Satya Nadella surge depois que outros executivos do setor de tecnologia se manifestaram a favor de uma desaceleração no ritmo de desenvolvimento da IA.
O CEO da Anthropic, Dario Amodei, publicou um ensaio em meados de setembro defendendo essa ideia e alertando que, nesse ritmo, poderíamos perder o controle da IA.
Líderes de companhias rivais, como Sam Altman, da OpenAI, e Elon Musk, da xAI, defenderam a proposta.
Outros discordaram. Mark Zuckerberg, CEO da Meta, e Jensen Huang, CEO da Nvidia, acreditam que as medidas de segurança da inteligência artificial devem ser desenvolvidas pelas próprias empresas responsáveis.
Ambos estão alinhados com o presidente dos Estados Unidos, Donald Trump, que defende que o país permaneça na vanguarda da IA, sem freio, para fazer frente à China.
Trump também renomeou o termo “inteligência artificial” para “Superinteligência”, afirmando que o primeiro representava uma ideia “falsa” do que é a tecnologia.
Os documentos do governo dos EUA já utilizam “Superinteligência”, mas as desenvolvedoras do setor ainda não chegaram a um consenso sobre aderir. Altman, por exemplo, não endossou a ideia.
Já Nadella utilizou “Superinteligência” no artigo.
