O presidente-executivo da Microsoft, Satya Nadella, declarou recentemente que organizações que empregam modelos de inteligência artificial de grandes laboratórios podem estar compartilhando informações confidenciais sem plena consciência. Essa afirmação reavivou o debate acerca do controle de dados corporativos no contexto da evolução da IA.
Em uma postagem publicada no domingo (12) em seu blog pessoal, Nadella sustentou que as empresas pagam não só pelo acesso às ferramentas de IA, mas também pelos dados internos utilizados para refinar esses sistemas. Para ele, esse conhecimento pode se tornar um ativo estratégico para concorrentes.
A preocupação levantada pelo executivo surge em um momento de expansão do uso corporativo de modelos proprietários, como os desenvolvidos por OpenAI e Anthropic. O aviso aponta para uma potencial dependência tecnológica e para a urgência de mecanismos que assegurem a retenção da propriedade dos dados pelas empresas.
Empresas podem perder domínio sobre conhecimento estratégico ao utilizar IA, alerta Nadella
Conforme Nadella, o funcionamento atual de muitos sistemas de IA estabelece uma dinâmica na qual as empresas fornecem elementos cruciais de suas operações enquanto buscam respostas mais eficientes das ferramentas. O executivo destaca que prompts, ajustes realizados por usuários e correções feitas durante o uso podem expor detalhes sobre processos internos e práticas de negócios.
De acordo com o chefe da Microsoft, essas interações configuram um acúmulo de aprendizado institucional. Na visão dele, esse conhecimento seria difícil de ser obtido por concorrentes sem grande esforço, mas acaba sendo revelado no uso cotidiano dos modelos.
“Você essencialmente paga pela inteligência duas vezes, uma vez com dinheiro e novamente com algo ainda mais valioso: o conhecimento proprietário que precisa revelar para tornar essa inteligência útil”, afirmou Satya Nadella.
A discussão envolve majoritariamente os modelos fechados de IA, nos quais as empresas dependem da infraestrutura e das regras impostas pelos fornecedores. O receio de críticos desse formato é que os laboratórios responsáveis pelo desenvolvimento dessas tecnologias possam coletar informações de clientes e, futuramente, competir em setores onde esses mesmos clientes atuam.
Nadella também questionou a diferença de tratamento entre o treinamento de modelos de IA e as restrições impostas ao uso desses sistemas por terceiros. Para ele, se as empresas de IA usam grandes volumes de dados públicos para desenvolver seus produtos, deveriam existir condições análogas para que organizações possam estudar ou adaptar essas tecnologias. Esse processo, conhecido como “destilação”, consiste no uso das respostas produzidas por um modelo para desenvolver outro sistema, geralmente mais simples ou barato. O tema ganhou atenção após a Anthropic acusar modelos chineses de código aberto de enviarem milhões de solicitações ao Claude para obter informações capazes de melhorar seus próprios sistemas.
O executivo defendeu que as companhias mantenham a posse sobre seus dados, incluindo registros de interações, comandos enviados e avaliações feitas pelos usuários. Como alternativa, sugeriu a criação de ambientes próprios de aprendizado e estruturas capazes de integrar diferentes modelos de inteligência artificial.
A proposta também reforça uma tendência de adoção de modelos abertos instalados dentro das próprias empresas. De acordo com Idit Levine, fundadora e presidente-executiva da Solo.io, organizações que inicialmente testaram soluções proprietárias passaram a considerar modelos de código aberto executados internamente por oferecerem maior controle e custos reduzidos.
“Eles entendem isso, e conseguem controlar”, disse Idit Levine, fundadora e CEO da Solo.io, em entrevista ao TechCrunch.
A executiva afirmou que sua empresa observa esse movimento entre clientes corporativos, incluindo organizações como T-Mobile, ADP e SAP. A Solo.io, responsável por tecnologia selecionada para o projeto Agentgateway da Linux Foundation, atua no gerenciamento de redes e segurança para sistemas de IA.
Outras empresas do setor também identificaram crescimento no uso de modelos abertos. A Vercel, plataforma voltada à criação e hospedagem de sites que passou a oferecer ferramentas de alternância entre modelos de IA, e a OpenRouter, serviço de roteamento entre diferentes sistemas de inteligência artificial, registraram aumento na demanda por essas alternativas.
Dados apresentados no texto indicam que modelos abertos representaram 29% de todo o tráfego encaminhado pelo gateway da Vercel no mês anterior à publicação. O movimento reforça a expectativa de expansão dessa abordagem entre organizações que buscam reduzir dependência de fornecedores específicos.
A posição de Nadella chama atenção porque a Microsoft mantém investimentos em empresas de inteligência artificial como OpenAI e Anthropic. Mesmo com essa relação, o executivo defendeu que usuários corporativos preservem o domínio sobre o conhecimento criado durante o uso dessas ferramentas.
“Ao consumir inteligência, você está criando inteligência. E aquilo que você cria deve pertencer a você”, escreveu Satya Nadella, presidente-executivo da Microsoft, em sua manifestação sobre propriedade de dados e uso de IA.
