O serviço de inteligência da China emitiu um alerta sobre o risco que a inteligência artificial (IA) pode representar para a segurança política e social do país, o que revela uma preocupação cada vez maior em Pequim de que o avanço veloz da tecnologia seja usado contra os interesses chineses.
Em sua primeira manifestação pública a respeito da inteligência artificial, o Ministério da Segurança do Estado detalhou, no domingo (13), as ameaças trazidas pela tecnologia, entre elas os perigos para as defesas cibernéticas do país, para dados sensíveis e para o aparato militar.
Ameaças à segurança política e ideológica
“Forças hostis e pessoas com segundas intenções vêm abusando de tecnologias de IA generativa, como áudios e vídeos deepfake, textos e imagens produzidos por IA e ‘exércitos inteligentes de trolls’, para fabricar rumores políticos, disseminar informações nocivas e incitar sentimentos de divisão de forma barata e em grande escala”, declarou Chen Yixin, ministro da Segurança do Estado.
“Essas atividades constituem um ataque à opinião pública e uma guerra cognitiva contra a China, ameaçando diretamente nossa segurança política, institucional e ideológica”, completou.
Mudança no tom do debate público
A declaração representa uma ampliação considerável da discussão pública de Pequim sobre a segurança da inteligência artificial. Em geral, o tema é conduzido pelo principal órgão regulador do setor, a Administração do Ciberespaço da China, e gira em torno de questões regulatórias e técnicas.
A manifestação ocorre no momento em que líderes de empresas de tecnologia dos Estados Unidos demonstram apreensão com a velocidade do desenvolvimento de sistemas avançados de IA, depois de alertas cada vez mais contundentes de pesquisadores sobre a possibilidade de consequências catastróficas, incluindo um evento de extinção.
A declaração do Ministério da Segurança do Estado, no entanto, não alertou que a IA poderia levar à extinção da humanidade nem pediu que empresas chinesas diminuíssem o ritmo de seus trabalhos na área.
Pressão no setor de tecnologia
No fim de semana, Dario Amodei, presidente-executivo da Anthropic, publicou um texto no qual pediu que o setor de tecnologia “desacelere o ritmo com que aprimoramos as capacidades dos modelos de IA”. Sam Altman e Elon Musk também divulgaram declarações em apoio à proposta.
O Global Times, tabloide nacionalista ligado ao Partido Comunista da China, criticou na segunda-feira (14) a sugestão apresentada por Amodei de que uma “liderança chinesa em IA representaria um grave perigo para os Estados Unidos e para o mundo”.
A afirmação de Amodei “corre o risco de transformar a segurança da IA em uma questão geopolítica de soma zero, em vez de abordar um desafio global que exige cooperação entre as principais potências de IA”, afirmou o jornal, acrescentando que a motivação de Amodei seria de “interesses comerciais”.
Vulnerabilidades cibernéticas e diálogo com Washington
Diversos funcionários de órgãos reguladores, diplomatas e acadêmicos que trabalham com políticas de tecnologia e governança de IA afirmam que Pequim está cada vez mais inquieta com suas vulnerabilidades cibernéticas, diante dos avanços alcançados pela Anthropic e pela OpenAI, cujos novos modelos demonstraram capacidades avançadas de invasão de sistemas.
Autoridades chinesas também manifestaram preocupações sobre a segurança da inteligência artificial em conversas recentes com autoridades e empresas dos Estados Unidos, segundo diplomatas e acadêmicos.
Nesses diálogos, as autoridades chinesas alertaram contra qualquer iniciativa de Washington para proibir modelos chineses de código aberto.
O presidente dos Estados Unidos, Donald Trump, e o presidente chinês, Xi Jinping, devem se encontrar ainda neste mês nos EUA, onde a segurança da inteligência artificial deve figurar entre os principais temas da agenda da cúpula.
Risco de vazamento de informações sensíveis
Na declaração de domingo (13), Chen também ressaltou o risco de empresas chinesas vazarem “informações sensíveis” ao utilizar ferramentas estrangeiras de inteligência artificial.
O alerta pode antecipar restrições mais rígidas ao uso de modelos estrangeiros de IA em setores considerados sensíveis.
Empresas estatais chinesas e companhias que atuam em áreas como finanças e saúde já enfrentam restrições ao uso de tecnologias estrangeiras, embora a aplicação dessas regras varie.
