O Painel Científico Internacional Independente sobre Inteligência Artificial da ONU divulgou oficialmente seu Relatório Preliminar, que oferece a primeira avaliação científica global e independente sobre as oportunidades, riscos e impactos da IA. Esse trabalho inicial do Painel estabelece uma base essencial de evidências para orientar políticas globais antes da publicação do primeiro relatório abrangente, aguardado para 2027.
Esse esforço conjunto para formar um entendimento compartilhado sobre a inteligência artificial surge num momento decisivo. Governos ao redor do mundo estão tomando decisões de grande relevância sobre IA sob forte incerteza, lidando com fontes de evidência que se alteram rapidamente e frequentemente entram em conflito, além de perspectivas que nem sempre refletem realidades locais. À medida que as capacidades da IA continuam a crescer, os riscos associados às escolhas feitas globalmente também aumentam. Esse é o desafio central que o Painel se propõe a enfrentar.
O Relatório Preliminar foi produzido pelo Painel Científico Internacional Independente sobre IA, formado por 40 cientistas e especialistas de renome. Provenientes de todas as regiões do mundo, seus membros atuam exclusivamente a título pessoal, de forma autônoma em relação a qualquer governo, empresa ou instituição. O Brasil está representado pela professora Teresa Ludermir, da Universidade Federal de Pernambuco (UFPE).
As conclusões do documento serão apresentadas aos governos durante o primeiro Diálogo Global da ONU sobre Governança de IA, marcado para os dias 6 e 7 de julho em Genebra.
No Relatório Preliminar, o Painel organiza suas descobertas em sete áreas principais:
- Ciência, avanços e trajetórias da IA
- Aplicações sociais: ciência, saúde, educação e agricultura
- Implicações econômicas
- Segurança, sistemas e implicações ambientais
- Direitos humanos, informação e democracia
- Crescimento cultural e individual, autonomia e segurança infantil
- Gestão, governança e confiabilidade
O Painel destaca um obstáculo fundamental para tomadores de decisão em todo o planeta: os formuladores de políticas necessitam de dados científicos para regular a IA de maneira eficaz, mas quando as evidências se tornam claras, pode ser tarde demais para intervir. A distribuição equitativa dos benefícios da IA dependerá das escolhas informadas que as nações fizerem coletivamente e da base científica comum que as norteará – exatamente o alicerce que o trabalho do Painel foi desenhado para oferecer.
“As capacidades da IA estão ultrapassando tanto o entendimento científico quanto a capacidade de adaptação dos governos. Com indícios crescentes de comportamentos enganosos da IA, a ciência atualmente não pode garantir que, à medida que essas capacidades continuam a se expandir, a IA não provocará danos catastróficos, seja por iniciativa própria ou devido a usuários mal-intencionados. Para agir de forma eficaz, os formuladores de políticas globais precisam compreender esses sistemas. Este Painel oferece exatamente isso: uma base científica sólida e compartilhada para guiar nosso caminho coletivo adiante.” – Yoshua Bengio, copresidente do Painel Científico Internacional Independente sobre Inteligência Artificial.
“A tecnologia é transformadora, mas se o mundo continuar nessa trajetória, a humanidade não conseguirá usufruir dos benefícios que ela promete. Os riscos – para as sociedades, para a segurança e para a nossa espécie – são elevados demais, e as forças que impulsionam a IA para frente não são as mesmas que trarão suas vantagens.” – Maria Ressa, copresidente do Painel Científico Internacional Independente sobre Inteligência Artificial.
“O mundo não pode governar o que não consegue compreender. O relatório do Painel fornece dados científicos independentes, vindos de todas as regiões e disponíveis para todos os governos. Sua mensagem é clara: o potencial é imenso, mas os riscos são reais, e o custo da espera está aumentando. Exorto todos os líderes a usarem essas evidências compartilhadas para agirem juntos e sem demora.” – António Guterres, secretário-geral das Nações Unidas
“A IA, por si só, não vai fechar as lacunas. Os benefícios chegam onde já existem instituições, competências e dados. Onde isso não ocorre, a mesma tecnologia pode substituir trabalhadores, aumentar a desigualdade e deixar comunidades dependentes de sistemas criados sem levá-las em consideração. Este relatório traduz isso, pela primeira vez, em uma linguagem científica comum. Essas realidades agora estão registradas, foram verificadas de forma independente e são impossíveis de serem ignoradas.” – Amandeep Singh Gill, subsecretário-geral e enviado especial para Tecnologias Digitais e Emergentes
O Relatório Preliminar do Painel Científico Internacional Independente sobre IA: Avaliação baseada em evidências das oportunidades, riscos e impactos da IA é o primeiro fruto de um órgão científico criado para acompanhar a evolução da tecnologia. O Painel publicará avaliações periódicas e resumos temáticos conforme a IA evolui, com o objetivo de oferecer a formuladores de políticas e ao público análises atualizadas dos dados científicos.
