O presidente da França, Emmanuel Macron, defendeu na segunda-feira, 9, que ferramentas de inteligência artificial sejam proibidas quando o uso representar riscos à saúde mental de crianças. A declaração ocorreu na véspera da adoção de uma carta de compromisso sobre o tema no Fórum de Paris para a Paz, documento que prevê medidas de proteção ao público infantil e mais controle sobre sistemas de IA generativa.
Em entrevista ao jornal francês Les Echos, Macron afirmou: “Se houver riscos para as crianças em determinados usos da IA, eles devem ser proibidos”. O presidente também disse que a tecnologia não pode ser tratada como um território sem regras. “O fato de ser IA não significa que deva ser o Velho Oeste”, declarou.
Proteção de menores e regulamentação da IA
A manifestação acontece enquanto o governo francês busca restringir o acesso de menores de 15 anos a certas redes sociais. De acordo com Macron, a inteligência artificial também precisa ser submetida a mecanismos de proteção, sobretudo quando puder ameaçar a saúde mental ou o desenvolvimento cerebral de crianças e adolescentes.
Um comitê de especialistas deve entregar ao presidente, nesta terça-feira, 10, recomendações para aumentar a segurança no uso da IA. O tema ainda é menos explorado pelas autoridades do que os efeitos das redes sociais. Dentro da iniciativa, laboratórios de pesquisa e empresas de tecnologia devem assumir compromissos como realizar avaliações independentes dos sistemas de IA generativa e disponibilizar dados de seus modelos.
Auditorias e compromissos do setor
A carta, que pretende contribuir para os debates legislativos na França e na União Europeia, reúne empresas como OpenAI e Anthropic. Macron afirmou que as companhias aceitarão o princípio de auditorias e certificações prévias, com análise dos modelos antes que sejam disponibilizados para crianças. O presidente também pretende incentivar Estados Unidos, Canadá e outros países a adotarem medidas semelhantes.
A proposta integra uma estratégia mais ampla para enfrentar três categorias de riscos ligados à inteligência artificial: a proteção de crianças, a segurança democrática e as ameaças à segurança nacional. Segundo Macron, a intenção é estabelecer os primeiros mecanismos de regulação de sistemas avançados de IA.
Na segunda-feira, o presidente francês também reuniu cerca de 50 chefes de Estado e de governo, representantes de organizações internacionais, pesquisadores e executivos do setor em uma videoconferência sobre os impactos da tecnologia na segurança coletiva. Participaram do encontro os primeiros-ministros do Reino Unido, Canadá, Noruega, Holanda e Japão, além dos presidentes-executivos da OpenAI, Anthropic, Mistral e Microsoft. “O diagnóstico é compartilhado. Precisamos agir juntos”, escreveu Macron na rede social X (antigo Twitter).
