A União Europeia estabeleceu novas regras para o uso da inteligência artificial na produção de conteúdo, e as empresas que deixarem de cumprir essas exigências poderão ser penalizadas com multas de valor elevado. Segundo um representante da UE, a IA generativa viabiliza a produção de desinformação em uma magnitude inédita, direcionada a públicos específicos e propagada com grande velocidade. O mesmo porta-voz destacou que, à medida que a inteligência artificial dificulta cada vez mais a distinção entre o real e o sintético, as diretrizes europeias buscam preservar a confiança dos cidadãos naquilo que veem, ouvem e leem.
Os chamados deepfakes estão no centro da preocupação da União Europeia. O termo se refere a textos, imagens, vídeos e áudios que aparentam ser autênticos, mas foram produzidos ou alterados por inteligência artificial, muitas vezes de forma indistinguível do conteúdo real. Esse tipo de material levanta questões que vão além da desinformação, já que também pode ser usado para golpes, fraudes de identidade e assédio, colocando em risco a segurança e a integridade das pessoas retratadas ou enganadas por esse conteúdo. Ao exigir identificação clara desse tipo de produção, a União Europeia busca reduzir também esse tipo de exposição, dando ao público mais ferramentas para reconhecer manipulações antes que causem dano.
As novas normas europeias vão incidir exclusivamente sobre materiais elaborados para finalidades profissionais. A União Europeia ressalta que pessoas que usam a inteligência artificial para fins estritamente pessoais não serão impactadas pelas exigências. Também será necessário rotular textos direcionados a informar o público sobre temas de interesse geral, desde que tenham sido criados com IA sem qualquer revisão editorial humana.
