A primeira prisão relacionada à inteligência artificial foi realizada na China. Um homem na província de Gansu foi detido por usar o ChatGPT para gerar uma história falsa sobre um acidente de trem que alegava ter matado nove trabalhadores da construção civil em uma cidade no noroeste de Gansu. A história foi publicada nas redes sociais em 25 de abril e ganhou mais de 15 mil cliques antes de ser identificada como falsa pelo departamento de polícia local da cidade de Pingliang.
As autoridades chinesas têm intensificado o combate à tecnologia deepfake e novas regras foram estabelecidas para provedores e usuários de serviços que proíbem o uso dessa tecnologia para produzir e disseminar informações falsas. A legislação, em vigor desde 10 de janeiro, tem como objetivo restringir o uso de tecnologia de inteligência artificial generativa para alterar o conteúdo online.
Segundo o comunicado da polícia, um total de 25 contas da plataforma Baijiahao, uma plataforma estilo blog de propriedade da gigante de tecnologia chinesa Baidu, relataram o “acidente” com endereços IP de diferentes locais. Após rastrear todas as contas, a polícia identificou e prendeu o suspeito, de sobrenome Hong, por forjar informações falsas. Ele supostamente editou as notícias geradas pelo ChatGPT e as carregou na plataforma de propriedade do Baidu. As investigações continuam em andamento.
