A cidade francesa de Cannes acolheu no dia 14 de fevereiro uma mesa-redonda sobre a Metamorfose da democracia, como a inteligência artificial quebra a governança digital e redefine nossa política. O debate foi refletido em um artigo do EL PAÍS depois que Gianluca Misuraca, vice-presidente da Technology Diplomacy of Inspiring Futures, introduziu o tema da “hipnocracia”, as novas formas de manipulação refletidas em um livro assinado por Jianwei Xun. Mas esse filósofo de Hong Kong não existe, segundo revelou Sabina Minardi, editora-chefe da revista italiana L’Espresso. A teoria é produto do ensaísta e editor Andrea Colamedici, que assina como tradutor, mas que na verdade é coautor do livro junto a duas plataformas de inteligência artificial, sem que essa circunstância seja advertida em momento algum, como exige a lei da UE sobre IA. Ele justifica que se trata de um “experimento filosófico e uma performance artística”. O EL PAÍS decidiu eliminar o conteúdo do artigo publicado no dia 26 de março, no qual se fazia referência a conteúdos explícitos do trabalho atribuído ao suposto filósofo de Hong Kong, cuja existência foi provada como falsa.
A teoria foi coletada por numerosos meios e representantes de instituições acadêmicas, entre eles Cecilia Danesi, pesquisadora no Instituto de Estudos Europeus e Direitos Humanos (Universidade Pontifícia de Salamanca), que assistiu ao encontro de Cannes e aprofundou nos conceitos do livro Hipnocracia: Trump, Musk e a nova arquitetura da realidade (Ediciones Tlon).
Segundo Colamedici, a jornalista e seu meio faziam parte da “performance”. O diretor de L’Espresso, Emilio Carelli, em um artigo de opinião, se refere ao conflito criado: “Neste ponto, uma pergunta é obrigatória e surge espontaneamente: se as teses deste livro são corretas ou ao menos conseguiram suscitar um intenso debate cultural, que envolveu intelectuais e filósofos, incluindo acadêmicos do prestigiado Instituto HEC de Paris, que o citaram em alguns de seus artigos científicos, o que importa que tenham sido escritas por Inteligência Artificial? Ou, como neste caso, foram co-criadas com IA? Poderia esse modelo abrir caminho para uma nova maneira de fazer filosofia? Se assim for, o exitoso experimento de Hipnocracia nos ensina algo importante: que também podemos ter uma relação ativa com a IA e, acima de tudo, podemos utilizá-la para aprender a pensar.”
Andrea Colamedici, 24 horas depois da publicação da primeira versão deste artigo, respondeu às perguntas do EL PAÍS: “A intenção de Hipnocracia foi criar um experimento filosófico e uma performance artística com a qual destacar os riscos e perigos de usar a inteligência artificial construindo um livro que dissesse coisas nas quais eu mesmo acredito e que produzi. Não queria enganar o leitor, o propósito era acadêmico, destacar mecanismos perigosos de uso da inteligência artificial por parte das grandes tecnologias mediante um uso imprudente desta e, em contrapartida, convidar ao seu uso consciente. Queria deixar claro não apenas os perigos, mas também mostrar a prática das teses que ele encarnava, por isso é um livro que simultaneamente explica uma teoria e a encarna ao mesmo tempo.”
O Regulamento Europeu sobre Inteligência Artificial, acordado pelas instituições comunitárias no dia 8 de dezembro de 2023 e aprovado pelo Parlamento Europeu no dia 13 de março do ano passado, considera infração grave não cumprir com a etiquetagem de textos, vídeos ou áudios gerados com IA, algo que a obra publicada por Colamedici em sua editora não inclui em momento algum nas versões em italiano e inglês.
Colamedici argumenta: “Deixei uma série de pistas para o leitor dentro e fora do livro. Por exemplo, o capítulo um relata o experimento de Berlim, que é exatamente a descrição do que é Hipnocracia. Nesse capítulo narra-se a experiência de um grupo de eruditos de uma universidade que inventa um autor que escreve um livro falso que é amado, comentado e discutido pelo ambiente cultural.”
Em espanhol, o livro está publicado na Editora Rosameron, onde a obra é apresentada como “um mapa essencial para compreender como opera o poder na era da percepção manipulada”. O fundador da Rosameron, Francisco Martínez Soria, advertiu que o livro em espanhol incluirá uma explicação de como e por que a obra foi criada, assim como a identidade mista atrás do nome que figura como autor.
A página de Jianwei Xun na internet foi modificada para incluir a seguinte referência em que, agora sim, revela sua identidade: “Surgiu no final de 2024 como uma entidade filosófica distribuída nascida da interação colaborativa entre a inteligência humana e os sistemas de inteligência artificial”. Mas a mesma publicação admite que foi “apresentado inicialmente ao mundo como um filósofo nascido em Hong Kong e radicado em Berlim”. Mesmo mantém os dados de contato para solicitar entrevistas ou “aparições em eventos” e uma publicação científica no portal Academia.edu.
“Fiz isso porque a intenção era tornar tudo mais efetivo e não apenas fazer uma teoria, mas criar um livro que fosse teoria e prática, que fosse uma oportunidade para que as pessoas vivessem mais intensamente o que estavam lendo”, justifica o editor italiano.
E acrescenta: “É importante deixar claro ao leitor que todos estamos perpetuamente hipnotizados; eu fiz isso inventando uma história, mas era uma história que desde o princípio tinha o propósito de ser revelada, nunca se considerou a ideia de ocultar tudo isso. Mas se eu tivesse revelado imediatamente, não poderia ter desempenhado o papel de mostrar de maneira prática, e não apenas no papel, não apenas teoricamente, qual é o significado profundo do conceito de hipnocracia.”
O autor nega que, após a publicação assinada por um autor fictício, isso não responde a uma estratégia comercial: “Se tivesse sido chamado [o autor] Andrea Colamedici, teria vendido mais do que foi vendido, mas isso teria feito você pensar menos.”
E conclui: “Hipnocracia não é escrito pela inteligência artificial. É escrito através de um uso específico da inteligência artificial que tem a ver com a construção de um sistema que coloque em diálogo as inteligências artificiais entre si.”
