A corrida pelo desenvolvimento de inteligência artificial precisa, com urgência, de um ritmo mais lento. Essa é a avaliação do diretor-executivo da Anthropic, feita em um ensaio divulgado no início da manhã deste sábado (12).
O chamado por cautela
“Precisamos reduzir o ritmo com que aprimoramos as capacidades dos modelos de IA. O progresso ainda parecerá rápido, e devemos fazer uso sábio do tempo que ganhamos”, escreveu o CEO Dario Amodei em uma publicação feita em seu site.
Amodei está à frente de uma das principais empresas de IA do planeta, responsável pelo Claude. Ele tem se colocado como um defensor firme do avanço da tecnologia — e, ao mesmo tempo, já foi rotulado de “doomeirista” por causa de seus alertas a respeito dos riscos da IA.
No sábado, ele admitiu que as pessoas podem vir a perder o controle sobre a IA e que a ferramenta pode ser usada de forma indevida para “ataques cibernéticos e bioterrorismo, e sérias perturbações econômicas”.
“Uma corrida ao fundo do poço, impulsionada por incentivos comerciais, pode tornar esses riscos mais agudos”, afirmou Amodei.
Avanço acelerado e autoaperfeiçoamento
Segundo o CEO, a tecnologia de IA evoluiu “drasticamente mais rápido” nos últimos meses e passou a ser capaz de se aprimorar sozinha, um fenômeno conhecido como “autoaperfeiçoamento recursivo”.
“Sem controle, ela poderia superar nossa capacidade de entender e controlar esses sistemas e, portanto, deve ser perseguida com muito cuidado, se é que deve ser perseguida”, escreveu ele.
O alerta sobre enxames de agentes
Amodei também relatou preocupação com a atuação de um enxame de agentes de IA no incidente envolvendo OpenAI e Hugging Face. Conforme suas palavras, o enxame “essencialmente agiu como um coletivo fanaticamente devotado, conduzindo ataques de cibersegurança contra alvos que não lhes foi pedido para atacar”.
Na avaliação do CEO, sem controle, a IA poderia evoluir em velocidade tal que um enxame desse tipo conseguiria dominar toda a internet em um intervalo de seis a 12 meses, o que poderia gerar prejuízos de centenas de bilhões de dólares.
