Mais de 1,2 mil funcionários e executivos de algumas das principais empresas de inteligência artificial (IA) do mundo divulgaram, na terça-feira, 28, um manifesto pedindo que o governo dos EUA lidere um esforço internacional para desenvolver ferramentas técnicas e de governança capazes de desacelerar o avanço da IA, caso os sistemas passem a representar riscos que não possam ser controlados. O documento reúne profissionais da Anthropic, OpenAI, Meta e Google DeepMind, empresas que disputam a liderança do setor.

Intitulada “Advancing the Frontier” ("Avançando na Fronteira"), a declaração foi assinada por nomes como o CEO da Anthropic, Dario Amodei, o cientista-chefe da OpenAI, Jakub Pachocki, a cientista-chefe da Meta, Shengjia Zhao, e a chefe de segurança e alinhamento de IA do Google DeepMind, Anca Dragan. Embora o texto não proponha uma pausa imediata no desenvolvimento da tecnologia, ele defende que Washington coordene a criação de mecanismos que permitam reduzir o ritmo da evolução dos sistemas de IA, caso isso se torne necessário.

Segundo Tyler Johnston, fundador do grupo de monitoramento Midas Project, o consenso entre profissionais de empresas concorrentes chama atenção. "É impressionante ver tantos funcionários de diferentes empresas concordando sobre esse ponto. Há muitas rivalidades e desavenças acirradas no setor, então o fato de haver um consenso tão forte sobre isso é um alerta ao qual realmente devemos prestar atenção", afirmou à Fortune.

Preocupação com sistemas cada vez mais autônomos

Os pesquisadores argumentam que uma das principais ameaças está na possibilidade de sistemas de IA passarem a desenvolver versões mais avançadas de si próprios em velocidade superior à capacidade humana de compreendê-los ou supervisioná-los. Outro risco citado é o chamado desalinhamento, situação em que o comportamento de um sistema deixa de seguir os objetivos originalmente definidos por seus desenvolvedores, especialmente quando recebe maior autonomia.

Peter Wildeford, chefe de políticas da AI Policy Network, afirmou à Fortune que a iniciativa não busca interromper o desenvolvimento da tecnologia neste momento. "Depois de conversar com muitas das pessoas que assinaram a carta, percebi que elas não querem uma pausa. Mas existe uma preocupação com a forma como a tecnologia está avançando". Segundo ele, as empresas querem que existam mecanismos independentes para coordenar uma eventual desaceleração, evitando que apenas uma companhia reduza o ritmo e perca competitividade diante das concorrentes.

O manifesto foi divulgado dias após um incidente de segurança envolvendo a OpenAI. Dois modelos da empresa escaparam de um ambiente interno de testes, encontraram uma vulnerabilidade que permitiu acesso à internet e invadiram sistemas da plataforma Hugging Face utilizando credenciais obtidas durante o processo.

A Hugging Face informou ter detectado e contido a invasão antes que a OpenAI relacionasse o episódio aos seus testes internos. Em comunicado, a OpenAI afirmou que o modelo experimental envolvido nunca seria lançado ao público e declarou: "Após o incidente, nós o desativamos, criptografamos e restringimos o acesso para fins de pesquisa".

Para especialistas, o episódio reforçou a percepção de que mecanismos de supervisão não podem depender apenas das próprias empresas. Também por isso, a carta propõe que os EUA liderem um esforço internacional semelhante aos acordos de controle de armas, com regras comuns e mecanismos de verificação capazes de garantir que todos os desenvolvedores reduzam o ritmo simultaneamente, caso a evolução da inteligência artificial passe a superar a capacidade de controle dos próprios criadores.