Pesquisadores das maiores empresas de IA pedem mecanismos para desacelerar avanços da tecnologia
A corrida pelo desenvolvimento da inteligência artificial ganhou um novo capítulo com a divulgação de uma carta aberta assinada por 1.238 funcionários de empresas que lideram a pesquisa em IA. O documento pede que o governo dos Estados Unidos apoie um esforço internacional para criar mecanismos técnicos e de governança capazes de desacelerar o avanço da tecnologia caso os riscos passem a superar a capacidade de controle.
Entre os signatários estão pesquisadores e executivos de OpenAI, Anthropic, Google DeepMind, Meta, Thinking Machines e outras organizações que trabalham na fronteira do desenvolvimento de modelos de IA. Diferentemente de manifestações anteriores, a carta não defende uma pausa imediata no progresso da tecnologia, mas a criação de ferramentas que permitam reduzir deliberadamente o ritmo dos avanços quando isso se mostrar necessário.
O que motivou a carta
O texto parte da avaliação de que as principais empresas do setor estão próximas de automatizar parte da própria pesquisa em inteligência artificial. Caso sistemas de IA passem a desenvolver versões cada vez mais avançadas de outros sistemas, o ritmo da evolução tecnológica poderá acelerar rapidamente.
Os autores afirmam que esse cenário pode fazer com que o desenvolvimento das capacidades dos modelos avance além da capacidade humana de compreendê-los, avaliá-los ou controlá-los adequadamente.
Segundo a declaração, a forte competição entre empresas e países dificulta que qualquer organização desacelere seus projetos de forma unilateral, tornando necessária uma coordenação internacional.
Proposta é criar um "freio" para a IA
Em vez de defender uma interrupção no desenvolvimento da inteligência artificial, os signatários propõem a criação de mecanismos técnicos e regulatórios que ofereçam aos governos e aos próprios laboratórios a opção de reduzir temporariamente o ritmo da evolução dos sistemas mais avançados.
A iniciativa amplia discussões já existentes sobre monitoramento de modelos de fronteira e busca desenvolver instrumentos que permitam administrar períodos de aceleração intensa da pesquisa em IA.
Apoio de líderes das principais empresas
A lista reúne alguns dos nomes mais influentes da pesquisa em inteligência artificial, incluindo:
- John Schulman, cientista-chefe da Thinking Machines;
- Jakub Pachocki, cientista-chefe da OpenAI;
- Dario Amodei, CEO da Anthropic;
- Jared Kaplan, cofundador e diretor científico da Anthropic;
- Shane Legg, cofundador e cientista-chefe de AGI do Google DeepMind;
- Mark Chen, diretor de pesquisa da OpenAI;
- Chris Olah, cofundador da Anthropic;
- Shengjia Zhao, cientista-chefe da Meta AI;
- Jack Clark, cofundador da Anthropic;
- Anca Dragan, vice-presidente de AI Safety & Alignment do Google.
Além da assinatura institucional de diversos pesquisadores, vários participantes publicaram comentários pessoais destacando a velocidade inesperada dos avanços recentes da IA, os riscos associados à automação da pesquisa e a necessidade de fortalecer mecanismos internacionais de coordenação antes que modelos cada vez mais capazes acelerem ainda mais seu próprio desenvolvimento.
Empresas também demonstraram apoio
Após a publicação da carta, OpenAI e Anthropic manifestaram apoio ao documento nas redes sociais.
A OpenAI declarou que acredita que, no futuro, o mundo precisará ser capaz de controlar o ritmo do avanço da inteligência artificial. Já a Anthropic também endossou publicamente a iniciativa.
A carta representa uma mudança importante no debate sobre segurança em inteligência artificial. Nos últimos anos, pedidos por maior cautela partiram principalmente de acadêmicos, organizações independentes e ex-funcionários das empresas do setor.
Agora, o movimento ganha força entre profissionais que atuam diretamente nos principais laboratórios responsáveis pelo desenvolvimento dos modelos mais avançados do mundo. O documento não propõe interromper a evolução da IA, mas reforça a necessidade de criar mecanismos de coordenação internacional antes que a automação da própria pesquisa acelere o progresso tecnológico em um ritmo difícil de acompanhar por governos, empresas e pela sociedade.