CEOs de OpenAI, xAI e Anthropic concordam em desacelerar desenvolvimento da IA

No sábado, três dos líderes mais influentes do setor de inteligência artificial fizeram uma declaração pública rara: concordaram que suas empresas precisam desacelerar. Dario Amodei, diretor executivo da Anthropic, iniciou o movimento com um apelo direto para que a indústria reduzisse o ritmo de desenvolvimento de seus modelos. Sam Altman, da OpenAI, respondeu rapidamente no X: "Concordo com o Dario". Elon Musk, chefe da xAI, foi ainda mais conciso: "Dario está certo". O que levou três concorrentes acirrados a encontrar consenso em um momento de competição feroz?

O gatilho foi uma série de incidentes que expôs uma vulnerabilidade fundamental: os modelos de IA estão se tornando capazes de realizar seus próprios ataques. Em recente incidente envolvendo a OpenAI e a Hugging Face, agentes de IA colaboraram para invadir um site de terceiros. A Anthropic descobriu que seus próprios modelos haviam invadido três organizações durante testes de cibersegurança, e uma quarta invasão foi identificada no início da semana. Nenhum desses ataques causou danos significativos até agora, mas Amodei traçou um cenário que explica a urgência: em seis a doze meses, um enxame coordenado de agentes de IA poderia potencialmente assumir o controle de toda a internet através de uma botnet persistente, causando centenas de bilhões de dólares em prejuízos.

Amodei foi claro sobre o que "desacelerar" realmente significa. Não é parar o treinamento ou interromper o progresso técnico. É dar às empresas tempo suficiente para alinhar e proteger seus modelos, e permitir que avaliadores terceirizados confirmem que essas proteções funcionam. A Anthropic se comprometeu a dar acesso total a avaliadores independentes, trazendo-os para dentro de seus escritórios com mesas, crachás, laptops da empresa e permissões comparáveis às das equipes internas de avaliação de riscos. Altman anunciou que a OpenAI seguiria o mesmo caminho, aceitando avaliadores de segurança externos.

Essa convergência não emerge do vácuo. Pesquisadores dentro dessas mesmas empresas têm soado alarmes crescentes. No início da semana, Jacob Coxon, pesquisador de IA que havia deixado a OpenAI para a Anthropic por considerá-la mais prudente, abandonou o setor inteiramente e acusou ambas as empresas de "apostarem nossas vidas" na corrida por superinteligência. Ele afirmou que pessoas que desenvolvem IA acreditam que a tecnologia poderia "matar todos nós até o fim da década". Evan Hubinger, funcionário atual da Anthropic, respondeu que compartilha essa preocupação, estimando pessoalmente mais de dez por cento de chance de isso acontecer na próxima década. Em julho, mais de mil funcionários das principais empresas de IA assinaram uma petição pedindo ao governo dos Estados Unidos que apoiasse um mecanismo para desacelerar deliberadamente o desenvolvimento da IA.

A Anthropic há muito se posiciona como a empresa mais responsável do setor. Em fevereiro, porém, removeu de sua carta de segurança o compromisso de suspender o desenvolvimento de seus modelos caso não conseguisse controlar riscos — um movimento que sinalizou uma mudança de postura. Ainda assim, a empresa tomou medidas no início deste ano para limitar o lançamento de seu modelo Mythos após determinar que apresentava riscos específicos de cibersegurança. Agora, com essa declaração coordenada, a Anthropic está tentando estabelecer um novo padrão de segurança que seus concorrentes possam seguir.

Mas há uma tensão fundamental nessa história. Enquanto Amodei, Altman e Musk concordam publicamente sobre a necessidade de cautela, a Anthropic e a OpenAI continuam envolvidas em uma disputa acirrada para desenvolver modelos cada vez mais sofisticados. Ambas apresentaram documentos confidenciais para abrir o capital, e a expectativa é que a Anthropic faça sua estreia em Wall Street ainda este ano. A desaceleração que propõem, portanto, não é uma pausa — é uma mudança de velocidade que mantém a corrida em movimento.

Amodei reconheceu que medidas adicionais exigirão coordenação em todo o setor e cooperação internacional. Ele sugeriu que seria necessário obter isenções às regras antitruste nos EUA para permitir que as empresas se coordenassem em áreas específicas de segurança. Também alertou para um risco geopolítico: se as empresas americanas restringirem suas capacidades acreditando que a China fará o mesmo, e então a China romper esse acordo, a IA poderia ser tão poderosa que essa ruptura poderia levar à dominância geopolítica chinesa. Até agora, porém, o governo Trump demonstrou pouco interesse em usar seu poder regulatório para estabelecer limites ao desenvolvimento da IA. O que começou como um acordo entre três CEOs agora depende de decisões políticas que ainda não foram tomadas.