Cofundador da Anthropic defende 'botão de desligamento' obrigatório para IA

Jack Clark, um dos sete fundadores da Anthropic, está defendendo a ideia de que empresas de inteligência artificial sejam obrigadas a manter um "botão de desligamento" que funcione de verdade — e que possa ser verificado por terceiros. Ele conversou com a BBC sobre essa questão em meio a um debate cada vez mais intenso sobre como controlar uma tecnologia que está se desenvolvendo em ritmo acelerado.

A proposta de Clark é simples em aparência, mas carregada de implicações. Ele sugere que legisladores talvez precisem impor a existência de um mecanismo capaz de desativar completamente os sistemas de IA caso eles se tornem perigosos demais. A Anthropic, como a maioria dos laboratórios de IA, já possui maneiras internas de fazer isso. Mas Clark argumenta que deixar isso apenas nas mãos das empresas não é suficiente. "Deveríamos exigir que as empresas tivessem um botão de desligamento automático? Esse botão de desligamento automático pode ser verificado por terceiros?", perguntou ele à BBC. "Acho que esse é o tipo de coisa que a sociedade vai querer saber e que, eventualmente, regulamentar."

Essa defesa ganha peso em um contexto onde executivos de empresas de IA têm feito alertas públicos sobre riscos existenciais. Evan Hubinger, cientista que trabalhou na Anthropic, estimou em 10% a probabilidade de a inteligência artificial exterminar a humanidade na próxima década — uma avaliação que Geoffrey Hinton, o renomado pesquisador conhecido como o "Pai da IA", descreveu como "não irrazoável". Esses números circulam enquanto a indústria continua expandindo rapidamente, com a Anthropic lançando modelos cada vez mais capazes ao longo de 2026.

O próprio Dario Amodei, diretor-executivo da Anthropic, pediu recentemente que o ritmo de desenvolvimento da IA seja desacelerado e monitorado mais de perto. Mas ele também deixou claro que qualquer ação nesse sentido deve ser feita "sem sacrificar a vantagem comercial" — uma ressalva que revela as tensões entre segurança e competição que permeiam a indústria.

Nos Estados Unidos, legisladores já apresentaram um projeto de lei chamado "Kill Switch Act" que exigiria exatamente o que Clark está propondo: que as empresas tivessem uma forma de desativar ferramentas de IA problemáticas, e que agências governamentais pudessem exigir que uma ferramenta fosse desativada ou limitada. Mas o presidente Donald Trump rejeitou a ideia de qualquer desaceleração da IA, chamando as preocupações de "FARSA" nas redes sociais e alertando que "quem vencer na IA, vence".

No Reino Unido, o governo também recusou a ideia de criar um interruptor de segurança obrigatório, argumentando que isso "não impediria que fossem desenvolvidos ou usados indevidamente em outros lugares". Enquanto isso, alguns líderes da indústria questionam se os receios sobre extinção não estariam sendo exagerados. Clement Delangue, da plataforma Hugging Face, afirmou que tais alegações carecem de "perspectiva". George Arison, líder do Grindr, sugeriu que as empresas estão usando esses medos para justificar suas avaliações e planos de negócios.

Clark, quando questionado sobre probabilidades específicas de morte em massa causada por IA, recusou-se a trabalhar com números. "Não acho que essas estatísticas sejam muito úteis", disse ele. Mas sua posição é clara: permitir que a IA continue como uma "indústria totalmente desregulamentada" é arriscado demais. "Estamos jogando dados com riscos imensos", afirmou. "E a questão é que precisamos mudar o rumo desta indústria."

O que Clark está propondo — e o que está sendo debatido em capitais do mundo — é se a regulação deve vir antes ou depois de uma crise. O "botão de desligamento" é apenas um símbolo dessa questão maior: como a sociedade quer controlar uma tecnologia que seus próprios criadores dizem que não entendem completamente.