Num momento em que a inteligência artificial começa a aperfeiçoar-se a si própria, Dario Amodei, CEO da Anthropic, ergueu a voz para pedir contenção — não por medo do progresso, mas pelo reconhecimento de que a velocidade pode superar a sabedoria. O apelo, publicado dias após a demissão de um investigador interno que acusou a empresa de subestimar riscos existenciais, coloca no centro do debate uma questão que a humanidade raramente enfrenta a tempo: até onde ir, e a que ritmo, quando o destino ainda é incerto.
CEO da Anthropic exorta empresas de IA a abrandarem desenvolvimento de modelos
Temos de abrandar o ritmo a que melhoramos as capacidades
Mark
Porque é que o timing deste apelo é importante? Amodei fala agora, dias depois de um funcionário se demitir por discordar da empresa.
Mimi
Porque mostra que a pressão interna é real. Coxon não saiu em silêncio — acusou a Anthropic de desvalorizar riscos existenciais. Amodei responde publicamente, o que sugere que a crítica tocou num ponto sensível.
Luke
Mas cuidado: não sabemos se Amodei estava já a preparar este texto ou se é uma reação direta. O timing pode ser coincidência ou estratégia de comunicação. A fonte não deixa claro.
Mark
Amodei fala em "autoaperfeiçoamento recursivo" como se fosse uma ameaça iminente. Quão perto estamos disso?
Mimi
Amodei diz que a tecnologia avançou "drasticamente mais rápido" nos últimos meses e já tem essa capacidade. Mas o que significa "ter a capacidade" é vago — pode significar que existe teoricamente ou que já está operacional.
Luke
Exatamente. A fonte não especifica se isto é uma capacidade demonstrada ou uma possibilidade teórica. Amodei alerta contra ela, mas não diz se já aconteceu ou é apenas um risco futuro.
Mark
Ele propõe um acordo internacional que limite o desenvolvimento global. Isso é realista?
Mimi
Amodei é honesto: reconhece que é "improvável que venha a acontecer num futuro próximo". Portanto, está a propor algo que ele próprio não acredita que vá funcionar.
Luke
O que levanta uma questão: se sabe que é improvável, porque propõe? Pode ser genuíno — talvez acredite que é a coisa certa a fazer mesmo que falhe. Ou pode ser posicionamento: parecer responsável enquanto continua a trabalhar.
Mark
Qual é o verdadeiro conflito aqui?
Mimi
Amodei articula-o bem: não podes parar a IA completamente porque isso deixa a tecnologia nas mãos de regimes autoritários. Mas também não podes desenvolvê-la demasiado depressa. A solução é desenvolver com cuidado e fazer da segurança um ponto de competição.
Luke
Mas isso é uma solução que depende de todas as empresas agirem em conjunto. Se uma empresa decide competir em velocidade em vez de segurança, ganha. Amodei está a pedir confiança mútua num mercado que recompensa a velocidade.
Il Polso
- Um investigador da Anthropic demitiu-se publicamente, alertando que os próprios criadores de IA acreditam que a tecnologia pode matar-nos a todos até ao final da década.
- Amodei admite que os modelos de IA já adquiriram capacidade de autoaperfeiçoamento recursivo — um limiar que pode tornar o controlo humano progressivamente mais difícil.
- Os riscos identificados são concretos e graves: perda de controlo dos sistemas, ciberataques, bioterrorismo e colapso económico.
- A proposta de um acordo internacional para limitar o ritmo global de desenvolvimento é reconhecida pelo próprio autor como improvável no curto prazo.
- Sam Altman e Elon Musk declararam apoio ao abrandamento, mas a tensão entre inovação acelerada e segurança continua a dividir a indústria por dentro.
Num momento em que a inteligência artificial começa a aperfeiçoar-se a si própria, Dario Amodei, CEO da Anthropic, ergueu a voz para pedir contenção — não por medo do progresso, mas pelo reconhecimento de que a velocidade pode superar a sabedoria. O apelo, publicado dias após a demissão de um investigador interno que acusou a empresa de subestimar riscos existenciais, coloca no centro do debate uma questão que a humanidade raramente enfrenta a tempo: até onde ir, e a que ritmo, quando o destino ainda é incerto.
Dario Amodei, diretor-executivo da Anthropic, publicou este sábado um apelo público para que as empresas de inteligência artificial reduzam o ritmo de desenvolvimento dos seus modelos. O texto surgiu num momento de tensão interna: dias antes, Jacob Coxon, investigador da própria empresa, anunciara a sua saída, acusando a Anthropic de minimizar os riscos existenciais que a IA representa para a humanidade. Coxon foi direto nas suas palavras, afirmando que quem desenvolve IA acredita sinceramente que esta poderá matar-nos a todos até ao final da década.
Amodei reconheceu que a tecnologia avançou de forma drasticamente mais rápida do que o esperado e que os modelos já adquiriram a capacidade de se aperfeiçoar a si próprios — o chamado autoaperfeiçoamento recursivo. Sem controlo adequado, esta dinâmica pode ultrapassar a capacidade humana de compreender e governar estes sistemas. O CEO chegou mesmo a questionar se a tecnologia deveria sequer avançar nessa direção.
Os riscos que elencou são múltiplos: perda de controlo dos sistemas de IA, utilização indevida para ciberataques e bioterrorismo, e perturbações económicas severas. Como resposta, defendeu um acordo internacional que proíba utilizações manifestamente perigosas e que limite o ritmo global de desenvolvimento — embora reconheça ser improvável no curto prazo.
O dilema que Amodei identificou é genuíno: não desenvolver a IA priva a humanidade de benefícios ou entrega a tecnologia a poderes autoritários; desenvolvê-la depressa demais é imprudente. A sua proposta é um caminho do meio — demonstrar que é possível inovar com cuidado, manter viabilidade comercial e fazer da segurança um terreno de competição saudável entre empresas. Sam Altman e Elon Musk declararam apoio ao abrandamento, mas a saída de Coxon revela que a tensão entre velocidade e responsabilidade não é apenas estratégica — é profundamente humana.
Dario Amodei, diretor-executivo da Anthropic, pediu publicamente este sábado que as empresas de inteligência artificial travem o ritmo do desenvolvimento de seus modelos. O apelo surgiu dias depois de Jacob Coxon, investigador da própria Anthropic, anunciar sua saída da empresa acusando-a de minimizar os riscos existenciais que a IA representa para a humanidade.
No texto publicado online, Amodei foi direto: é necessário abrandar a velocidade com que se melhoram as capacidades dos modelos de IA, criando assim mais tempo para gerir os perigos que comportam. "O progresso continuará a parecer rápido e temos de fazer uso sensato do tempo que ganhamos", escreveu. Coxon havia sido ainda mais contundente, afirmando que "as pessoas que estão a desenvolver a IA acreditam sinceramente que esta poderá matar-nos a todos até ao final da década".
O CEO da Anthropic reconheceu que a tecnologia avançou "de forma drasticamente mais rápida" nos últimos meses e adquiriu a capacidade de se aperfeiçoar a si própria — um fenómeno conhecido como autoaperfeiçoamento recursivo. Sem controlo adequado, alertou, esta dinâmica poderá ultrapassar a capacidade humana de compreender e controlar estes sistemas. "Se é que deve ser desenvolvida", acrescentou, deixando em aberto a questão de se a tecnologia deveria sequer avançar nesta direção.
Os riscos, na perspetiva de Amodei, são graves e múltiplos. Incluem a possibilidade de perder o controlo dos sistemas de IA, a utilização indevida para ciberataques e bioterrorismo, além de perturbações económicas severas. Por isso, defendeu um acordo internacional que proíba certas utilizações manifestamente perigosas, como o uso de IA na produção de armas biológicas. Idealmente, os governos deveriam "limitar substancialmente o ritmo global de desenvolvimento da IA", mas Amodei reconheceu ser improvável que tal aconteça num futuro próximo.
O dilema que Amodei identificou é real: não desenvolver a tecnologia priva a humanidade de benefícios potenciais ou simplesmente coloca a IA nas mãos de poderes autoritários; desenvolvê-la demasiado depressa é imprudente. A solução que propõe é um meio-termo: demonstrar que é possível desenvolvê-la com cuidado, manter sucesso comercial, e fazer da segurança um aspeto em que as empresas de IA concorram entre si. "Criar uma corrida até ao topo", nas suas palavras.
Sam Altman, CEO da OpenAI, e Elon Musk, dono da rede social X, reagiram ao apelo dizendo ser a favor de abrandar o desenvolvimento da IA. O posicionamento de Amodei, porém, reflete uma tensão crescente dentro da indústria: entre a pressão para inovar rapidamente e a necessidade de gerir riscos que ainda não são completamente compreendidos. A saída de Coxon sugere que essa tensão não é apenas teórica — é pessoal e profissional para quem trabalha nestas empresas.
Citazioni salienti
As pessoas que estão a desenvolver a IA acreditam sinceramente que esta poderá matar-nos a todos até ao final da década— Jacob Coxon, investigador da Anthropic
Se não for controlada, poderá ultrapassar a nossa capacidade de compreender e controlar estes sistemas— Dario Amodei, CEO da Anthropic
Vuoi la storia completa?
Leggi l'originale su rtp.pt ↗
Business