Avalanche de provas da OpenAI assusta matemáticos e especialistas em criptografia

Pontos cegos em segurança digital costumam custar caro
O risco de avanços matemáticos acelerados por IA não é imediato, mas pode exigir mudanças urgentes nos sistemas de proteção da internet.
Mark

Por que os matemáticos estão tão bravos se a OpenAI está publicando resultados? Não é bom ter mais descobertas?

Mimi

É mais complicado. A questão não é ter descobertas, é como elas chegam. Quando uma empresa publica centenas de resultados de uma vez, sem transparência sobre como foram gerados, a comunidade científica fica em posição defensiva — tem que verificar tudo, replicar tudo, em vez de escolher seus próprios caminhos.

Luke

Mas espera — a OpenAI disse que usou Lean para verificar a lógica. Isso não é uma forma de validação?

Mimi

Parcialmente. Lean pode checar se a lógica de uma prova está correta, mas não pode dizer se a prova é realmente nova, se resolve o que diz resolver, ou se tem valor científico genuíno. E a OpenAI já retirou três artigos e revisou quatorze outros. Isso sugere que nem tudo estava certo.

Mark

Entendi. Mas por que os criptógrafos estão assustados? Qual é a conexão?

Mimi

Se a IA descobrir novos atalhos matemáticos — novas formas de resolver problemas que hoje são computacionalmente impossíveis — alguns dos cadeados que protegem WhatsApp, bancos e criptomoedas podem ficar frágeis. Não é que a internet quebra amanhã, mas é que você teria que trocar todas as fechaduras com urgência.

Luke

Mas ninguém sabe se esses resultados realmente fazem isso, certo? Pode ser que nenhum deles tenha impacto na criptografia.

Mimi

Exatamente. É por isso que o risco é tão incômodo — não é confirmado, mas também não pode ser ignorado. E enquanto a comunidade tenta entender o que a OpenAI publicou, não sabe se está olhando para uma revolução ou para um monte de resultados que já existiam.

Mark

Então o problema é a falta de transparência?

Mimi

É parte dele. O outro problema é o modelo de publicação em massa. Empurra a ciência para uma posição reativa, onde você está sempre apagando incêndios em vez de fazer pesquisa de verdade.

Luke

Vitalik Buterin disse para não entrar em pânico. Ele tem razão?

Mimi

Tem razão em dizer que correria pode causar danos. Mas também tem razão em dizer que o risco deve ser levado a sério. É um equilíbrio difícil.

  • OpenAI publicou centenas de resultados matemáticos gerados por IA
  • Já retirou 3 artigos e revisou 14 outros após publicação
  • Matthew Green alertou sobre risco à criptografia de chave pública
  • Pode levar meses para verificar se resultados são realmente novos e corretos

Cientistas alertam que pode levar meses para verificar se os resultados são realmente novos, se estão corretos e se têm valor científico genuíno. Especialistas em criptografia temem que avanços matemáticos acelerados por IA possam enfraquecer os sistemas de segurança que protegem WhatsApp, bancos e transações online.

OpenAI divulgou centenas de provas matemáticas geradas por IA, reavivando debates sobre validação científica e riscos potenciais à criptografia que protege a internet e criptomoedas.

A OpenAI lançou centenas de resultados matemáticos gerados por inteligência artificial, e a reação foi imediata e dividida. De um lado, o cientista da computação Scott Aaronson chamou o momento de "Mathocalypse" e o descreveu como um dos maiores dias da história da matemática. Do outro, matemáticos e criptógrafos começaram a soar alarmes sobre o que poderia estar errado, o que poderia estar certo, e o que ninguém ainda consegue verificar.

Segundo a OpenAI, cada um desses resultados resolve ou avança de forma significativa uma questão importante em matemática ou ciência da computação teórica. A empresa afirma que parte das provas já foi verificada usando Lean, uma linguagem de programação especializada em checar a lógica de demonstrações matemáticas. A velocidade e a escala do lançamento foram impressionantes o suficiente para chamar atenção global. Mas a impressão inicial rapidamente cedeu lugar à cautela. Matemáticos alertaram que ainda pode levar meses para a comunidade entender o que é realmente novo, o que é uma reaproveitação de técnicas já conhecidas, e o que pode estar simplesmente errado. A OpenAI já retirou três artigos e revisou outros quatorze após a publicação inicial, reconhecendo que alguns resultados "não formalizados" podem ter problemas que serão corrigidos.

A Association for Human Mathematics criticou duramente a publicação em massa. A organização pediu que matemáticos deixem de trabalhar com a OpenAI, argumentando que a área "não pediu" por esse tipo de produção e que o modelo de publicação merece ceticismo profundo. O que incomoda não é apenas a quantidade de resultados, mas o fato de que a comunidade científica se vê agora em posição reativa: em vez de escolher seus próprios problemas, métodos e ritmo de trabalho, matemáticos passam a "apagar incêndios", verificando, replicando e tentando acompanhar o que uma empresa privada decidiu publicar. Quando o sistema que gerou as provas permanece fechado, a ciência se torna menos replicável, menos transparente, menos capaz de confirmar descobertas através do método que a sustenta há séculos.

Mas o debate saiu do mundo acadêmico e entrou em território mais perigoso. Especialistas em criptografia e pesquisadores de criptomoedas começaram a discutir se avanços matemáticos acelerados por IA poderiam enfraquecer os "cadeados" que protegem a internet e as transações digitais hoje. Matthew Green, professor associado da Universidade Johns Hopkins, alertou que podemos "perder a criptografia de chave pública" — a base de segurança de navegadores, mensagens criptografadas como WhatsApp e operações bancárias online. Justin Drake, pesquisador do Ethereum, falou em "modo bunker" e sugeriu que usuários migrem gradualmente fundos para endereços novos, onde a chave pública ainda não foi exposta. Vitalik Buterin, cofundador do Ethereum, concordou que o risco deve ser levado a sério, mas advertiu contra pânico imediato, lembrando que já perdeu mais dinheiro em migrações malfeitas do que em ataques reais.

O risco não é que a internet "quebre" de um dia para o outro. É mais sutil e mais custoso. A criptografia que protege conversas, logins e transações depende de problemas matemáticos que, hoje, são computacionalmente muito difíceis de resolver em tempo útil para um atacante. Se a IA acelerar a descoberta de novos atalhos matemáticos — novos "macetes" — alguns desses cadeados podem ficar frágeis. Quando isso acontece, a solução é trocar as fechaduras em massa, com urgência, e operações feitas com pressa costumam dar errado.

Andrew Sutherland, matemático do MIT, resumiu o problema central: até que a OpenAI libere o modelo e as pessoas consigam replicar os resultados, qualquer afirmação de que um único agente resolveu problemas com um único comando deve ser tratada como não verificada. Precisamos de provas — não apenas de que os resultados existem, mas de que são o que dizem ser.

A "Mathocalypse" comporta duas leituras que convivem. A otimista é a de que a IA pode acelerar respostas para perguntas antigas e abrir novas ferramentas para ciência e tecnologia. A pessimista é a de que, se esse motor de descobertas ficar concentrado em poucos laboratórios e avançar mais rápido do que a capacidade de auditoria pública, a sociedade vai herdar um mundo com mais conhecimento e, simultaneamente, mais pontos cegos. Em segurança digital, pontos cegos costumam custar caro.

Um dos maiores dias da história da matemática
— Scott Aaronson, cientista da computação
Podemos perder a criptografia de chave pública — a base de segurança de navegadores, mensagens criptografadas e operações bancárias
— Matthew Green, professor da Johns Hopkins
Até que liberem o modelo e as pessoas consigam replicar os resultados, qualquer afirmação deve ser tratada como não verificada
— Andrew Sutherland, matemático do MIT
Möchten Sie die ganze Geschichte? Das Original lesen bei UOL ↗
Kontakt FAQ