Sanders tem razão ao pressionar titãs da IA sobre riscos existenciais

Bernie Sanders, aos 84 anos, fez algo que poderia parecer quixotesco: enviou uma carta pública a três dos homens mais poderosos da tecnologia — Sam Altman da OpenAI, Mark Zuckerberg da Meta e Dario Amodei da Anthropic — pedindo que pausem o desenvolvimento de inteligência artificial. Não foi um pedido gentil. "Deixem-me ser claro", escreveu o senador progressista e independente. "Se vocês não adotarem as ações corretas, meus colegas e eu no Senado faremos isso." A ameaça era direta: legislação federal se a indústria não agisse por conta própria.

À primeira vista, parecia um velho político fazendo barulho contra forças que não compreende. Mas Sanders estava tocando em algo real. Há razões substanciais por trás de cada palavra da carta — razões que vão além da retórica política. A corrida pela supremacia em inteligência artificial é movida por valores estratosféricos, ambições territoriais e cálculos geopolíticos. Ainda assim, sobram perguntas legítimas sobre para onde tudo isso nos leva. A ideia de um progresso sem freios, que alimenta nossas esperanças hoje, se torna eticamente indefensável no momento em que coloca a vida humana em risco.

No mês anterior, duzentos cientistas de primeira linha — entre eles dezessete prêmios Nobel — lançaram um manifesto intitulado "Precisamos Agir Agora". A iniciativa partiu de Erik Brynjolfsson, professor de Stanford, de uma premissa simples mas perturbadora: o impacto da inteligência artificial será maior e mais veloz do que o da Revolução Industrial. Brynjolfsson propõe uma mudança de rumo: abandonar a IA que compete e imita o ser humano em favor de uma que o complemente. Isso exigiria repensar conceitos econômicos fundamentais. Hoje, um trabalhador apoiado por tecnologia se torna dez vezes mais produtivo, mas seu salário não acompanha esse ganho. O potencial humano é desvalorizado. Os cortes de custo viabilizados pela automação têm sido brutais, mas ninguém questiona seriamente qual é o impacto disso nos preços das coisas.

Sanders, porém, tocou em um ponto que vai além da economia: a capacidade da inteligência artificial de gerar vírus potencialmente letais como parte de uma corrida "que ninguém entende, prevê ou controla". Essa não é especulação. Pesquisadores de Stanford publicaram recentemente na revista Science um estudo sobre modelos de IA generativa que conseguiram criar um vírus sintético — um organismo nunca visto na natureza, capaz de matar a E. coli, uma bactéria presente em pessoas e animais saudáveis. A notícia boa é que isso pode abrir caminho para futuras terapias. A notícia ruim é que também pode levar à criação de patógenos para os quais não existem defesas conhecidas.

Cientistas da Universidade Johns Hopkins, que revisaram o trabalho, confirmam as capacidades da IA em gerar genomas virais. Mas apontam algo alarmante: há uma ausência total de governança humana em um campo tão sensível. Jornalistas do Axios perguntaram a especialistas, em conversas privadas, qual era o risco da IA que mais os preocupava. A maioria respondeu algo semelhante: um patógeno que se espalhasse silenciosamente e rapidamente. Para que isso acontecesse, bastaria que um "ator ruim" — um programador, um empresário, um governante ou um hacker — direcionasse a tecnologia nessa direção. Sanders não está delirando. Está nomeando um cenário que especialistas reconhecem como plausível e para o qual não temos defesas.