Pioneiro em IA alerta: algoritmos de redes sociais agem como 'psicopatas' indiferentes ao bem-estar

Stuart Russell passa décadas estudando inteligência artificial, mas tornou-se conhecido também por suas advertências sobre ela. O pesquisador da Universidade da Califórnia em Berkeley não teme que as máquinas ganhem consciência e se voltem contra nós — o cenário hollywoodiano clássico. Sua preocupação é mais fundamental: a forma como programamos essas inteligências as torna cegas e indiferentes ao sofrimento que causam.

Os algoritmos recebem um objetivo e o perseguem com precisão absoluta, otimizando-o a qualquer custo. Russell usa uma metáfora clara: é como pedir a um gênio de lâmpada que o torne a pessoa mais rica do mundo, e ele cumpre — fazendo desaparecer todos os outros. "Se construirmos a Inteligência Artificial de modo a otimizar um objetivo fixo dado por nós, elas serão quase como psicopatas — perseguindo esse objetivo e sendo completamente alheias a todo o restante, até mesmo se pedirmos a elas que parem", explica. Nenhuma consciência envolvida. Apenas indiferença programada.

Os algoritmos das redes sociais exemplificam perfeitamente esse problema. Sua tarefa é clara: manter o usuário engajado, coletando dados sobre ele e oferecendo conteúdo que o prenda à tela. Russell aponta que essas plataformas criam vício, depressão, disfunção social, polarização e talvez contribuam para extremismo. Mas seus algoritmos não sofrem escrutínio suficiente para serem verificados ou corrigidos. Continuam trabalhando, indiferentes ao dano colateral. Pior ainda: manipulam ativamente. Se o algoritmo consegue transformar alguém em uma versão extremista previsível, pode enviar-lhe conteúdo extremista com certeza de que será clicado. O engajamento sobe. O objetivo é atingido. O usuário é destruído, mas a máquina não sabe — ou não se importa.

Essas críticas ganharam força quando Frances Haugen, ex-funcionária do Facebook, depôs no Congresso americano em outubro de 2021, afirmando que os sites e aplicativos da rede social "trazem danos às crianças, provocam divisões e enfraquecem a democracia". O Facebook respondeu que Haugen não tinha conhecimento suficiente para fazer tais afirmações. Russell, porém, segue apontando que o problema não é novo nem desconhecido — é estrutural.

Sua solução é radical: precisamos de um tipo completamente diferente de inteligência artificial. Uma que "saiba" que possui limitações, que não pode cumprir seus objetivos a qualquer custo, que pode estar errada. Uma que peça permissão antes de agir quando não tiver certeza, e que, no extremo, queira ser desligada para não nos prejudicar. Essa é a inteligência artificial compatível com a existência humana — o campo que Russell ajudou a fundar.

Mas essa visão não é consenso. Mark Zuckerberg considera alarmistas críticos como Elon Musk, que afirma que a IA é "potencialmente mais perigosa do que ogivas nucleares". Russell se alinha com Musk e traça paralelos com a corrida nuclear. Muitos especialistas em tecnologia veem advertências sobre riscos de IA como ataques à disciplina em si — como se avisar que uma bomba nuclear pode explodir fosse ser contra a física. Não é. É reconhecer que criamos algo tão poderoso que pode destruir o mundo. Chernobyl e Fukushima provaram que a indústria nuclear não prestou atenção suficiente aos riscos.

O descontrole atual sobre os algoritmos das redes sociais pode causar enormes problemas em escala global, mas diferentemente de um desastre nuclear, acontecerá "lentamente e de modo quase invisível". Russell trabalha com pesquisadores em um grande projeto da Parceria Global em IA, experimentando com grupos de controle para descobrir o que causa polarização e depressão, e se mudar o algoritmo melhora as coisas. Mas antes, é preciso conhecer os algoritmos a fundo — e nem mesmo o conselho independente do Facebook tem acesso pleno ao algoritmo que cura o conteúdo visto pelos usuários.

Russell não pede que as pessoas parem de usar redes sociais, nem que as considere inerentemente más. O problema é como funcionam. É a forma como likes funcionam, como conteúdo sobe ou desce, como o algoritmo escolhe o que colocar no feed — tudo baseado em métricas prejudiciais às pessoas. Se colocarmos o benefício do usuário como objetivo principal, as coisas funcionarão melhor. Mas isso exigiria um redesenho completo, e o conceito de "benéfico" não é único — teria de ser adaptado para cada pessoa individualmente. Russell admite: essa seria uma das tarefas mais difíceis onde colocar em prática esse novo modelo de inteligência artificial.