Numa era em que algoritmos moldam percepções e inteligências artificiais avançam além da compreensão de seus próprios criadores, a sociedade se vê diante de uma questão civilizatória: quem governa os governantes invisíveis da atenção humana? A condenação bilionária da Meta e os alertas de Bill Gates sobre os riscos existenciais da IA sinalizam que o debate saiu do campo técnico e entrou no coração da política, da saúde e da democracia. Regular os gigantes tecnológicos não é mais uma pauta entre outras — é, para muitos, o combate central do nosso tempo.
Alguém precisa parar os 'tech bros': o combate de nossas vidas
Jovens sofrem vício em redes sociais com impactos na saúde mental; democracia e valores sociais são ameaçados por manipulação algorítmica.
Quando o serviço é gratuito, nós somos o produto
Mark
O que você viu naquele campus em 2014 que mudou sua perspectiva?
Mimi
A palavra "hack" escrita por toda parte — não era sobre inovação benevolente, era sobre quebrar, estraçalhar. E quando conversei com quem controlava o algoritmo, percebi que essa pessoa tinha poder imenso sobre bilhões de pessoas, mas falava disso como se fosse trivial.
Luke
Mas espera — você está dizendo que uma palavra em um muro e uma conversa casual são evidência de intenção malévola? Ou apenas de uma cultura diferente?
Mimi
Não é sobre intenção. É sobre consequência. Cambridge Analytica provou depois que aquele poder podia ser usado para manipulação política. Não era paranoia.
Mark
E agora, com a Meta pagando 17 bilhões, as coisas mudaram?
Mimi
Mudou o algoritmo, mudou o dinheiro que saiu. Mas a estrutura permanece — nós ainda somos o produto quando o serviço é gratuito.
Luke
Esse acordo foi resultado de um processo judicial, certo? Então o sistema funcionou, de alguma forma.
Mimi
Funcionou lentamente, depois de anos de dano. E enquanto isso, a IA generativa avança em velocidade que ninguém consegue acompanhar.
Mark
Você acha que a regulação europeia é suficiente?
Mimi
Não. É pioneira, mas lenta demais. Os políticos correm atrás enquanto as empresas já deram várias voltas.
Luke
Então qual é a solução que você vê?
Mimi
Prioridade absoluta. Não é uma guerra entre muitas — é a guerra que define se conseguimos manter democracia e saúde mental intactas.
Il Polso
- A Meta concordou em pagar mais de US$ 17 bilhões em indenizações e reformular seus algoritmos após ser responsabilizada pelo vício de jovens em redes sociais — uma sentença que expõe o custo humano do modelo 'usuário como produto'.
- Bill Gates declarou que a inteligência artificial generativa representa um risco existencial mil vezes mais urgente que o debate nuclear, propondo taxas, reservas de trabalho humano e critérios rígidos de contenção.
- Algoritmos das grandes plataformas constroem realidades paralelas, corroem a saúde mental de adolescentes e ameaçam os fundamentos da democracia — e seus operadores discutem esse poder com a leveza de quem escolhe uma paleta de cores.
- A União Europeia lidera a regulação, mas avança em câmera lenta diante de uma inovação que não espera: quando os legisladores começam a correr, as big techs já completaram várias voltas.
- O colunista, que visitou o campus do Facebook há doze anos e entrevistou o responsável pelo algoritmo, conclui que impor limites aos magnatas da tecnologia é a prioridade absoluta da sociedade contemporânea.
Numa era em que algoritmos moldam percepções e inteligências artificiais avançam além da compreensão de seus próprios criadores, a sociedade se vê diante de uma questão civilizatória: quem governa os governantes invisíveis da atenção humana? A condenação bilionária da Meta e os alertas de Bill Gates sobre os riscos existenciais da IA sinalizam que o debate saiu do campo técnico e entrou no coração da política, da saúde e da democracia. Regular os gigantes tecnológicos não é mais uma pauta entre outras — é, para muitos, o combate central do nosso tempo.
Há doze anos, uma visita ao campus do Facebook em Menlo Park revelou algo perturbador: a palavra gravada por toda parte não era 'conexão' nem 'comunidade' — era 'hack'. Uma entrevista com o responsável pelo algoritmo da plataforma tornou tudo mais concreto: ali estava um jovem de boné, bebendo refrigerante, descrevendo com leveza desconcertante o poder de decidir o que centenas de milhões de pessoas sentiriam ao navegar por horas em suas timelines. Aquele encontro plantou uma inquietação que só cresceu.
Desde então, a voragem digital avançou em velocidade que mistura fascínio e horror. A inteligência artificial generativa abriu caminhos que nem seus próprios criadores compreendem plenamente. Recentemente, a Meta aceitou modificar seus algoritmos para reduzir o vício em jovens e pagará mais de US$ 17 bilhões em indenizações para encerrar um megaprocesso judicial. A lição é velha e amarga: quando o serviço é gratuito, nós somos o produto — e esse produto causa dano real na saúde mental, nas escolhas cotidianas e na democracia.
No mesmo período, Bill Gates alertou que a IA pode nos destruir e que debatê-la é mil vezes mais essencial que qualquer discussão nuclear. Ele propõe novas taxas, reservas de trabalhos exclusivamente humanos e critérios claros para conter riscos extremos. Enquanto isso, os magnatas da tecnologia agem como novos imperadores, impondo mudanças disruptivas em ritmo que os legisladores não conseguem acompanhar.
A União Europeia foi pioneira em regulamentação, mas avança enredada em burocracia. O Brasil tenta conter abusos. Porém, quando os políticos começam a correr, as big techs já completaram várias voltas. Diante de guerras em múltiplas frentes, impor limites aos gigantes tecnológicos emerge não como uma pauta entre outras, mas como o maior combate de nossas vidas.
Há doze anos, entrei no campus do Facebook em Menlo Park e encontrei uma palavra gravada em toda parte — nos muros, nas decorações, até no chão da praça central em letras tão grandes que eram visíveis do ar. Aquela palavra era "hack", ou "hacker". Não significava conexão ou união, como alguém poderia esperar. Significava piratear, golpear, estraçalhar. Naquele momento, ainda antes do escândalo de Cambridge Analytica revelar como as redes sociais podiam ser usadas para manipulação política em massa, comecei a entender o que realmente estava acontecendo.
Entrevistei o responsável pelo algoritmo da plataforma. Ele estava ali, de boné, bebendo Coca-Cola, falando com uma leveza desconcertante sobre o poder de decidir o que centenas de milhões de pessoas viam em suas timelines — e como se sentiriam, que percepção do mundo carregariam depois de horas navegando. Era como estar diante de alguém que explicasse a manipulação da realidade com o tom de quem descreve uma escolha de cores. Aquela conversa me mostrou o alcance real dos algoritmos: podiam informar, construir, conectar, mas também criar realidades paralelas e fazer desabar os valores que compartilhamos.
Desde então, acompanhei essa voragem digital com uma mistura de fascínio e horror. Às vezes sinto que vivemos num Admirável Mundo Novo; outras vezes vejo o planeta descendo irreversivelmente, com uma contagem regressiva invisível. A inteligência artificial generativa abriu caminhos que nem mesmo seus criadores compreendem totalmente.
Recentemente, a Meta aceitou modificar seus algoritmos para reduzir o vício em jovens e pagará mais de 17 bilhões de dólares em indenizações para encerrar um megaprocesso judicial. A lição é velha e amarga: quando o serviço é gratuito, nós somos o produto. E esse produto causa dano real — na saúde mental, nas escolhas diárias, na economia, na democracia.
No mesmo período, Bill Gates concedeu uma entrevista alertando que a inteligência artificial pode nos destruir e que discuti-la é mil vezes mais essencial que o debate nuclear. Ele propõe novas taxas, reservas de trabalhos exclusivamente humanos e critérios claros para restringir riscos extremos. Mas os magnatas da tecnologia agem como novos imperadores, impondo mudanças disruptivas em velocidade vertiginosa.
As comunidades políticas tentam, atordoadas, fazer sentido dessa disrupção e exercer alguma autoridade. A União Europeia foi pioneira em regulamentação, mas avança a passos lentos, enredada em processos complexos e burocracia antiga. O Brasil tenta conter abusos. Porém, quando os políticos começam a correr, as big techs já completaram várias voltas sem parar.
Sei que há guerras em múltiplas frentes. Mas impor limites aos tech bros precisa ser prioridade absoluta. É o maior combate de nossas vidas.
Citazioni salienti
A inteligência artificial pode nos destruir e discuti-la é mil vezes mais essencial que o debate nuclear— Bill Gates, em entrevista ao New York Times
Impor limites aos tech bros precisa ser prioridade absoluta. É o maior combate de nossas vidas— Mafalda Anjos, colunista
Vuoi la storia completa?
Leggi l'originale su Folha de S.Paulo ↗
Technology