Big Techs enfrentam enxurrada de lixo gerado por IA nas plataformas

As plataformas de tecnologia enfrentam um problema que elas mesmas criaram: um dilúvio de conteúdo gerado por inteligência artificial que polui seus próprios serviços. Receitas de pizza coberta de cola aparecem nos resultados de busca do Google. Biografias falsas infestam os anúncios da Amazon. Imagens surrealistas de Jesus Camarão tomam conta dos feeds do Facebook. O que começou como uma curiosidade tecnológica virou um esgoto digital que deprecia conteúdos legítimos e corrói a qualidade das plataformas que o permitiram florescer.

O Vale do Silício finalmente está tentando limpar a bagunça. O Spotify removeu 75 milhões de uploads em massa, músicas duplicadas e faixas classificadas como spam no ano passado — uma parcela considerável de seu catálogo total. O LinkedIn declarou que "a porcaria gerada por IA é uma prioridade máxima" e criou um botão para denúncias. Pesquisadores do Google descreveram como o YouTube eliminou 130 mil canais de conteúdo de baixa qualidade em apenas seis meses. Aplicativos de mensagens, sites de avaliações, repositórios acadêmicos e serviços de relacionamento estão todos removendo ou reduzindo a visibilidade do lixo gerado por IA, muitos deles usando a própria tecnologia para fazer a limpeza.

O cansaço dos usuários com o impacto da IA — sobre o meio ambiente, sobre os empregos, sobre a saúde mental — criou pressão suficiente para que as empresas agissem. Aidan Walker, pesquisador de tendências on-line do Carnegie Endowment for International Peace, descreveu o problema como mais uma "ferida infeccionada" em um ecossistema já machucado. "Os usuários foram ficando cada vez mais irritados com isso," disse ele. "O clima de opinião agora mudou de forma perceptível, então essas empresas finalmente estão enfrentando esses problemas."

O desafio é que nem todo conteúdo gerado por IA é igualmente problemático. As empresas miram sobretudo o tipo de caça-cliques de baixa qualidade que é fácil de produzir, disseminar, consumir e esquecer — a moda descartável tomando o lugar da alta-costura. A escala é assustadora. A Deezer afirmou que quase metade das faixas adicionadas diariamente ao seu sistema era gerada artificialmente, muitas delas nunca ouvidas. A IA gera mais de um terço do que é enviado ao Apple Music. A Merriam-Webster escolheu "slop" como sua palavra do ano de 2025. Pesquisadores europeus alertaram que, se não for contido, esse pântano sintético on-line poderá "sufocar a criatividade humana, corroer o valor cultural e desestabilizar o debate público".

O paradoxo é que muitas das empresas que agora tentam controlar esse lixo são as mesmas que o viabilizaram. A Meta prometeu apoiar um pacto europeu para tornar conteúdos de IA mais identificáveis — mas no mesmo mês lançou um gerador de imagens que incluía automaticamente contas públicas do Instagram como referência, removendo o recurso apenas após três dias de reação negativa. O Google apostou tudo na IA, integrando seu modelo Gemini aos serviços de e-mail, mapas, viagens e buscas. Mais de 20% dos primeiros vídeos curtos do YouTube exibidos a novos usuários são lixo gerado por IA, segundo um experimento da Kapwing. Um dos canais de lixo mais populares do YouTube faturava US$ 4,25 milhões por ano antes de ser suspenso de um programa de monetização.

As estratégias de limpeza variam. O Google analisou o ritmo das publicações, modelos repetitivos e padrões de comportamento abusivo coordenado, removendo 50 mil grupos de contas. Mas especialistas temem que a abordagem penalize criadores legítimos que publicam grandes volumes. O Pinterest permitiu que usuários limitassem a quantidade de publicações de IA que veem. O TikTok testou um recurso para aumentar ou reduzir conteúdo de IA e removeu mais de 377 mil vídeos em três meses por violarem políticas de IA. O Substack lançou uma ferramenta de detecção de IA desenvolvida pela Pangram, embora alguns autores reclamem que ela classifica erroneamente textos humanos como gerados por máquina.

Paul Shovlin, especialista em IA da Universidade de Ohio, resumiu o dilema: "A porcaria gerada por IA é uma faca de dois gumes, porque muitas dessas plataformas registraram aumentos no engajamento em decorrência dela. Mas chegou um ponto em que isso se tornou um problema, porque há tanto entulho que agora ficou difícil para os usuários encontrar o tipo de conteúdo de qualidade que procuram."

Camille François, que estuda tecnologias digitais nocivas na Universidade Columbia, vê o problema como sistêmico, não apenas uma categoria ruim de conteúdo que pode ser simplesmente definida e removida. "A IA é uma ferramenta de criatividade, além de ser multifacetada, e as plataformas que lidarem mal com isso verão as pessoas irem embora e procurar outros lugares," afirma. A questão agora é se as gigantes de tecnologia conseguirão limpar o estrago sem destruir as ferramentas que o criaram — ou se o dano ao ecossistema de informação já é irreversível.