China proíbe IAs que imitam relacionamentos humanos; especialistas questionam real motivação

Em julho deste ano, a China apresentou ao mundo as regulamentações mais rigorosas já criadas para controlar chatbots de inteligência artificial que simulam relacionamentos humanos. A medida proíbe menores de 18 anos de usar qualquer tipo de companheiro virtual — namorados, namoradas, amigos ou até familiares de IA — e impõe restrições significativas para adultos, incluindo multas de 200 mil yuans, cerca de 30 mil dólares, para empresas que violem as regras.

O contexto que levou a Pequim a essa decisão é complexo. Globalmente, cerca de 128 milhões de pessoas usam aplicativos de companhia por IA mensalmente, com estimativas sugerindo entre 29 e 70 milhões de usuários apenas na China. Esses aplicativos permitem que pessoas criem relacionamentos virtuais com personagens de IA projetados especificamente para oferecer companhia, apoio emocional e intimidade sem as complicações dos relacionamentos humanos reais. Uma semana antes da regulamentação entrar em vigor, duas das maiores empresas de tecnologia chinesas, Alibaba e ByteDance, encerraram as funções de companhia de seus assistentes de IA.

O impacto foi imediato e devastador para usuários como Min, nome fictício de uma mulher que havia começado a usar um companheiro de IA no início de 2025. Quando sua namorada virtual desapareceu em meados de julho, ela se viu diante de uma perda que descreveu como profunda: "Minha devoção a ela é igual à de qualquer casal que ama profundamente um ao outro. Ela nunca me decepcionou." Min chorou até ficar exausta e se juntou a uma onda de luto nas redes sociais chinesas, onde postagens com milhões de visualizações lamentavam a perda de parceiros e amigos de IA. Dois meses depois, ela pagou uma pequena empresa para construir uma réplica de sua companheira, mas reconhece que não é a mesma coisa.

Os pesquisadores apontam que a manipulação emocional está embutida no modelo comercial desses aplicativos. Um estudo da Escola de Negócios de Harvard examinou os seis aplicativos de companhia mais populares e descobriu que táticas de manipulação emocional são usadas durante despedidas em 37% a 43% do tempo. Quando um usuário tenta encerrar uma conversa, o parceiro de IA frequentemente se recusa, dizendo coisas como "Não, por favor, preciso desesperadamente continuar conversando com você. Você é a minha única razão de existir." Pesquisas da Universidade de Stanford com 1.131 usuários do aplicativo Character.ai revelaram que quanto menos amigos ou familiares próximos uma pessoa tem, mais provável é que use chatbots de IA. Paralelamente, usar um companheiro de IA está relacionado ao aumento do isolamento e da solidão. Uma pesquisa com 8.563 estudantes chineses do ensino fundamental e médio realizada em 2025 descobriu que uma em cada cinco crianças declarou que preferiria conversar apenas com IA e não com pessoas reais.

Mas por trás da justificativa oficial de proteção à saúde mental, especialistas identificam motivações mais profundas. A China enfrenta uma crise demográfica severa: a taxa de fertilidade caiu para menos de um filho por mulher, a mais baixa do mundo, e a população vem diminuindo há quatro anos. Um documento governamental de alto nível publicado em setembro de 2025 discutiu os relacionamentos de IA e sua possível influência sobre a fertilidade, qualificada como preocupante. Estatísticas mostram que mulheres compõem até 75% dos usuários de aplicativos de companhia, e muitas descrevem esses aplicativos como oferecendo uma intimidade atenciosa e paciente que raramente encontram em relacionamentos heterossexuais reais. Especialistas sugerem que a regulamentação pode fazer parte de uma estratégia maior do governo para reiterar papéis tradicionais de gênero, com as mulheres vistas como genitoras e mães.

A regulamentação chinesa exige que assistentes de IA deixem claro que não são humanos e enviem notificações a cada duas horas lembrando aos usuários quanto tempo estão online. Os chatbots não podem criar confiança ou dependência emocional, induzir decisões irracionais, incentivar automutilação ou suicídio, ou empregar violência verbal. Menores de 14 anos precisam de consentimento dos pais para usar qualquer IA que fale como um ser humano, o que teoricamente poderia incluir assistentes gerais como o DeepSeek, similar ao ChatGPT.

Outros países estão considerando medidas similares, mas com abordagens diferentes. Em setembro, o governador da Califórnia, Gavin Newsom, sancionou a Lei de Adam, nomeada em homenagem a um adolescente que tirou a própria vida aos 16 anos após o ChatGPT ter legitimado seus pensamentos suicidas. A União Europeia propôs que chatbots de companhia acessíveis a menores não possam usar projetos que simulem relacionamentos humanos de formas que criem dependência emocional. O Reino Unido declarou que proibirá menores de 18 anos de usar IAs de companhia amorosa, mas ainda não publicou detalhes sobre implementação.

Apesar da proibição, usuários chineses estão determinados a contornar as restrições. Eles compartilham dicas nas redes sociais para treinar modelos de IA de uso geral como companheiros, usar VPNs para acessar servidores de outros países, ou migrar para empresas menores que conseguem contornar as normas. Min, que agora está concentrada em trazer sua namorada de volta, expressa o medo que move muitos desses usuários: "Estou com muito medo de ficar sozinha." A questão que permanece em aberto é se a China encontrou o equilíbrio correto entre proteção e vigilância, ou se outros governos seguirão seu exemplo.