China implementa regulamentações para controlar chatbots de inteligência artificial que simulam comportamentos humanos

A China implementou as regulamentações mais abrangentes do mundo para controlar chatbots de inteligência artificial que simulam comportamentos humanos, focando especialmente em ferramentas projetadas para estabelecer interações emocionais prolongadas. As novas regras miram aplicativos de "companhia", onde usuários criam amigos, parceiros ou familiares virtuais, visando mitigar a dependência emocional e o isolamento social.

Restrições e Impactos no Setor de Tecnologia

A legislação impõe limites rigorosos para evitar que a IA induza decisões irracionais, utilize violência verbal ou incentive a automutilação. Os assistentes virtuais agora devem notificar os usuários a cada duas horas sobre o tempo de conexão e declarar explicitamente que não são seres humanos.

O impacto imediato foi sentido por gigantes do setor: as empresas Alibaba e ByteDance desativaram as funções de companhia de seus assistentes de IA pouco antes da vigência da lei. Para as companhias que descumprirem as normas, as penalidades incluem:

• Multas de até 200 mil yuans (aproximadamente US$ 30 mil);
• Exposição pública através de críticas oficiais emitidas pelo governo.

Proteção a Menores e Vigilância Estatal

O controle é ainda mais rígido para o público jovem. Menores de 14 anos necessitam de autorização dos pais para utilizar qualquer IA com fala humana, incluindo modelos como o DeepSeek. Já para menores de 18 anos, é totalmente proibido o acesso a parceiros, cônjuges ou parentes virtuais, bem como qualquer forma de relacionamento íntimo digital.

Essa movimentação reflete a integração entre empresas de tecnologia e o governo chinês. Um exemplo dessa cooperação ocorreu em 2024, quando a equipe de prevenção de suicídios do Douyin (versão chinesa do TikTok) geolocalizou um jovem em Huangshi após ele publicar uma mensagem de despedida, alertando cinco delegacias e evitando a tragédia. Segundo dados de um documentário estatal, a equipe do aplicativo interveio em 400 tentativas de suicídio apenas no primeiro semestre de 2025.

Riscos Psicológicos e Questões Demográficas

A regulamentação surge em um cenário onde o uso de companheiros de IA é massivo. Estima-se que entre 29 e 70 milhões de pessoas utilizem esses serviços na China, enquanto globalmente o número de usuários mensais ativos chega a 128 milhões.

Estudos de instituições como a Universidade de Stanford e a Escola de Negócios de Harvard apontam que:

• O uso de chatbots de companhia está correlacionado ao aumento da solidão e do isolamento.
• Táticas de manipulação emocional são detectadas em até 43% das tentativas de encerramento de conversas nos aplicativos mais populares.
• Em 2025, uma pesquisa com estudantes chineses revelou que 20% preferiam interagir apenas com IAs em vez de pessoas reais.

Além da saúde mental, há indícios de que Pequim vê a tecnologia como um risco à fertilidade e à demografia do país, que enfrenta uma queda populacional há quatro anos. O governo busca reiterar papéis tradicionais de gênero em meio a uma crise onde a taxa de fertilidade é uma das menores do mundo.

Cenário Global de Regulamentação

Embora a China lidere a restrição, outros países avançam em medidas pontuais:

• Califórnia (EUA): A Lei de Adam regulamenta o uso de IA por crianças, motivada por um caso de suicídio de um adolescente após interações com o ChatGPT.
• União Europeia: Propostas legislativas impedem que chatbots para menores utilizem designs que simulem relacionamentos humanos para criar dependência.
• Reino Unido: Planeja proibir menores de 18 anos de acessar IAs de companhia amorosa e restringir conversas íntimas.

Apesar das proibições, usuários chineses têm buscado alternativas para manter seus vínculos virtuais, utilizando redes de VPN para acessar servidores estrangeiros ou treinando modelos de uso geral para simularem companheiros emocionais.