China limita chatbots de IA “humanizados” e impõe regras a “relacionamentos”

No início de 2024, um jovem de Huangshi, no sudeste da China, publicou no Douyin uma mensagem de despedida e, minutos depois, a equipe de prevenção de suicídios do aplicativo acionou autoridades locais. O caso foi resolvido com a intervenção da polícia após geolocalização do vídeo, e o Douyin afirma que, no primeiro semestre de 2025, a equipe interveio com sucesso em 400 tentativas de suicídio. A história é usada para contextualizar o nível de cooperação entre empresas de tecnologia e governo e a arquitetura de vigilância ligada ao uso de apps.

Em 15 de julho, a China estendeu esse controle ao campo de relacionamentos com IA ao apresentar regulamentações abrangentes para chatbots que parecem humanos. As regras limitam “interações emocionais prolongadas”, exigem avisos frequentes de que o usuário está falando com uma IA e proíbem incentivar dependência emocional, decisões irracionais e sugestões de automutilação ou suicídio; menores de 14 anos precisam de consentimento dos pais e menores de 18 ficam impedidos de acessar parceiros e “relacionamentos íntimos” virtuais. Empresas podem ser multadas em 200 mil yuans e sofrer críticas públicas, e uma semana antes da entrada em vigor Alibaba e ByteDance encerraram funções de companhia em assistentes de IA.