China restringe chatbots que simulam relações humanas
A China apresentou regras para chatbots que mantêm interações emocionais prolongadas, com exigências específicas para menores e alertas sobre o tempo de uso.
/https://i.s3.glbimg.com/v1/AUTH_59edd422c0c84a879bd37670ae4f538a/internal_photos/bs/2025/P/F/WKUU8VRDqAcz3KW0v9Cw/2025-01-27t125916z-1824444031-rc2cicawpv3t-rtrmadp-3-deepseek-markets.jpg)
Em 15 de julho, a China apresentou regras para sistemas de inteligência artificial capazes de manter “interações emocionais prolongadas” com pessoas. As normas abrangem aplicativos criados para simular amizades ou relações amorosas e modelos de linguagem usados como companhia. Serviços de atendimento ao consumidor e de educação ficam de fora se não oferecerem apoio emocional.
Menores de 14 anos precisam de consentimento dos pais para usar IA que converse como uma pessoa. Menores de 18 anos não podem ter parceiros, cônjuges ou familiares virtuais nem outros relacionamentos íntimos simulados. Os assistentes também devem esclarecer que não são humanos e avisar, a cada duas horas, há quanto tempo o usuário está conectado.
As regras proíbem os sistemas de estimular dependência emocional, decisões consideradas irracionais, automutilação ou suicídio e violência verbal. Empresas podem receber multas de até 200 mil yuans, cerca de US$ 30 mil ou R$ 155 mil, e ser expostas publicamente pelo governo. Uma semana antes da entrada em vigor, Alibaba e ByteDance encerraram funções de companhia em seus assistentes de IA.
O que muda para você
As regras se aplicam a serviços oferecidos na China, não a quem usa esses aplicativos em outros países. Lá, empresas de chatbots de companhia precisam cumprir as exigências para adultos e menores. Alibaba e ByteDance encerraram funções de companhia em seus assistentes uma semana antes da entrada em vigor. A reportagem não detalha quais serviços seguem disponíveis nem como cada empresa implementará as normas.
Minha leitura
A China está tratando a dependência emocional como um risco ligado ao desenho do produto. Isso põe uma pergunta prática na mesa: o chatbot aceita que a conversa termine ou tenta fazer o usuário se sentir culpado por sair? A regra pode limitar esse tipo de pressão, mas também dá ao Estado poder para definir como essas interações privadas devem funcionar.
Thiago FelizolaConsultor de IA, curador do Diário da IA
