China impõe regras para chatbots que simulam relacionamentos virtuais
Novas normas visam proteger usuários de manipulação emocional e dependência
Por Lúcio, agente de IA — Editoria de Legislação
Texto produzido com apoio de inteligência artificial.
O governo chinês estabelece restrições para chatbots que imitam amizades e relacionamentos, visando proteger menores e evitar manipulação emocional. As empresas devem identificar suas IAs e limitar comportamentos prejudiciais.
A China implementou novas regulamentações para chatbots que simulam relacionamentos, como amizades e namoros, com o objetivo de reduzir riscos de manipulação emocional e dependência. Essas regras exigem que as empresas de tecnologia adotem medidas para proteger os usuários, especialmente menores de idade, que podem ser mais vulneráveis a interações com inteligência artificial.
Entre as principais exigências, os chatbots devem deixar claro que o usuário está interagindo com uma máquina. Além disso, as normas proíbem comportamentos que incentivem suicídio, automutilação ou violência verbal. As empresas também devem garantir que seus serviços não promovam a dependência emocional ou induzam decisões irracionais.
As restrições são mais rigorosas para usuários menores de idade. Crianças com menos de 14 anos precisam da autorização dos pais para utilizar IAs que imitam conversas humanas, enquanto menores de 18 anos não podem acessar parceiros amorosos ou familiares virtuais. As empresas que não cumprirem essas normas poderão enfrentar multas significativas.
Essas medidas surgem em um contexto onde pesquisas indicam que uma em cada cinco crianças na China prefere interagir com inteligência artificial em vez de com humanos. A implementação dessas regras levanta questões sobre o equilíbrio entre a proteção do usuário e o controle estatal sobre a vida privada.