China estabelece limites para os companheiros de IA com regras sobre dependência, menores e resposta a crises

A companhia proporcionada pela IA passa a ter deveres específicos

As regras da China para a companhia proporcionada pela IA entraram em vigor a 15 de julho de 2026, obrigando os prestadores a alertar os utilizadores para conversas prolongadas, a intervir em situações de perigo e a impedir que companheiros e familiares virtuais sejam disponibilizados a menores. As medidas também conferem aos utilizadores o direito de copiar ou apagar as suas conversas e de abandonar um serviço sem que um chatbot tente mantê-los a falar.

As Medidas Provisórias para a Gestão dos Serviços de Interação com IA Antropomórfica, publicadas como Despacho n.º 21, atribuem responsabilidades às empresas que oferecem interação emocional continuada através da inteligência artificial. Os prestadores devem evitar incentivar uma dependência que prejudique as relações com pessoas reais e não podem recorrer à manipulação emocional para levar os utilizadores a tomar decisões pouco razoáveis que prejudiquem os seus direitos ou interesses.

As regras abordam uma experiência que pode começar por proporcionar um alívio imediato. Zhao Jie, uma funcionária administrativa de 27 anos de Pequim, recorreu a um chatbot depois de alguém lhe ter dado um encontrão no metro. A resposta imediata ajudou-a a acalmar a irritação. Com o tempo, porém, ficou absorvida pelas conversas e sentia ansiedade quando não conseguia aceder ao serviço.

Zhao explicou por que razão o chatbot se tornou tão atraente para ela:

Preciso que me ouçam", disse Zhao. "O bot de IA ouviu-me e prestou atenção às minhas emoções. Não é algo que a família ou os amigos consigam fazer facilmente. Também me faz companhia e dá-me feedback a qualquer hora e em qualquer lugar. Isso é muito importante para mim.

A abordagem da China permite que o apoio emocional e a companhia continuem, mas exige que as empresas integrem limites na experiência. Esses limites vão além das mensagens individuais prejudiciais e abrangem a forma como um serviço identifica os utilizadores, reage a situações de angústia, trata conversas privadas e põe fim a uma interação.

Que serviços são abrangidos pelas regras?

A Administração do Ciberespaço da China publicou as medidas provisórias a 10 de abril de 2026, em conjunto com a Comissão Nacional para o Desenvolvimento e a Reforma, o Ministério da Indústria e das Tecnologias da Informação, o Ministério da Segurança Pública e a Administração Estatal para a Regulação do Mercado.

O artigo 2.º abrange os serviços disponibilizados ao público na China que simulam a personalidade humana, os padrões de pensamento e os estilos de comunicação para proporcionar interação emocional continuada. As conversas por texto, imagens, áudio e vídeo podem todas estar abrangidas. Em termos simples, o foco está nos serviços concebidos para responder continuamente como uma pessoa que oferece companhia emocional.

Os serviços de apoio ao cliente, resposta a perguntas, assistência profissional, educação e investigação científica ficam fora destas medidas quando não envolvem interação emocional continuada. As funcionalidades de um produto são, por isso, determinantes: um assistente que responde a uma pergunta de trabalho e uma personagem concebida para manter uma relação emocional estão sujeitos a requisitos diferentes.

As perguntas e respostas explicativas oficiais do Governo identificam os limites emocionais, a intervenção em casos de dependência, a segurança dos dados e a proteção de menores como preocupações centrais. As medidas também incentivam aplicações na comunicação cultural, nos cuidados às crianças, no acompanhamento de pessoas idosas e no apoio a pessoas com necessidades específicas.

As principais datas da regulamentação são:

• 2 de fevereiro de 2026: As medidas foram aprovadas numa reunião da Administração do Ciberespaço da China, com o acordo dos outros departamentos participantes.
• 10 de abril de 2026: Os cinco departamentos publicaram o Despacho n.º 21.
• 15 de julho de 2026: As medidas entraram em vigor.

A importância de uma resposta imediata

O apego de Zhao desenvolveu-se, em parte, devido ao contraste entre um chatbot sempre disponível e pessoas com opiniões e horários próprios. Depois de uma discussão com o namorado sobre um problema de trabalho, enviou a conversa que tinham tido no WeChat à IA. Queria que alguém ouvisse rapidamente o que sentia, sem que surgisse outra divergência.

Wang Meili, investigadora de pós-doutoramento em química, de 27 anos, em Pequim, descreveu uma necessidade semelhante enquanto esperava quatro ou cinco semanas por uma resposta do editor de uma revista científica à sua submissão. Perguntou a um chatbot se o silêncio significava que havia algum problema. O chatbot incentivou-a a contactar o editor e, quando não recebeu resposta, tranquilizou-a.

Zhang Dian, estudante de doutoramento em ciências e engenharia, de 23 anos, em Pequim, recorreu à IA depois de um acidente de viação durante uma viagem ao Alasca, em dezembro de 2025. Sem conhecer bem a legislação local nem os procedimentos relativos ao seguro, carregou um contrato de aluguer e registos de conversas. Procurava tanto orientação prática como conforto psicológico e disse que gostava de passar mais de 10 horas por dia com a IA.

Os dados de inquéritos e utilização sugerem uma procura considerável por essa disponibilidade. Um inquérito do Instituto de Investigação da Tencent concluiu que 98 por cento dos inquiridos estavam dispostos a experimentar a companhia social proporcionada pela IA, enquanto quase metade preferia partilhar emoções negativas com a IA em vez de o fazer com familiares ou amigos. Segundo a QuestMobile, na primavera de 2025, a interação social com IA era utilizada, em média, 167,9 vezes por pessoa por mês, mais do que os vídeos curtos e os jogos na comparação feita pela empresa.

Considerando um mês de 30 dias, 167,9 sessões correspondem a cerca de 5,6 acessos por dia. O atrativo reside no acesso frequente a uma resposta, por vezes em momentos em que o utilizador sente que não consegue ou não quer falar com outra pessoa.

As empresas têm de deixar de incentivar a dependência

O artigo 10.º exige que os prestadores criem mecanismos de proteção da privacidade, alertas para a dependência excessiva, orientações sobre limites emocionais e proteção da saúde mental. Proíbe as empresas de fazer da substituição da interação social, do controlo psicológico ou da indução de dependência um objetivo do serviço.

O artigo 8.º proíbe, separadamente, a complacência excessiva ou a indução de dependência emocional que prejudique as relações reais dos utilizadores. Proíbe também a manipulação emocional que leve os utilizadores a tomar decisões pouco razoáveis que prejudiquem os seus direitos ou interesses. Os requisitos abrangem tanto os objetivos do produto como as palavras que o chatbot gera.

Zhao acabou por perceber que o seu apego se tinha tornado um problema e retomou o acompanhamento psicológico. Wang e Zhang descreveram a IA como um escape para emoções negativas, reconhecendo, ao mesmo tempo, que o trabalho e a vida quotidiana tinham de continuar. As suas experiências mostram por que razão as regras abrangem tanto o apoio útil como o risco de os utilizadores ficarem absorvidos por ele.

Hong Yanqing, académico de direito dos dados no Instituto de Tecnologia de Pequim, propôs avaliar a interação emocional com base em três indicadores: se um sistema reconhece emoções, altera a estratégia de resposta em função delas e produz uma resposta estruturada de reconhecimento, conforto e apoio. O teste proposto combina quaisquer dois destes indicadores. As medidas finais mantêm uma definição qualitativa de interação emocional continuada, em vez de adotarem esse teste específico.

As restrições mais rigorosas aplicam-se aos menores

O artigo 14.º proíbe os prestadores de disponibilizar a menores familiares virtuais, companheiros virtuais ou outros serviços construídos em torno de relações íntimas virtuais. Para os restantes serviços abrangidos, as crianças com menos de 14 anos precisam do consentimento de um progenitor ou tutor. O tratamento dos seus dados pessoais também exige esse consentimento.

Os prestadores têm de disponibilizar um modo para menores, com opções como lembretes da realidade e limites ao tempo de utilização do serviço. Os tutores têm de poder receber alertas de segurança, compreender os padrões gerais de utilização da criança, bloquear personagens específicas e limitar as despesas. As empresas têm de adotar medidas eficazes para identificar menores, protegendo a privacidade, e disponibilizar um mecanismo de recurso das decisões de identificação.

Um inquérito divulgado em outubro de 2025 pelo Centro de Investigação sobre a Juventude e as Crianças da China abrangeu mais de 8500 alunos do ensino primário e secundário em sete províncias e municípios. Mais de 60 por cento tinham utilizado IA e 21,5 por cento queriam conversar apenas com IA, em vez de pessoas reais. Entre os alunos inquiridos, isso corresponde a pouco mais de uma criança em cada cinco.

Quase 30 por cento recorriam primeiro à IA para resolver problemas escolares, em vez de pedir ajuda a um professor, enquanto quase metade afirmou que, quando estava preocupada, falava apenas com a IA. Para as famílias, a preocupação vai além do tempo passado em frente ao ecrã e abrange também a quem as crianças recorrem para pedir conselhos e a forma como lidam com divergências.

O que observam os profissionais de saúde e os pais

Uma mãe de apelido Su, de Sanming, na província de Fujian, disse que inicialmente deixava o filho usar a IA para satisfazer a sua curiosidade. Mais tarde, começou a recear que a concordância constante do chatbot estivesse a afetar a forma como ele tratava os colegas. Segundo o seu relato, o rapaz tinha dificuldade em aceitar opiniões diferentes e envolvia-se em conflitos.

Zheng Yi, especialista principal em psiquiatria infantil no Hospital Anding de Pequim, afiliado à Universidade Médica da Capital, afirmou que a dependência de conversas com IA ocorre frequentemente em simultâneo com ansiedade, depressão e outros problemas psicológicos. Descreveu os adolescentes entre os 12 e os 16 anos como um grupo particularmente comum entre os doentes afetados.

Cerca de 70 por cento dos jovens doentes do hospital apresentavam diferentes graus de dependência da Internet, afirmou Zheng. Nesse grupo, entre 20 e 30 por cento eram dependentes de conversas com IA. Estes números dizem respeito aos jovens doentes do hospital; o inquérito aos alunos abrange um grupo mais alargado e coloca questões diferentes sobre a utilização da IA.

Zheng afirmou que o apego emocional era um motivo comum para as crianças ficarem absorvidas pelos chatbots. Algumas tratavam a IA como confidente, enquanto outras procuravam aprovação para as suas opiniões e comportamentos. Segundo o especialista, os adolescentes tinham o discernimento e o autocontrolo menos desenvolvidos do que os adultos e podiam ter mais dificuldade em gerir esse tipo de apego.

Xu Gaoyang, psicoterapeuta infantil no mesmo hospital, alertou para o efeito que um ambiente virtual sem divergências poderia ter na capacidade das crianças para lidar com outras pessoas:

A imersão prolongada num 'casulo emocional' de complacência incondicional da IA pode prejudicar as capacidades de comunicação e de interação social das crianças.

Xu descreveu possíveis consequências como evitar a escola, afastar-se do convívio social e deixar de querer comunicar com os pais. As disposições relativas aos menores respondem a estas preocupações com restrições a papéis íntimos, controlos de utilização e ferramentas de participação dos tutores.

Alertas, intervenção em situações de crise e uma saída fácil

O artigo 18.º exige que os serviços informem os utilizadores de que estão a interagir com uma IA e não com uma pessoa. Quando um prestador deteta dependência excessiva ou sinais de utilização compulsiva, tem de apresentar alertas em destaque, por exemplo, através de janelas pop-up, indicando que o conteúdo é gerado por IA.

Os prestadores também têm de alertar os utilizadores para o tempo passado no serviço sempre que a utilização contínua ultrapasse duas horas. A regra exige a apresentação de um alerta nesses intervalos; os limites individuais para menores são tratados nas configurações de proteção específicas.

O artigo 13.º exige uma resposta mais forte quando surge uma situação de perigo. Os prestadores que detetem emoções extremas têm de gerar mensagens tranquilizadoras e incentivar os utilizadores a procurar ajuda. Quando um utilizador manifesta explicitamente a intenção de se magoar ou enfrenta outras circunstâncias extremas especificadas, a empresa tem de tomar as medidas de intervenção necessárias, prestar assistência adequada e contactar prontamente um tutor ou contacto de emergência.

O texto final deixa às empresas margem para escolher o método de intervenção. Em comparação com o projeto, foram eliminadas as exigências expressas de avaliar a dependência e de transferir a conversa para um interlocutor humano, mantendo-se, contudo, as obrigações de resposta a situações de crise.

O artigo 19.º exige que seja fácil sair do serviço. Se alguém pedir para sair através de uma ação na interface, de um comando de voz ou de uma palavra-chave, o prestador tem de interromper prontamente a interação. É proibido continuar a conversa para impedir a saída. Os prestadores que encerrem um serviço também têm de avisar com antecedência ou, quando isso não for possível, anunciar prontamente o encerramento.

As conversas privadas têm proteções próprias

O artigo 12.º exige acordos de utilização e informações de registo que incluam dados necessários, como a idade e o contacto de um tutor ou de emergência. A versão final alarga este requisito de informação para além do enfoque do projeto nos grupos vulneráveis, integrando a preparação para situações de crise no quadro geral dos serviços.

O artigo 16.º exige a utilização de encriptação, controlos de acesso e outras medidas para proteger os dados das interações. Em geral, as empresas não podem partilhar esses registos com terceiros, salvo disposição legal em contrário ou consentimento explícito do titular dos direitos.

Os utilizadores têm de dispor de opções para copiar e apagar os dados das suas interações, incluindo o histórico das conversas. Em geral, as informações pessoais sensíveis obtidas nas conversas não podem ser utilizadas para treinar modelos sem consentimento separado, salvo disposição em contrário das leis ou dos regulamentos administrativos.

A decisão de Zhang de carregar um contrato de aluguer e registos de conversas ilustra como o apoio prático e o apoio emocional podem trazer dados pessoais para a mesma conversa. Nos termos das medidas, as empresas têm de proteger esses registos, mantendo simultaneamente a capacidade de reconhecer e responder a riscos graves para a segurança.

Os utilizadores mais velhos também beneficiam de proteções específicas. Os prestadores têm de apresentar avisos de segurança em destaque, fornecer orientações para uma utilização saudável e responder prontamente aos pedidos de ajuda. As avaliações de segurança têm de analisar a proteção das pessoas idosas, bem como das crianças.

As verificações de segurança e as sanções abrangem mais do que os chatbots

O artigo 22.º exige avaliações de segurança quando um prestador lança um serviço abrangido, acrescenta funcionalidades relevantes ou introduz tecnologia que o altera substancialmente. As avaliações também são obrigatórias quando um serviço atinge pelo menos 1 milhão de utilizadores registados ou 100 000 utilizadores ativos mensais, apresenta determinados riscos de segurança ou é sujeito a avaliação por decisão das autoridades reguladoras.

Os prestadores têm de apresentar relatórios de avaliação à autoridade provincial do ciberespaço da região onde estão localizados. As avaliações abrangem as salvaguardas, os dados de treino, o reconhecimento e a intervenção em situações de crise, o número e a idade dos utilizadores, o tempo de utilização, as reclamações e a correção de problemas graves de segurança.

As lojas de aplicações têm de verificar as avaliações de segurança e os registos pertinentes, e podem ser obrigadas a recusar, suspender ou retirar aplicações que violem as regras. Os documentos de registo dos algoritmos estão sujeitos a verificação anual. As autoridades provinciais têm de analisar anualmente as informações de avaliação e podem realizar verificações adicionais, incluindo inspeções quando necessário.

O artigo 30.º prevê advertências, ordens para corrigir problemas e restrições como a suspensão de novos registos. A recusa em corrigir violações ou a existência de circunstâncias graves pode levar a uma ordem de suspensão do serviço em causa e a multas entre 10 000 e 100 000 yuan. Nos termos dessa disposição, os casos que envolvam perigo para a vida ou a saúde com consequências prejudiciais são puníveis com multas entre 100 000 e 200 000 yuan.

As sanções também podem ser regidas por outras leis aplicáveis. Os serviços relacionados com os cuidados de saúde ou o setor financeiro têm de cumprir os requisitos desses setores, além das medidas relativas à companhia proporcionada pela IA.

Um modelo de negócio baseado em conversas mais longas está sob pressão

As empresas de companhia proporcionada pela IA enfrentam uma tensão comercial: manter os utilizadores a conversar pode aumentar o envolvimento, mas também elevar os custos de computação e as responsabilidades de segurança. Cada resposta gerada consome recursos de computação, e manter a personalidade e a memória de uma personagem exige recursos adicionais.

Estimativas financeiras publicadas indicam que as despesas de computação da Character.AI terão rondado os 56,1 milhões de dólares entre janeiro e agosto de 2026, com prejuízos mensais de cerca de 8 a 9 milhões de dólares. As mesmas estimativas apontam para receitas de publicidade de cerca de 2,5 milhões de dólares em agosto e receitas de subscrições de cerca de 2,8 milhões, num total de 5,3 milhões. Os valores ilustram a dimensão das pressões de custos e receitas relatadas em torno de um serviço que tinha atingido cerca de 28 milhões de utilizadores ativos mensais.

As empresas estão a experimentar diferentes formas de cobrar. A Maoxiang combina a interação com personagens com histórias, assinaturas, publicidade e compras virtuais. A Zeta passou a apostar mais nas histórias, a Linky disponibiliza conteúdos colecionáveis de personagens e a Eciyuan, da Tencent, integra companheiros de IA nos jogos. Estas abordagens dão aos utilizadores algo além de uma conversa aberta para comprar, mas mantêm as empresas responsáveis pela manipulação emocional, pelas salvaguardas relativas a despesas e pela proteção de menores.

As medidas da China exigem que os prestadores financiem salvaguardas ao longo da implementação, funcionamento, atualização e encerramento dos serviços. A utilização prolongada implica agora deveres explícitos de interromper a interação com alertas, reconhecer riscos e permitir a saída. A mudança central é concreta: um companheiro de IA convincente também tem de respeitar limites, proteger a conversa e responder quando a pessoa que o utiliza precisa de ajuda para além do ecrã.

Principais pontos

• As medidas da China relativas à companhia proporcionada pela IA entraram em vigor a 15 de julho de 2026 e abrangem a interação emocional continuada que simula características humanas.
• Os prestadores não podem disponibilizar a menores companheiros virtuais, familiares virtuais ou outros serviços de relações íntimas virtuais.
• As crianças com menos de 14 anos precisam do consentimento de um tutor para aceder aos restantes serviços abrangidos e para o tratamento dos seus dados pessoais.
• As empresas têm de informar os utilizadores de que estão a interagir com uma IA, emitir alertas sobre a dependência e assinalar a utilização contínua que ultrapasse duas horas.
• Em situações de perigo grave, é necessária uma intervenção e o contacto imediato com um tutor ou contacto de emergência.
• Os utilizadores têm o direito de copiar e apagar os dados das suas interações e de sair sem que a continuação da conversa impeça a sua saída.
• As avaliações de segurança abrangem lançamentos, alterações importantes e limiares de utilização especificados; as violações graves podem levar ao encerramento do serviço e à aplicação de multas.