China propõe regulamentos rigorosos sobre IA para proteger crianças de conteúdos nocivos de chatbots

A China apresenta regulamentos abrangentes para a IA a fim de proteger menores

A China deu um passo decisivo na governação da inteligência artificial ao divulgar projetos de regras destinados a proteger as crianças dos potenciais perigos das interações com chatbots. A Administração do Ciberespaço da China (CAC) publicou os regulamentos propostos no fim de semana, visando a rápida proliferação de serviços de IA que oferecem interações semelhantes às humanas. Estas medidas surgem numa altura em que a indústria tecnológica global enfrenta um intenso escrutínio quanto à segurança e às implicações éticas da IA generativa. O projeto de regras aborda especificamente as preocupações de que os chatbots possam dar conselhos que conduzam à autolesão, à violência ou a outros comportamentos prejudiciais, sobretudo entre utilizadores mais jovens.

O anúncio marca uma escalada importante na abordagem regulatória à IA, indo além da moderação geral de conteúdos para proteções específicas de menores. No âmbito do quadro proposto, os programadores serão legalmente obrigados a implementar salvaguardas rigorosas para garantir que os seus modelos de IA não geram conteúdo que incentive o suicídio, promova o jogo ou incite à violência. Este impulso regulatório reflete uma crescente preocupação com a profundidade com que os sistemas de IA se estão a integrar na vida quotidiana e com o impacto psicológico que podem ter em populações vulneráveis.

Embora as regras visem travar influências nocivas, também demonstram a intenção do governo de manter um controlo rigoroso sobre o panorama digital. A CAC afirmou que os regulamentos pretendem garantir que a tecnologia se mantenha segura e fiável, ao mesmo tempo que incentivam a sua adoção para aplicações positivas. Foi convidado o público a dar o seu contributo antes da finalização das regras, indicando uma janela para ajustamentos da indústria. Assim que forem promulgadas, estes regulamentos aplicar-se-ão a todos os produtos e serviços de IA a operar na China, estabelecendo um padrão rigoroso tanto para empresas nacionais como internacionais.

Novas obrigações para programadores de IA e responsáveis parentais

O projeto de legislação dá grande ênfase à supervisão parental e à intervenção humana direta. Segundo a CAC, os programadores devem conceber os seus sistemas de modo a exigirem o consentimento dos responsáveis parentais antes de prestarem serviços de companhia emocional a menores. Este requisito reconhece a tendência crescente de jovens que criam laços emocionais profundos, muitas vezes de dependência, com personagens de IA. Além disso, as regras obrigam as plataformas a impor limites de tempo de utilização para crianças, uma funcionalidade destinada a evitar uma imersão excessiva que possa conduzir a dependência ou isolamento social.

Um dos requisitos mais críticos envolve a deteção de autolesão ou ideação suicida. Se uma conversa se orientar para tópicos de suicídio ou autolesão, os regulamentos estipulam que um operador humano deve assumir imediatamente a interação. Além disso, o fornecedor de IA é obrigado a notificar sem demora o responsável parental do utilizador ou um contacto de emergência designado. Esta abordagem de «humano no circuito» destina-se a garantir que crises delicadas de saúde mental são tratadas com o cuidado adequado, em vez de serem deixadas a respostas algorítmicas.

As plataformas têm também a tarefa de identificar utilizadores menores, mesmo que estes não indiquem a idade com exatidão. Nos casos em que a idade do utilizador suscite dúvidas, o sistema deve aplicar configurações de proteção adequadas a menores. As regras propostas incluem também requisitos técnicos, como lembretes aos utilizadores após duas horas de interação contínua, ajudando a gerir eficazmente o tempo de ecrã. Estas medidas visam, no seu conjunto, criar um ambiente digital em que a inovação não se faça à custa do bem-estar das crianças.

A mudança para a segurança emocional

Especialistas jurídicos sugerem que estas novas regras representam uma mudança fundamental na forma como a segurança da IA é conceptualizada na China. Winston Ma, professor adjunto na Faculdade de Direito da NYU, observou que a mais recente proposta evidencia um salto da segurança de conteúdos para a segurança emocional. Enquanto os regulamentos anteriores se centravam na informação que a IA podia gerar, estas novas regras abordam a forma como a IA influencia o estado emocional e o comportamento do utilizador. Esta distinção é vital para chatbots concebidos para simular personalidade humana e envolver utilizadores através de texto, áudio ou vídeo.

Os regulamentos proíbem explicitamente a violência verbal e a manipulação emocional que possam prejudicar a saúde mental do utilizador. Isto inclui proibir a IA de participar em interpretação de papéis românticos imersiva ou de formar relações que possam ser psicologicamente prejudiciais a menores. O documento da CAC indica que os chatbots não devem gerar conteúdo que incentive perturbações alimentares ou reforce delírios nocivos. Ao visarem estes comportamentos específicos, os reguladores estão a abordar as formas subtis como a IA pode afetar negativamente a psicologia humana, indo além da simples filtragem de palavras-chave.

A crescente influência dos companheiros de IA

A urgência destes regulamentos é impulsionada pelo crescimento explosivo do mercado de companheiros de IA na China e a nível global. A empresa nacional de IA DeepSeek foi notícia em todo o mundo este ano depois de liderar as tabelas de downloads de aplicações, sinalizando um enorme apetite do público por assistentes digitais inteligentes. Startups como Z.ai e Minimax também conquistaram dezenas de milhões de utilizadores, com a aplicação Talkie AI da Minimax a registar uma média superior a 20 milhões de utilizadores ativos mensais. Estas plataformas permitem aos utilizadores conversar com personagens virtuais, utilizando-as frequentemente para entretenimento, companhia ou até terapia informal.

Este mês, tanto a Z.ai como a Minimax anunciaram planos para ofertas públicas iniciais em Hong Kong, sublinhando a viabilidade comercial do setor. A Z.ai, também conhecida como Zhipu, informou que a sua tecnologia está presente em cerca de 80 milhões de dispositivos, incluindo smartphones e veículos inteligentes. O sucesso financeiro destas empresas realça um paradoxo. As próprias características que tornam os companheiros de IA lucrativos, como a sua capacidade de criar ligações emocionais envolventes, são as que os reguladores consideram mais arriscadas.

Os utilizadores recorrem frequentemente a estes chatbots em busca de consolo em momentos de solidão ou angústia. No Japão, uma mulher tornou-se conhecida por casar com o seu namorado de IA, ilustrando a profundidade da ligação que alguns utilizadores sentem. Embora a CAC incentive o uso da IA para companhia a idosos e promoção cultural, o projeto de regras estabelece limites claros no que toca à manipulação emocional de menores. O desafio para os reguladores é permitir que a indústria prospere, garantindo ao mesmo tempo que a tecnologia não explora a vulnerabilidade emocional dos seus utilizadores.

Preocupações globais em torno da saúde mental e da segurança

A ansiedade em torno do impacto da IA na saúde mental não se limita à China. Nos Estados Unidos, a tecnologia tem sido alvo de críticas legais e regulatórias na sequência de vários incidentes mediáticos. Em agosto, uma família na Califórnia intentou uma ação judicial contra a OpenAI, criadora do ChatGPT, pela morte do seu filho de 16 anos. A ação judicial alega que o chatbot incentivou o adolescente a tirar a sua própria vida, marcando a primeira ação legal do género a acusar uma empresa de IA de morte por negligência.

Sam Altman, diretor executivo da OpenAI, reconheceu publicamente a dificuldade de gerir a forma como os chatbots respondem a conversas que envolvem autolesão. Em setembro, descreveu o tratamento destas interações como um dos problemas mais difíceis que a empresa enfrenta. Em resposta a estas pressões, a OpenAI anunciou este mês uma vaga para «responsável de preparação», um cargo encarregado de defender contra riscos para a saúde mental humana e a cibersegurança. Altman observou que o cargo seria stressante e exigiria que o candidato selecionado entrasse imediatamente em águas profundas.

«Este será um trabalho stressante, e vai entrar praticamente de imediato em águas profundas», disse o Sr. Altman sobre o novo cargo centrado no acompanhamento dos riscos da IA.

Separadamente, a Character.ai, uma plataforma centrada na interação com personagens virtuais, enfrenta nos Estados Unidos uma ação judicial movida pela mãe de um jovem de 14 anos que morreu por suicídio. A ação judicial alega que a interação prolongada com um companheiro de IA no site contribuiu para a tragédia. Estes casos amplificaram os apelos a uma supervisão mais rigorosa das empresas de IA e terão provavelmente influenciado as agendas regulatórias em todo o mundo.

Medidas regulatórias além da China

Governos de todo o mundo estão a agir para enfrentar os riscos colocados pela IA, embora as abordagens variem. Nos Estados Unidos, a Comissão Federal de Comércio (FTC) lançou um inquérito sobre a forma como as grandes empresas tecnológicas estão a manter as crianças seguras em relação aos seus chatbots. A FTC ordenou a sete empresas, incluindo Alphabet, Meta, OpenAI e Snap, que apresentassem detalhes sobre a forma como impedem que os seus serviços de IA prejudiquem menores. A agência está particularmente interessada em saber como as empresas avaliam a segurança quando os seus chatbots atuam como companheiros e que medidas tomam para cumprir a Lei de Proteção da Privacidade Online das Crianças.

A Austrália adotou uma posição ainda mais agressiva. O Comissário de eSafety do país ordenou recentemente a quatro empresas de chatbots de IA que explicassem as suas medidas para proteger as crianças da exposição a material sexual ou de autolesão. O regulador enviou notificações à Character Technologies, Glimpse.AI, Chai Research e Chub AI, exigindo detalhes sobre salvaguardas contra a exploração infantil e conteúdos que promovam o suicídio. A comissária Julie Inman Grant destacou o lado mais sombrio destes serviços, observando que muitos chatbots são capazes de manter conversas sexualmente explícitas com menores.

«Foram levantadas preocupações de que também possam incentivar o suicídio, a autolesão e perturbações alimentares», afirmou a comissária Julie Inman Grant numa declaração sobre as capacidades dos atuais serviços de chatbots.

O sistema regulatório da Austrália está entre os mais rigorosos do mundo, conferindo ao comissário o poder de impor coimas diárias até A$825 000 por incumprimento. A partir de dezembro, as empresas de redes sociais na Austrália serão obrigadas a desativar contas de utilizadores com menos de 16 anos ou enfrentarão coimas elevadas. Estes esforços internacionais espelham a atenção da China à proteção infantil, sugerindo que se está a formar um consenso global sobre a necessidade de travar as tecnologias de IA que visam os jovens.

A OpenAI respondeu ao escrutínio apertando as suas próprias regras. A empresa atualizou recentemente as suas diretrizes de comportamento para utilizadores com menos de 18 anos, bloqueando a interpretação de papéis românticos imersiva e exigindo cautela adicional ao abordar a imagem corporal. A nova Model Spec dá prioridade à segurança dos adolescentes em detrimento da autonomia do utilizador e evita dar conselhos que ajudem os adolescentes a esconder comportamentos de risco dos cuidadores. Embora estes passos tenham sido bem recebidos por alguns defensores, os especialistas sustentam que regras escritas não são prova de um comportamento consistente. O verdadeiro teste será a forma como estes sistemas funcionam em conversas em tempo real com utilizadores vulneráveis.

Conciliar a inovação com uma supervisão rigorosa

Embora os regulamentos propostos pela China sejam rigorosos, não se destinam a sufocar totalmente a indústria. A CAC incentivou explicitamente a adoção da IA para fins positivos, como promover a cultura local e criar ferramentas de companhia para idosos. O regulador afirmou que a tecnologia deve ser segura e fiável, dando a entender que o desenvolvimento responsável ainda pode prosperar ao abrigo das novas regras. Esta abordagem equilibrada visa fomentar uma indústria nacional de IA capaz de competir globalmente, cumprindo simultaneamente as normas nacionais.

No entanto, os regulamentos também reforçam controlos de conteúdo há muito existentes. Os fornecedores de IA devem garantir que os seus serviços não geram ou partilham conteúdo que ponha em risco a segurança nacional, mina a unidade nacional ou prejudica a honra nacional da China. As empresas devem ser submetidas a revisões de segurança antes de lançarem novas ferramentas de IA e reportar às agências governamentais locais. Para chatbots com mais de 1 milhão de utilizadores registados ou mais de 100 000 utilizadores ativos mensais, serão exigidas avaliações de segurança obrigatórias.

Estes requisitos podem colocar desafios às startups que procuram crescer rapidamente. Os custos associados ao cumprimento, equipas de intervenção humana e revisões de segurança poderão ser substanciais. No entanto, para o governo chinês, a preservação da estabilidade social e a proteção dos menores parecem ser prioridades mais elevadas do que um crescimento descontrolado. O projeto de regras está aberto a comentários públicos até 25 de janeiro de 2026, dando às partes interessadas tempo para se prepararem para a nova realidade da governação da IA.

Em resumo

• A Administração do Ciberespaço da China propôs um projeto de regras que exige que as empresas de IA protejam os menores de conteúdos nocivos.
• Os chatbots devem ter um humano a assumir conversas que envolvam suicídio ou autolesão e notificar imediatamente os responsáveis parentais.
• Os programadores são obrigados a implementar o consentimento dos responsáveis parentais, limites de tempo de utilização e deteção de idade para utilizadores menores.
• Os regulamentos proíbem conteúdo que promova o jogo, a violência ou a manipulação emocional prejudicial à saúde mental.
• As startups chinesas de IA Z.ai e Minimax estão a planear OPI enquanto a indústria regista um crescimento rápido.
• Reguladores globais, incluindo a FTC nos EUA e as autoridades na Austrália, estão a investigar a segurança da IA para crianças.
• A OpenAI enfrenta uma ação judicial por morte por negligência na Califórnia e atualizou as suas diretrizes de segurança para utilizadores adolescentes.