Uma proposta de 99 artigos para decidir o que a IA deve poder fazer
Investigadores da Universidade de Zhejiang divulgaram uma proposta especializada para uma lei sobre inteligência artificial, composta por oito capítulos e 99 artigos, com uma ideia central: a autoridade concedida a um sistema de IA deve corresponder à sua fiabilidade e às consequências da tarefa que executa.
Índice
- Uma proposta de 99 artigos para decidir o que a IA deve poder fazer
- Como foi elaborada a proposta
- Três perguntas na base das regras propostas
- A capacidade e a fiabilidade seriam avaliadas separadamente
- Que tarefas seriam submetidas a um escrutínio mais rigoroso?
- Um exemplo médico explica o princípio da adequação
- A aprovação teria de acompanhar a evolução da IA
- A proteção dos direitos e os deveres das empresas dependem dos pormenores
- Pontos principais
A proposta Versão 1.0 da Universidade de Zhejiang foi apresentada num evento de lançamento a 24 de setembro. O aviso oficial do evento da universidade marcou a sessão para 24 de setembro de 2026, entre as 14h00 e as 17h30, no campus de Zijingang. A agenda colocou o desenvolvimento da indústria a par da proteção dos direitos e da responsabilização, refletindo as duas necessidades a que a proposta procura dar resposta.
Para as pessoas afetadas pela IA, as preocupações práticas são imediatas. Pode um operador de modelos usar, sem autorização, o trabalho de um ilustrador para treinar um modelo? Quem é responsável quando um modelo de linguagem dá uma resposta prejudicial e incorreta? Como pode alguém preservar provas e procurar reparação depois de um vídeo que usa o seu rosto sem autorização se espalhar na Internet?
As empresas enfrentam outro conjunto de preocupações: requisitos de conformidade sobrepostos, procedimentos onerosos antes de os produtos poderem ser utilizados e custos que as empresas mais pequenas poderão ter dificuldade em suportar. Os investigadores afirmam que a sua abordagem procura proteger os direitos e, ao mesmo tempo, responder a estas pressões.
O documento é uma proposta académica para debate e revisão posterior. A sua ideia mais desenvolvida é um método para avaliar a IA num contexto específico, relacionando o que um sistema consegue fazer, a fiabilidade com que funciona e o que está em causa para as pessoas afetadas.
Como foi elaborada a proposta
A equipa de redação passou quase seis meses a desenvolver a proposta e concluiu cinco rondas de revisão intensiva. Uma versão inicial com 174 artigos passou a ter 99, uma redução de 75 artigos, ou cerca de 43%. Isto mostra o quanto o texto foi condensado durante a elaboração, embora o número de artigos, por si só, pouco diga sobre as exigências que cada disposição imporia aos utilizadores ou às empresas.
Os investigadores visitaram mais de 20 empresas de IA em Hangzhou, bem como grandes empresas da Internet. O trabalho também se baseou em debates no fórum legislativo de Zhijiang, em contactos com ministérios e comissões competentes e em várias rondas de apreciação por especialistas. A investigação decorreu em paralelo com o trabalho em dois projetos de regulamentos locais relativos à indústria de IA de Hangzhou e ao seu desenvolvimento como cidade de inovação.
Os organizadores foram a Faculdade de Direito Guanghua da Universidade de Zhejiang, o Instituto de Investigação em Direito Digital e Governação da universidade, o Instituto de Investigação Legislativa de Zhejiang e o Instituto de Investigação Legislativa da Universidade de Zhejiang. A agenda oficial atribuiu a apresentação e introdução da proposta a Li Wenlong, investigador da Faculdade de Direito Guanghua.
A sequência de elaboração e lançamento foi a seguinte:
- Ao longo de quase seis meses, a equipa realizou visitas a empresas, consultas e cinco rondas de revisão.
- A 24 de setembro, a proposta foi apresentada na Universidade de Zhejiang, sendo o evento datado de 2026 no aviso oficial.
- Após a reunião, a equipa planeou integrar os comentários recebidos e desenvolver novas versões.
Três perguntas na base das regras propostas
Sun Xiaoxia, diretor do Instituto de Investigação em Direito Digital e Governação da Universidade de Zhejiang, descreve o quadro através de três elementos interligados: capacidade de execução, maturidade cognitiva e natureza e impacto de uma tarefa. Em termos mais simples, as perguntas são: o que consegue fazer um sistema de IA, até que ponto é fiável e que importância têm as suas decisões.
Sun explicou, em chinês, a sua perspetiva sobre a origem dos riscos da IA:
Acreditamos que os riscos da inteligência artificial não decorrem da potência das máquinas, mas de um desfasamento entre as capacidades, a cognição e as tarefas.
Um sistema pode conseguir executar uma longa série de operações sem intervenção humana e, ainda assim, ter dificuldade em reconhecer uma situação invulgar. Atribuir-lhe uma tarefa relacionada com a segurança pessoal criaria um desfasamento perigoso entre a sua liberdade para agir e a sua capacidade para perceber que algo está errado.
Por isso, a proposta vai além de um rótulo único associado a uma tecnologia. Um regulador analisaria a versão específica de um sistema, a utilização prevista e o ambiente em que funciona. A mesma tecnologia de base poderia justificar controlos diferentes quando utilizada em tarefas distintas.
A capacidade e a fiabilidade seriam avaliadas separadamente
A escala de capacidades proposta tem quatro níveis: assistência, automatização limitada, automatização elevada e execução autónoma. A avaliação teria em conta o grau de autonomia do sistema, o alcance das suas decisões, as ferramentas a que pode aceder, o tempo durante o qual pode funcionar continuamente e a possibilidade de alterar um ambiente digital ou físico.
O acesso a ferramentas é importante porque um sistema de IA que se limita a sugerir uma ação tem um alcance diferente do de um sistema autorizado a executá-la. A permissão para operar outro software ou equipamento pode transformar uma resposta errada numa sequência de ações concretas.
A maturidade cognitiva teria também quatro níveis, descritos como básica, geral, avançada e altamente controlada. A avaliação analisaria a precisão, a consistência, a capacidade de reconhecer dados de entrada invulgares e corrigir erros, a cibersegurança, a rastreabilidade e as condições em que uma pessoa pode assumir o controlo.
Outro fator seria a calibração da confiança. Em termos simples, trata-se de verificar se a confiança expressa por um sistema corresponde à frequência com que acerta. Um sistema que se exprime com segurança, mas erra frequentemente, pode ser particularmente difícil de supervisionar pelos utilizadores.
O quadro analisaria também se é possível explicar resultados importantes e se um sistema consegue respeitar limites definidos. Separar a capacidade da fiabilidade permite a um regulador identificar um sistema suficientemente poderoso para agir de forma autónoma, mas sem fiabilidade bastante para uma tarefa sensível.
Que tarefas seriam submetidas a um escrutínio mais rigoroso?
A proposta divide as tarefas em três níveis de impacto: baixo, geral e elevado. A avaliação teria em conta a importância dos direitos afetados, a probabilidade e a gravidade dos danos, o número de pessoas afetadas, a duração dos efeitos, a possibilidade de reverter um resultado e o acesso das pessoas a uma forma de reparação.
A vulnerabilidade também seria relevante. Uma decisão que afete alguém com capacidade limitada para a contestar pode exigir uma análise mais rigorosa do que uma decisão semelhante que afete alguém com acesso fácil a apoio.
Presumir-se-ia que as tarefas relacionadas com a vida e a saúde, a liberdade pessoal, a dignidade humana, a igualdade de oportunidades, interesses patrimoniais importantes, a educação, o emprego, a segurança social, a justiça, a aplicação administrativa da lei ou a segurança pública têm um impacto elevado. O mesmo se aplicaria a tarefas suscetíveis de afetar substancialmente um grande número de pessoas.
A proposta determina também que as aplicações de IA proibidas não podem ser desenvolvidas, implementadas nem utilizadas, independentemente da classificação do impacto da tarefa. As descrições divulgadas com a proposta não apresentam a lista detalhada de aplicações proibidas nem respostas jurídicas precisas a cada uma das questões iniciais sobre direitos de autor, resultados incorretos e substituição de rostos.
Um exemplo médico explica o princípio da adequação
Sun recorreu à imagiologia médica e à análise de patologias para ilustrar por que motivo a tarefa atribuída a um sistema é tão importante como a sua capacidade técnica. A IA consegue processar rapidamente grandes volumes de imagens e dados médicos, embora o seu raciocínio possa continuar a ser limitado perante situações difíceis ou invulgares.
Uma tarefa adequada teria em conta ambas as características. Atribuir ao sistema total responsabilidade por um diagnóstico difícil, confiando em excesso na sua avaliação, criaria o desfasamento que o quadro procura evitar.
Sun descreveu, em chinês, o objetivo:
Exigir uma adequação é diferente de impor simplesmente restrições; o objetivo é alcançar a melhor correspondência entre capacidades, cognição e tarefas.
Na sua perspetiva, um sistema com fraco desempenho numa tarefa exigente poderia ser reorientado para uma tarefa menos complexa, em vez de ser descartado. A escolha prática é, portanto, mais ampla do que permitir uma utilização irrestrita ou impedi-la por completo. As autoridades e os operadores poderiam ajustar a tarefa, as permissões do sistema ou o grau de intervenção humana.
Num hospital, esta abordagem centraria a atenção no trabalho concreto atribuído à IA e nas salvaguardas aplicáveis. Para um doente, a questão central seria saber se o papel do sistema é adequado à gravidade da decisão.
A aprovação teria de acompanhar a evolução da IA
O processo de governação proposto abrange seis fases: investigação e desenvolvimento, testes, implementação, funcionamento, iteração e retirada. A classificação seria mantida ao longo de todas essas fases, pois as capacidades e as circunstâncias de um sistema podem mudar depois de começar a ser utilizado.
Uma atualização do modelo pode aumentar o leque de ações que um sistema consegue executar. A expansão para um novo contexto pode expor mais pessoas ou interesses mais sensíveis às suas decisões. Os novos dados também podem alterar o comportamento de um modelo, nomeadamente reduzindo a sua fiabilidade de formas que não eram evidentes nos testes anteriores.
A proposta prevê uma nova avaliação sempre que o sistema ou a tarefa mudem. A apreciação ficaria associada a uma versão, finalidade e ambiente de funcionamento concretos, dando aos operadores um motivo para rever as suas obrigações quando qualquer um desses elementos se altera.
Sun identifica oito áreas em que o princípio da adequação poderia orientar as regras jurídicas: classificação, atribuição de deveres, avaliações, identificação de utilizações de elevado impacto, intensidade da regulação, controlos de risco, responsabilidade jurídica e ajustamento ao longo do tempo. Ligar estas decisões através de um único quadro é a principal tentativa da proposta para tornar a governação da IA mais coerente.
A proteção dos direitos e os deveres das empresas dependem dos pormenores
As questões relativas aos ilustradores, às respostas incorretas e aos vídeos fabricados mostram por que motivo a responsabilização é importante para além dos testes técnicos. Quem procura uma indemnização ou a remoção de conteúdos prejudiciais precisa de uma via viável que ligue o dano sofrido às partes responsáveis.
A proposta integra a responsabilidade jurídica no seu quadro de adequação. Isso faria com que a adequação de um sistema à tarefa que lhe foi atribuída fosse relevante para a discussão dos deveres e da responsabilização. Contudo, a relação entre os resultados das avaliações e as regras existentes em matéria de responsabilidade civil é uma das questões que, segundo Sun, exige trabalho mais aprofundado.
Os investigadores também terão de especificar como deve ser testada a maturidade cognitiva e qual a dimensão do desfasamento entre capacidades, fiabilidade e exigências da tarefa que deve ser considerada uma inadequação. Essas escolhas determinarão a consistência com que as empresas poderão aplicar o quadro e a eficácia com que os reguladores poderão analisar as suas decisões.
A agenda do lançamento reuniu essas diferentes necessidades práticas no mesmo programa. A sessão dedicada à indústria incluía especialistas jurídicos da Meituan e da Douyin, além de participantes académicos e técnicos. A sessão sobre direitos e responsabilização incluía um diretor de conformidade da Alibaba, advogados e académicos universitários. A sua inclusão mostra a diversidade de perspetivas que os organizadores procuraram reunir para o debate; a agenda não permite atribuir aos participantes uma posição comum sobre o projeto.
Para as empresas mais pequenas, estão em causa o número de avaliações exigidas, as provas que terão de apresentar e a forma como as obrigações mudam à medida que um produto evolui. Para as pessoas afetadas pela IA, está em causa saber se essas obrigações ajudam a prevenir danos e permitem obter uma reparação efetiva quando algo corre mal.
A equipa de investigação tenciona rever a proposta com base nos comentários recebidos na reunião. O trabalho central consiste agora em transformar o princípio da adequação em testes, limiares e regras de responsabilidade que possam ser aplicados em litígios concretos e em decisões sobre produtos.
Pontos principais
- A proposta especializada de lei da IA da Universidade de Zhejiang tem oito capítulos e 99 artigos, condensados a partir de uma versão inicial com 174 artigos.
- O quadro relaciona a capacidade de execução de um sistema, a sua fiabilidade cognitiva e a tarefa que lhe é atribuída.
- Presumir-se-ia que tarefas sensíveis relacionadas com a saúde, a liberdade, o emprego, a educação e outras áreas têm um impacto elevado.
- As avaliações abrangeriam todo o ciclo de desenvolvimento e utilização e seriam alteradas sempre que o sistema ou a tarefa mudassem.
- A proposta académica será objeto de novas revisões, sendo necessário aprofundar os métodos de teste, os limiares e as regras de responsabilidade.
