Coreia do Sul promulga a primeira lei abrangente de IA do mundo, equilibrando inovação e segurança

Coreia do Sul assume liderança global com a Lei Básica de IA

A Coreia do Sul promulgou oficialmente aquilo que afirma ser o primeiro conjunto abrangente de leis do mundo que regula a inteligência artificial. A “Lei Básica de IA”, composta por seis capítulos e 43 artigos, tornou-se lei na quinta-feira, estabelecendo um quadro regulamentar que abrange um território invulgarmente vasto de atividades e intervenientes de IA. A legislação visa proteger os cidadãos e, ao mesmo tempo, estabelecer aquilo que os responsáveis descrevem como uma “base de confiança” numa sociedade cada vez mais impulsionada pela IA.

Este passo marcante coloca a Coreia do Sul à frente de outras grandes economias na criação de uma abordagem unificada à governação da IA. Embora a União Europeia tenha começado a aplicar algumas regulamentações relacionadas com a IA no ano passado, o núcleo principal da sua Lei da IA iniciará uma implementação faseada em agosto. Os Estados Unidos continuam sem uma lei federal de IA, embora a Casa Branca tenha emitido, no mês passado, uma ordem executiva que contesta leis estaduais “onerosas” consideradas como um entrave à inovação em IA. A China adotou uma abordagem diferente, acrescentando certas disposições sobre ética ou monitorização de riscos à sua lei de cibersegurança existente.

A Lei Básica de IA da Coreia do Sul representa um passo significativo no esforço global para regular as tecnologias de inteligência artificial. A lei foi concebida para alcançar dois objetivos complementares: fomentar o crescimento da indústria de IA da Coreia do Sul e, simultaneamente, implementar salvaguardas necessárias para proteger os cidadãos dos riscos potenciais associados à utilização da IA.

Estamos a abordar isto a partir do nível mais básico do consenso global. O objetivo não é travar o desenvolvimento da IA através da regulamentação. É garantir que as pessoas a possam utilizar com um sentimento de confiança.

Estes comentários de Kim Kyeong-man, vice-ministro do gabinete de política de IA do ministério das TIC, sublinham a intenção da Coreia do Sul de criar um quadro equilibrado que não impeça o avanço tecnológico e, ao mesmo tempo, responda às preocupações do público sobre segurança e fiabilidade.

Definir sistemas de IA de alto impacto

Uma característica central da nova lei da Coreia do Sul é o seu foco na “IA de alto impacto” — sistemas que têm o potencial de afetar significativamente a vida humana, a segurança ou os direitos fundamentais. A legislação identifica especificamente 11 áreas críticas onde os sistemas de IA exigem medidas reforçadas de supervisão e transparência:

• Sistemas de abastecimento de energia
• Processos de produção de água potável
• Sistemas de serviços de saúde
• Desenvolvimento e utilização de dispositivos médicos
• Gestão de materiais e instalações nucleares
• Análise de informações biométricas para investigações criminais
• Avaliações de emprego e de empréstimos
• Sistemas e gestão de transportes
• Tomada de decisões governamentais com impacto nos serviços públicos
• Avaliação de estudantes na educação
• Outras áreas com impacto significativo na vida, segurança e direitos humanos

Para estas aplicações de alto impacto, as empresas devem implementar várias salvaguardas essenciais. Têm de ser capazes de explicar a lógica de decisão do seu sistema de IA, se tal lhes for pedido, garantir que os humanos podem intervir quando necessário e fornecer um aviso claro aos utilizadores de que estão a interagir com serviços impulsionados por IA. Isto aplica-se a situações como sistemas utilizados para avaliar candidatos a empréstimos ou oportunidades de emprego.

A lei introduz uma distinção importante entre “IA de alto impacto” e aquilo a que a Coreia do Sul chama “IA de alto desempenho”. Enquanto a União Europeia se concentra principalmente no risco específico da aplicação nas suas regulamentações, a Coreia do Sul adotou uma abordagem diferente, aplicando limiares técnicos para determinar quais sistemas exigem regulamentação. Estes limiares incluem indicadores como a computação cumulativa de treino, o que significa que apenas um conjunto muito limitado de modelos avançados ficaria sujeito aos requisitos de segurança mais rigorosos.

Atualmente, o governo sul-coreano indica que nenhum modelo de IA existente, a nível nacional ou internacional, cumpre os critérios de regulamentação ao abrigo desta cláusula de alto desempenho. Do mesmo modo, os responsáveis afirmam que nenhum serviço nacional se enquadra atualmente na categoria de “alto impacto”, embora os veículos totalmente autónomos de Nível 4 ou superior possam vir a cumprir estes critérios no futuro.

Requisitos de transparência e rotulagem de IA

Um dos aspetos mais visíveis da regulamentação da IA na Coreia do Sul envolve requisitos de transparência em conteúdos gerados por IA. Ao abrigo da nova lei, as empresas devem fornecer rótulos claros ou audíveis — como marcas de água — para conteúdos gerados por IA que possam ser confundidos com a realidade. Este requisito visa especificamente conteúdos deepfake e outros resultados de IA que apresentem riscos de desinformação ou engano.

A abordagem à rotulagem varia consoante o tipo de conteúdo. Para resultados em que distinguir entre o real e o gerado por IA é crucial para a segurança ou autenticidade, a rotulagem visível é obrigatória. No entanto, para conteúdos criativos feitos com IA, como jogos, animações ou webtoons, a lei permite métodos de divulgação menos intrusivos, incluindo a colocação de rótulos em metadados que podem não ser imediatamente visíveis para os utilizadores finais.

Esta abordagem matizada suscitou questões em indústrias como a criação de webtoons, onde as plataformas e os criadores não sabem ao certo qual a amplitude da definição de conteúdo “gerado por IA”. Persistem preocupações quanto à possibilidade de o uso parcial de IA — como a geração de fundos, a coloração ou a edição — poder desencadear obrigações de divulgação. A lei não regula utilizadores individuais que simplesmente utilizam ferramentas de IA, mas aplica-se a plataformas e empresas que oferecem ferramentas de criação com IA ou distribuem obras geradas por IA.

A aplicação de marcas de água a conteúdos gerados por IA é a salvaguarda mínima para prevenir efeitos secundários do abuso da tecnologia de IA, como conteúdos deepfake.

Esta declaração de um responsável do ministério sublinha a ênfase do governo na rotulagem como medida fundamental de proteção contra a utilização indevida da IA. Os requisitos de transparência vão além da rotulagem de conteúdos e incluem divulgações obrigatórias quando os utilizadores interagem com serviços impulsionados por IA. As empresas devem notificar os utilizadores com antecedência quando fornecem produtos ou serviços que utilizam IA de alto impacto ou generativa, normalmente através de mecanismos como alertas pop-up ou avisos destacados.

Estrutura de governação e apoio à indústria

A Lei Básica de IA estabelece uma estrutura de governação abrangente para a política de IA na Coreia do Sul. O Ministério da Ciência e TIC é a principal autoridade responsável pela implementação da política de IA, enquanto o Comité Nacional de IA funciona sob a autoridade do Presidente para deliberar e decidir sobre orientações políticas mais amplas em matéria de IA. A legislação cria também um Centro de Política de IA e um Instituto de Segurança de IA para apoiar a implementação de políticas e responder a preocupações de segurança.

Além das medidas regulamentares, a lei inclui numerosas disposições destinadas a apoiar o desenvolvimento e o crescimento da IA na Coreia do Sul. Estas medidas promocionais incluem apoio à investigação e desenvolvimento em IA, normalização da tecnologia de IA, desenvolvimento de dados de aprendizagem de IA e iniciativas para ajudar as empresas a adotar e utilizar tecnologias de IA. É dada especial atenção ao apoio a pequenas e médias empresas, startups e ao desenvolvimento de talentos na área da IA.

A lei proporciona também a base jurídica para estabelecer um “Plano Básico para a IA”, que servirá como roteiro de políticas para desenvolver a tecnologia de IA na Coreia do Sul. Esta abordagem abrangente reconhece que uma regulamentação bem-sucedida da IA exige não apenas restrições, mas também apoio ativo à inovação e à competitividade no panorama global da IA.

Para reduzir o ónus inicial sobre as empresas, o governo sul-coreano implementou um período de tolerância de pelo menos um ano. Durante este período, as autoridades não realizarão investigações de apuramento de factos nem imporão sanções administrativas, concentrando-se antes em consultas e formação. Foi criado um balcão de apoio dedicado à Lei da IA para ajudar as empresas a determinar se os seus sistemas se enquadram no âmbito da lei e como responder adequadamente.

O Balcão de Apoio da Lei-Quadro sobre IA, composto por especialistas de organizações como o Instituto de Segurança de IA e a Agência Nacional da Sociedade da Informação, presta consultas e orientações confidenciais àqueles que desenvolvem, fazem negócios com ou utilizam ferramentas de inteligência artificial, em conformidade com os novos regulamentos.

Requisitos de conformidade e penalizações

As empresas que operam na Coreia do Sul ou oferecem serviços a utilizadores coreanos enfrentam obrigações específicas de conformidade ao abrigo da nova lei. As empresas estrangeiras de IA que cumpram determinados critérios — como terem um volume de negócios anual global de 1 bilião de won (681 milhões de dólares) ou mais, vendas nacionais de 10 mil milhões de won ou superiores, ou pelo menos 1 milhão de utilizadores diários no país — devem designar um representante local para servir de ligação com as autoridades. Atualmente, grandes empresas como a OpenAI e a Google enquadram-se nestes requisitos.

Os operadores de IA estão divididos em duas categorias: operadores de desenvolvimento de IA, que desenvolvem e fornecem IA, e operadores de utilização de IA, que fornecem produtos ou serviços de IA utilizando IA fornecida por programadores. Ambas as categorias enfrentam obrigações de transparência, mas o foco regulamentar continua a ser principalmente nos sistemas de IA de alto impacto e de IA generativa.

A abordagem de aplicação da lei da Coreia do Sul é intencionalmente leve em comparação com outras jurisdições. Não impõe sanções penais. Em vez disso, dá prioridade a ordens corretivas em caso de incumprimento, com coimas — limitadas a 30 milhões de won (26 200 dólares) — emitidas apenas se essas ordens forem ignoradas. Isto reflete uma abordagem orientada para a conformidade e não para a punição, como sublinharam os responsáveis governamentais.

Para comparação, o quadro regulamentar da UE estabelece sanções muito mais fortes, com vários níveis de penalizações dependendo do tipo de infração, incluindo coimas administrativas até 7% do volume de negócios anual global. Esta diferença significativa na severidade das penalizações reflete a intenção declarada da Coreia do Sul de manter regulamentações mínimas, mas ainda assim estabelecer um quadro básico de segurança.

As três violações específicas sujeitas a coimas ao abrigo da lei sul-coreana são: não notificar as autoridades sobre operações baseadas em IA ao fornecer produtos ou serviços que utilizam IA de alto impacto ou IA generativa, não designar um representante nacional quando exigido, e não cumprir ordens de suspensão ou correção emitidas pelo Ministro da Ciência e TIC.

Reação da indústria e preocupações das startups

Embora o governo apresente a Lei Básica de IA como uma abordagem equilibrada que apoia a inovação e, ao mesmo tempo, garante a segurança, nem todos na indústria tecnológica partilham esta perspetiva. As startups sul-coreanas manifestaram preocupações quanto aos potenciais encargos de conformidade impostos pelos novos regulamentos, sobretudo porque entram em vigor mais cedo do que quadros semelhantes noutros países.

De acordo com um inquérito da Startup Alliance, apenas 2% das startups focadas em IA consideram ter um plano formal de conformidade em vigor, enquanto cerca de metade admite não compreender totalmente os requisitos da nova lei. Esta falta de clareza criou ansiedade entre os fundadores, que receiam que a linguagem vaga da legislação os possa forçar a adotar estratégias de desenvolvimento demasiado cautelosas para evitarem riscos regulamentares.

Há um pouco de ressentimento — porque é que temos de ser os primeiros a fazer isto?

Este comentário de Lim Jung-wook, co-responsável da Startup Alliance da Coreia do Sul, capta a frustração que alguns empresários sentem por estarem sujeitos a regulamentações abrangentes de IA antes dos seus concorrentes globais. Muitos fundadores questionam se ser o primeiro a regular a IA dará à Coreia do Sul uma vantagem ou colocará as suas empresas nacionais em desvantagem a nível internacional.

O Presidente Lee Jae Myung reconheceu estas preocupações, apelando aos decisores políticos para ouvirem os comentários da indústria e garantirem que as empresas de capital de risco e as startups recebem apoio adequado. Numa recente reunião com assessores, Lee sublinhou a importância de maximizar o potencial da indústria através de apoio institucional, gerindo preventivamente os efeitos secundários previstos.

O Ministério da Ciência e TIC respondeu a estas preocupações ao planear uma plataforma de orientação e um centro de apoio dedicado às empresas durante o período de tolerância. Um porta-voz observou que o governo continua a analisar medidas para minimizar o ónus sobre a indústria e está a considerar prolongar o período de tolerância se as condições da indústria nacional e internacional o justificarem.

Comparação com abordagens internacionais

A Lei Básica de IA da Coreia do Sul representa uma filosofia regulamentar distinta que difere das abordagens adotadas noutras grandes economias. A legislação faz referência tanto ao modelo dos EUA, que se concentra na autonomia do setor privado, como ao modelo regulamentar da UE, que dá ênfase à segurança e à fiabilidade. Em última análise, a Coreia do Sul escolheu um caminho único que tenta harmonizar uma regulamentação mínima com a promoção da IA para alcançar o objetivo de se tornar um país líder na competitividade global em IA.

Tal como a Lei da IA da UE, o quadro da Coreia do Sul define sistemas de IA e estabelece várias obrigações relacionadas com a IA de alto impacto, incluindo Avaliações de Impacto nos Direitos Fundamentais (FRIAs). No entanto, o nível específico de regulamentação pode mudar de acordo com futura legislação subordinada, que deverá ser publicada no primeiro semestre de 2025.

Uma diferença significativa entre as abordagens sul-coreana e da UE reside na forma como as obrigações estão estruturadas. A Lei da IA da UE estipula obrigações diferenciadas com base nos tipos de participantes na cadeia de valor da IA, enquanto a Lei-Quadro da IA da Coreia do Sul define obrigações de forma abrangente, sem distinguir entre diferentes tipos de participantes. Esta abordagem mais simples pode reduzir a complexidade, mas também pode criar desafios na aplicação de uma supervisão adequada em todo o diversificado ecossistema de IA.

A abordagem da Coreia do Sul para definir a IA de alto impacto também difere da metodologia da UE. Enquanto a UE se concentra no risco específico da aplicação — visando a IA utilizada em áreas como saúde, recrutamento e aplicação da lei —, a Coreia do Sul aplica limiares técnicos para determinar quais sistemas exigem regulamentação. Estes incluem indicadores como a computação cumulativa de treino, resultando num conjunto potencialmente muito menor de sistemas regulados ao abrigo das atuais capacidades tecnológicas.

A diferença na filosofia regulamentar também é evidente nas penalizações impostas por violações. A UE estabeleceu sanções fortes com coimas até 7% do volume de negócios anual global, enquanto o quadro da Coreia do Sul impõe coimas administrativas de apenas até 30 milhões de won (aproximadamente 26 200 dólares). Esta diferença dramática reflete a ênfase da Coreia do Sul na conformidade e correção em vez da punição.

Implicações globais e perspetivas futuras

A promulgação de legislação abrangente sobre IA pela Coreia do Sul tem implicações significativas para o panorama global da IA. Como o segundo país, depois da União Europeia, a adotar um quadro regulamentar abrangente para a IA, a Coreia do Sul forneceu um novo exemplo legislativo que outras nações podem considerar ao desenvolver as suas próprias abordagens à governação da IA.

A aprovação da lei, apesar da turbulência política que envolveu a declaração de lei marcial do Presidente Yoon Suk Yeol e o subsequente impeachment, demonstra o consenso interpartidário sobre a importância da regulamentação da IA. A lei foi aprovada em sessão plenária da Assembleia Nacional em 26 de dezembro de 2024, com um apoio bipartidário esmagador, destacando o amplo acordo político sobre como enfrentar os desafios da IA.

Olhando para o futuro, os responsáveis sul-coreanos reconheceram que a legislação atual representa um ponto de partida e não um produto acabado. A implementação detalhada de muitas disposições dependerá de legislação subordinada e de orientações específicas por setor, que serão finalizadas durante o período de preparação de um ano antes de a lei entrar plenamente em vigor em janeiro de 2026.

A função de coordenação do Comité Nacional de IA tornar-se-á crucial à medida que a Coreia do Sul trabalha para harmonizar o conhecimento especializado dos ministérios relevantes, considerando as características dos diferentes alvos ou setores regulamentares. À medida que a tecnologia de IA se espalha por todos os domínios — desde informações pessoais e direitos de autor até cuidados de saúde e defesa —, uma governação eficaz exigirá uma coordenação cuidadosa entre várias agências governamentais.

À medida que as normas globais e as discussões sobre governação da IA se intensificam, a necessidade de interoperabilidade internacional e de cooperação em matéria de regulamentação para garantir a fiabilidade da IA tornou-se ainda maior. A abordagem da Coreia do Sul pode influenciar estas discussões internacionais, em particular no que respeita ao equilíbrio entre inovação e preocupações de segurança na governação da IA.

Conclusão

• A Coreia do Sul promulgou a primeira lei abrangente de IA do mundo, a Lei Básica de IA, que abrange o desenvolvimento, a implementação e a utilização da inteligência artificial.
• A lei define “IA de alto impacto” em 11 setores críticos, incluindo cuidados de saúde, finanças, transportes e serviços públicos, exigindo capacidades reforçadas de supervisão e intervenção humana.
• O conteúdo gerado por IA deve ser rotulado, com marcas de água visíveis para conteúdos que possam ser confundidos com a realidade e rotulagem menos intrusiva para obras criativas como webtoons e animações.
• As empresas estrangeiras de IA que cumpram limiares de receita ou de utilizadores devem designar um representante local na Coreia do Sul.
• As penalizações por incumprimento estão limitadas a 30 milhões de won (26 200 dólares), significativamente inferiores às coimas da UE, que podem atingir 7% do volume de negócios anual global.
• A lei inclui um período de tolerância de um ano centrado na orientação e não na punição, com um balcão de apoio dedicado para empresas que procurem assistência em matéria de conformidade.
• As startups manifestaram preocupações quanto aos encargos de conformidade e à linguagem vaga da legislação, com apenas 2% a afirmar que têm planos formais de conformidade em vigor.
• A lei visa posicionar a Coreia do Sul como uma potência global de IA entre as três primeiras, ao mesmo tempo que estabelece uma base de confiança para a tecnologia de IA.
• A abordagem da Coreia do Sul difere da da UE ao concentrar-se em limiares técnicos em vez de riscos específicos da aplicação para regular sistemas avançados de IA.
• A implementação plena começará em janeiro de 2026, após um período de preparação de um ano para legislação subordinada e orientações detalhadas.