A disponibilização gratuita de IA na Coreia do Sul testa se o acesso consegue acompanhar os riscos

Uma ferramenta pública de IA passa das promessas ao teste de pressão

A Coreia do Sul prepara-se para oferecer a todos os cidadãos acesso gratuito à inteligência artificial, colocando chatbots e agentes de IA ao alcance de pessoas que poderão utilizá-los nos trabalhos escolares, nos cuidados de saúde, nos serviços públicos e nas decisões do dia a dia. A iniciativa, denominada «IA para Todos», pretende alargar a utilização desta tecnologia e ajudar o país a competir com os Estados Unidos e a China. Coloca também em evidência uma questão difícil: conseguirão as salvaguardas acompanhar o ritmo quando a IA se tornar parte habitual da vida pública?

O governo do presidente Lee Jae Myung planeia começar com um serviço em fase beta e, depois, ponderar transformar o projecto-piloto numa ferramenta pública permanente, financiada pelos contribuintes, a partir do próximo ano. O serviço proposto ligaria os utilizadores a ferramentas de IA de uso geral desenvolvidas por três consórcios nacionais liderados pela SK Telecom, pela KT e pela Kakao. O governo emprestou aos grupos centenas de unidades de processamento gráfico Nvidia B200, chips especializados utilizados para treinar e executar sistemas de IA exigentes.

As autoridades imaginam, a prazo, intermediários de IA que ajudem as pessoas a marcar consultas médicas, procurar habitação e obter orientação fiscal através de serviços ligados ao governo. Essa perspectiva poderá facilitar a utilização dos sistemas públicos, sobretudo para quem tem dificuldade com formulários complexos ou longos tempos de espera. Significa também que erros, falhas de privacidade ou recomendações tendenciosas poderão afectar pessoas que recorrem a serviços essenciais.

O governo afectou 250 mil milhões de won à implementação até 2027, além de um orçamento de 10 biliões de won para a IA no actual ano financeiro. A dimensão do investimento reflecte uma estratégia nacional para desenvolver capacidades em IA e alargar o acesso, em vez de o limitar a quem pode pagar subscrições privadas. O projecto-piloto irá testar se o acesso gratuito se traduz em infra-estruturas públicas úteis e se os cidadãos podem confiar os seus dados e perguntas aos sistemas.

Porque estão os líderes da IA a alertar para os riscos da tecnologia?

Os planos da Coreia do Sul surgem numa altura em que figuras proeminentes do sector da IA alertam para os sérios riscos associados ao rápido desenvolvimento. Dario Amodei, director-executivo da Anthropic, apelou a que o sector abrande. Um antigo engenheiro da Anthropic, que também tinha trabalhado na OpenAI, disse, depois de deixar a empresa, que estava «genuinamente assustado» com a possibilidade de um desenvolvimento sem controlo significar que «podíamos todos morrer num futuro próximo». O cientista informático Geoffrey Hinton, vencedor do Prémio Nobel e frequentemente apelidado de «padrinho da IA», também alertou para o perigo existencial que sistemas avançados poderão representar se escaparem ao controlo humano.

Estes alertas dizem respeito a cenários que vão desde armas autónomas e ciberataques conduzidos por máquinas até ao desemprego em massa. Outros riscos são já mais conhecidos: imagens e vídeos falsos convincentes, decisões automatizadas discriminatórias e pessoas que confiam em sistemas que apresentam respostas incorrectas com segurança. A disponibilização pública não cria todos estes perigos, mas pode aumentar a exposição ao tornar a IA mais fácil de utilizar em larga escala.

Os sistemas de IA de uso geral geram respostas identificando padrões nos dados, em vez de compreenderem o mundo no sentido humano. Podem ser úteis para redigir, resumir e navegar pela informação, mas também podem apresentar falsidades como se fossem factos. Em contextos governamentais ou relacionados com a saúde, os utilizadores precisam de uma forma clara de verificar as respostas e de chegar a uma pessoa com autoridade para as corrigir.

Que salvaguardas está Seul a implementar?

A Coreia do Sul está a recorrer à sua Lei-Quadro da IA, que entrou em vigor em Janeiro, para estabelecer regras para a utilização crescente da IA. O enquadramento prevê supervisão humana, avaliações de impacto e rotulagem clara de conteúdos sintéticos. Estas medidas pretendem facilitar a identificação de conteúdos gerados por IA e obrigar as organizações a analisar os danos potenciais antes de implementarem sistemas.

Um Instituto de Segurança da IA financiado pelo Estado tem também a missão de avaliar riscos e actuar como entidade de supervisão técnica. O seu trabalho será tão importante como as regras formais: avaliar se os sistemas funcionam de forma fiável, se os dados sensíveis estão protegidos e se os utilizadores podem contestar decisões com consequências importantes. Uma avaliação de impacto só é útil se analisar os efeitos no mundo real e levar a mudanças quando surgem problemas.

A ligação prevista aos serviços governamentais torna a responsabilização especialmente importante. Se um assistente de IA der informações fiscais incorrectas ou tratar mal um pedido de marcação de consulta, os utilizadores devem saber que organismo é responsável e como obter ajuda. O sistema não deve tornar-se um obstáculo entre os cidadãos e os funcionários que tomam decisões. A revisão humana só é verdadeiramente significativa quando é acessível, atempada e permite contrariar uma recomendação automatizada.

O acesso gratuito também não significa que a operação não tenha custos. Os organismos públicos terão de pagar a computação, a segurança, a manutenção e a avaliação, decidindo ao mesmo tempo que quantidade de dados pessoais o serviço deve conservar. O investimento do governo em equipamento e software informáticos é apenas uma parte de um serviço público duradouro; a supervisão e o apoio exigirão recursos contínuos.

O emprego e os abusos com deepfakes já estão no centro do debate

Algumas das preocupações da Coreia do Sul assentam em danos que já estão a ocorrer. O Banco da Coreia informou que o número de pessoas empregadas com idades entre os 15 e os 29 anos diminuiu 285 mil entre Junho de 2022 e Junho deste ano. Estimou que 94% da quebra ocorreu em sectores muito expostos à automatização. Os números apontam para uma sobreposição preocupante entre o emprego jovem e a mudança tecnológica, mas não demonstram que a IA tenha sido, por si só, a causa da quebra. As condições económicas e outras alterações na contratação também podem afectar o emprego.

A automatização pode substituir tarefas específicas sem eliminar uma profissão inteira. Ainda assim, essa distinção pouco consola os trabalhadores cujas funções de entrada são automatizadas ou cujos empregadores reduzem as contratações. Os trabalhadores mais jovens poderão estar particularmente expostos se tarefas administrativas ou de atendimento rotineiras tiverem sido, tradicionalmente, uma porta de entrada no mercado de trabalho. À medida que a adopção da IA se alarga, os responsáveis políticos terão de acompanhar a qualidade do emprego e os padrões de contratação, não apenas os números globais do emprego.

Para muitos sul-coreanos, o receio mais imediato é a utilização criminosa, sobretudo através de deepfakes de conteúdo sexual abusivo. O caso Nth Room, um escândalo de exploração sexual em linha ocorrido em 2020, e casos posteriores contribuíram para o reforço das leis contra os deepfakes em 2024. Ainda assim, a polícia registou 1 553 crimes relacionados com deepfakes no ano passado, segundo dados apresentados recentemente num fórum da Amnistia Internacional Coreia.

Won Eun-ji, directora do Team Flame, um grupo de investigação de crimes sexuais digitais, passou grande parte deste ano a entrar em cerca de 50 salas de conversação do Telegram, em conjunto com o órgão de investigação jornalística Newstapa. Documentou como as ferramentas de IA alargaram o universo de autores anónimos e fizeram baixar a idade das vítimas. As ferramentas de geração de imagens e de substituição de rostos podem facilitar a criação de material abusivo, enquanto os espaços em linha encriptados ou anónimos podem dificultar a investigação e a responsabilização.

O direito penal é uma parte da resposta, mas a prevenção e o apoio também são importantes. As vítimas precisam da remoção célere das imagens, de ajuda prática para denunciar abusos e de protecção contra a sua divulgação continuada. À medida que as ferramentas de IA se tornam mais acessíveis, as políticas de acesso público terão de ter em conta a possibilidade de os sistemas serem utilizados para criar ou divulgar material nocivo, mesmo quando a finalidade prevista é benigna.

As escolas enfrentam um teste à parte para avaliar o valor da IA

A educação tornou-se outro foco de tensão. No ano passado, professores protestaram contra o plano, entretanto abandonado, do governo de gastar 1,2 biliões de won em manuais escolares com IA. As suas preocupações não se limitavam a saber se o software funcionava. Questionavam também o que os alunos perdem quando um sistema fornece uma resposta antes de terem tentado resolver o problema por si próprios.

Song Keun-sang, professor do 5.º ano na província de Chungcheong do Sul que participou no protesto, afirmou que a IA «simplesmente dá as respostas» e «não tem grande valor educativo». A sua crítica aponta para uma distinção fundamental na educação: concluir uma tarefa não é o mesmo que aprender a fazê-la. Uma ferramenta que explique uma ideia difícil ou adapte os exercícios a um aluno pode ser útil. Uma que contorne a leitura, o raciocínio ou a escrita pode enfraquecer essas competências.

As preocupações com a descida das pontuações em leitura tornam o debate mais urgente, embora não devam ser tratadas como prova de que a IA causou alterações no desempenho dos alunos. As escolas precisam de provas sobre o efeito de ferramentas específicas na compreensão, na atenção e no trabalho autónomo. Os professores também devem participar na decisão de quando a IA apoia o ensino e de quando deve ser afastada do processo de aprendizagem.

As regras para as salas de aula poderão ser diferentes das aplicáveis aos chatbots de acesso geral. Os alunos precisam de protecções adequadas à idade, de limites claros à recolha de dados e de trabalhos que avaliem a sua própria compreensão. A IA pode ajudar um professor na preparação das aulas ou dar a um aluno outra explicação, mas não pode substituir a relação educativa nem avaliar de forma fiável as necessidades de todos os alunos.

O acesso universal pode gerar confiança pública?

«IA para Todos» é uma iniciativa ambiciosa para tratar o acesso à IA como uma infra-estrutura pública. O modelo poderá reduzir a desigualdade que faz com que as ferramentas avançadas estejam sobretudo ao alcance de pessoas abastadas e grandes empresas. Um assistente fiável poderá ajudar as pessoas a encontrar informação, tratar de tarefas administrativas rotineiras ou aceder a serviços difíceis de utilizar. Esses benefícios dependem da qualidade das ferramentas e da capacidade dos utilizadores para obter uma resposta de uma pessoa quando o sistema falha.

O acesso universal também altera as consequências das escolhas de concepção. Uma falha num chatbot privado afecta os seus utilizadores; uma falha num serviço público pode atingir uma parcela muito maior da população. Se um sistema estiver ligado a registos públicos ou aos procedimentos de organismos estatais, violações de segurança e respostas incorrectas poderão ter consequências que ultrapassam uma conversa. Limites rigorosos à utilização de dados, testes independentes, registos claros do desempenho do sistema e vias de recurso ajudarão a determinar se o serviço conquista a confiança dos cidadãos.

A Coreia do Sul tem um sector tecnológico forte e os recursos necessários para realizar um projecto-piloto de grande dimensão. O seu principal desafio é garantir que o serviço presta contas ao público, além de ser tecnicamente capaz. Isso implica explicar que dados são recolhidos pelos sistemas, identificar quem é responsável pelos erros e publicar informação suficiente para permitir um escrutínio externo. Implica também avaliar se o serviço ajuda as pessoas, em vez de considerar o número de utilizadores ou de funcionalidades disponíveis como prova de sucesso.

A implementação irá testar se o investimento público pode alargar o acesso sem retirar espaço ao discernimento humano em áreas onde os erros têm custos reais. As leis e o instituto de segurança da Coreia do Sul proporcionam um enquadramento, mas o seu valor será avaliado pela forma como funcionam na prática, à medida que a IA chega às salas de aula, aos locais de trabalho e aos serviços públicos.

Principais pontos

• A Coreia do Sul planeia um projecto-piloto gratuito de IA, liderado por consórcios associados à SK Telecom, à KT e à Kakao.
• O governo pretende tornar a IA um serviço público permanente, ligado a serviços como a marcação de consultas e a orientação fiscal.
• A Lei-Quadro da IA exige supervisão humana, avaliações de impacto e rotulagem de conteúdos sintéticos.
• As preocupações com o emprego incluem a diminuição do número de pessoas empregadas com idades entre os 15 e os 29 anos, concentrada em sectores expostos à automatização.
• A polícia registou 1 553 crimes relacionados com deepfakes no ano passado, num contexto de preocupação persistente com os abusos sexuais possibilitados por ferramentas de IA.
• Os professores contestaram os manuais escolares com IA, argumentando que as respostas imediatas podem prejudicar a aprendizagem.