Juízes sul-coreanos denunciam uso generalizado de citações falsas geradas por IA enquanto a administração judicial propõe alterações legislativas

Decisões fabricadas chegam aos processos judiciais

O Supremo Tribunal da Coreia do Sul divulgou o seu primeiro inquérito a juízes sobre citações jurídicas falsas associadas à inteligência artificial. Entre os juízes que julgam processos cíveis, de família e administrativos e responderam a essa pergunta, 196, ou 80,7%, disseram ter encontrado referências a precedentes inexistentes. Algumas peças processuais incluíam decisões fabricadas, apresentadas como se fossem verdadeiros acórdãos do Supremo Tribunal.

O inquérito, realizado entre 6 e 16 de outubro e divulgado a 2 de novembro, reuniu respostas de 360 juízes de tribunais de todo o país. Concluiu também que advogados e pessoas que conduziam os próprios processos tinham apresentado documentos com referências jurídicas falsas.

A Administração Nacional dos Tribunais, o órgão administrativo do Supremo Tribunal, tenciona consultar o Ministério da Justiça e outras entidades sobre alterações ao Código de Processo Civil e ao Código de Processo Penal. As conversações deverão abordar os fundamentos legais para a aplicação de multas e outras medidas perante a apresentação de documentos com informações incorretas.

Os juízes manifestaram forte apoio à adoção de medidas: 91,7% consideraram necessárias medidas institucionais, incluindo 64,8% que as classificaram como muito necessárias. A administração afirmou que a verificação de citações falsas ocupa o tempo dos juízes e das partes contrárias, acarreta custos e pode atrasar o direito das pessoas a um julgamento em tempo útil.

O que revelam os números do inquérito

O problema mais frequente era a referência a uma decisão inexistente. Os juízes também encontraram referências a decisões reais cujo conteúdo tinha sido alterado ou cujo significado fora deturpado. Um precedente judicial é uma decisão anterior citada para sustentar um argumento sobre a forma como a lei deve ser aplicada.

O inquérito permitia aos participantes selecionar mais do que um tipo de citação falsa. Os resultados relativos aos juízes das áreas cível, de família e administrativa foram os seguintes:

• 196 juízes, ou 80,7%, encontraram citações de precedentes inexistentes.
• 159 juízes, ou 65,4%, encontraram descrições falsas de precedentes.
• 41 juízes, ou 16,9%, encontraram leis e regulamentos falsos ou inexistentes.
• 10 juízes, ou 4,1%, encontraram artigos académicos e outras publicações falsos ou inexistentes.

As percentagens correspondem ao grupo que respondeu a cada pergunta do inquérito, no qual participaram 360 juízes no total. Os juízes podiam assinalar vários tipos de erros, pelo que as categorias se sobrepõem.

As referências a precedentes inexistentes foram assinaladas por mais 37 juízes do que as descrições falsas de precedentes: 196 contra 159. Em conjunto, estes resultados mostram que a tarefa de verificação tem duas partes: localizar a decisão citada e lê-la para confirmar se sustenta o argumento apresentado.

Como surgiram as citações falsas

Os juízes descreveram peças processuais que incluíam documentos gerados por IA e que reproduziam o formato dos acórdãos do Supremo Tribunal. Outras peças combinavam um argumento jurídico pouco familiar com um número de processo do Supremo Tribunal impossível de encontrar numa pesquisa.

Em geral, o número de processo ajuda o leitor a localizar um processo ou uma decisão específicos. Quando a referência não leva a lado nenhum, o juiz ou a parte contrária tem de dedicar tempo adicional a tentar identificar a decisão em que se baseia a alegação.

Alguns documentos referiam decisões reais, mas alteravam aquilo que o tribunal tinha decidido ou invocavam o acórdão de uma forma contrária ao seu sentido. Verificar apenas o número do processo não resolveria o problema. Seria também necessário comparar o argumento da peça com a decisão efetiva.

Outras peças continham texto de conversas com uma ferramenta de IA ou formulações sobre estratégias processuais. Estas passagens davam aos juízes uma indicação visível de que a IA tinha sido usada na preparação dos documentos.

O inquérito analisou preocupações com as alucinações da IA, termo que designa informação incorreta apresentada como verdadeira. Num documento judicial, um processo inventado pode parecer convincente por incluir linguagem jurídica familiar, um número de processo e o formato de uma decisão.

Advogados e litigantes apresentaram erros

Questionados sobre quem tinha apresentado precedentes falsos ou outro material incorreto, 164 juízes, ou 69,5% dos que responderam a essa pergunta, apontaram as próprias partes. Outros 136 juízes, ou 57,6%, apontaram advogados que atuavam como representantes ou defensores.

O número de 164 refere-se aos juízes que encontraram citações falsas apresentadas por litigantes. No conjunto do inquérito, os juízes referiram material incorreto que tinham recebido no decurso de processos.

Os grupos de respostas sobrepõem-se, uma vez que um juiz podia encontrar citações falsas apresentadas tanto por alguém que conduzia o próprio processo como por um advogado. Os números representam os juízes que relataram essas experiências; o inquérito centrou-se na exposição ao problema, não na contagem de todas as peças processuais com erros.

O envolvimento de advogados confere particular relevância à proposta de exigir a verificação. A representação profissional já coloca alguém com formação jurídica entre o argumento do cliente e o tribunal. Ainda assim, mais de metade dos que responderam à pergunta tinha encontrado material incorreto apresentado por advogados.

As pessoas que conduzem os próprios processos enfrentam uma dificuldade prática diferente. Têm de preparar argumentos e responder à outra parte sem a ajuda de um advogado. A administração alertou que estes litigantes poderão ter particular dificuldade em identificar e contestar uma decisão inventada ou uma descrição enganadora de uma decisão real.

Quem paga a verificação de um processo inventado?

A Administração Nacional dos Tribunais afirmou que as citações falsas podem transferir trabalho adicional para a parte contrária. Quem recebe um documento com um precedente desconhecido poderá ter de o procurar, verificar o conteúdo citado e preparar uma resposta que explique o erro.

Assim, uma citação falsa pode gerar custos que vão além do documento em que aparece. Uma parte representada por advogado poderá necessitar de mais trabalho jurídico; quem não tem advogado terá de gastar o seu próprio tempo a investigar uma referência que talvez nunca conduza a uma decisão real.

Os juízes enfrentam um encargo semelhante. O tempo gasto a verificar se uma decisão existe ou se o seu conteúdo foi alterado é tempo acrescido à análise judicial do litígio. A administração associou esse trabalho adicional ao abrandamento dos processos e a atrasos no acesso à justiça.

A preocupação é especialmente concreta quando uma referência falsa parece corresponder a uma decisão vinculativa do Supremo Tribunal. A aparente autoridade leva a parte contrária a investigá-la cuidadosamente, enquanto o tribunal tem de resolver o problema da citação antes de avaliar o argumento jurídico que nela assenta.

Quatro medidas reúnem apoio maioritário

Os juízes apoiaram várias respostas possíveis, com níveis de apoio muito semelhantes entre as opções mais populares. A criação de fundamentos legais para a aplicação de multas teve o apoio de 215 juízes, ou 61,4%. A obrigação de verificar os precedentes citados e outros materiais reuniu o apoio de 214, ou 61,1%.

A exigência de declarar a utilização de IA teve o apoio de 212 juízes, ou 60,6%. As sanções aplicáveis a advogados, incluindo o encaminhamento para processos disciplinares, foram apoiadas por 194, ou 55,4%.

A diferença entre o apoio a uma base legal para multas e o apoio à declaração da utilização de IA foi de apenas três juízes: 215 contra 212. A proximidade dos números sugere que os inquiridos preferem várias formas de lidar com o problema, em vez de se concentrarem numa única resposta.

Cada proposta aborda uma fase diferente da preparação e apresentação de um documento judicial. A verificação obrigaria a confirmar o material jurídico. A declaração informaria o tribunal de que a IA tinha sido utilizada. As multas criariam uma consequência financeira ao abrigo do quadro legal proposto, enquanto o encaminhamento para processos disciplinares levaria a conduta de um advogado à apreciação das entidades profissionais competentes.

A apresentação reiterada de citações falsas foi um dos comportamentos apontados como possível fundamento para encaminhamento disciplinar. As propostas da administração combinam a responsabilidade pela exatidão das peças processuais com consequências para a apresentação de material incorreto em tribunal.

Seguem-se alterações legislativas e orientações em linha

A Administração Nacional dos Tribunais tenciona debater alterações ao Código de Processo Civil e ao Código de Processo Penal com as entidades competentes, incluindo o Ministério da Justiça, e apresentar as suas posições à Assembleia Nacional. As alterações propostas estabeleceriam fundamentos legais para medidas como a aplicação de multas.

A sequência indicada pela administração é a seguinte:

• De 6 a 16 de outubro: juízes de tribunais de todo o país participaram no inquérito.
• 2 de novembro: foram divulgados os resultados do inquérito.
• Próximos passos: consultas às entidades competentes e apresentação à Assembleia Nacional das posições da administração sobre alterações legislativas.

Não foi indicado qualquer calendário para as consultas, uma votação legislativa ou a introdução de multas. Os montantes de eventuais multas e as condições específicas para a sua aplicação também não foram definidos nos planos anunciados.

A administração está a ponderar publicar orientações sobre a utilização de IA no sítio eletrónico de litigância. Dessa forma, os conselhos ficariam disponíveis no local onde advogados e litigantes já tratam de assuntos judiciais, com o objetivo de os ajudar a verificar a exatidão do material preparado com IA.

Os resultados do inquérito apontam para uma prioridade prática dessas orientações: verificar tanto a existência como o significado. Um número de processo verdadeiro permite localizar uma decisão, mas é a leitura dessa decisão que confirma o que o tribunal efetivamente disse. Os exemplos encontrados pelos juízes mostram por que razão ambas as verificações são importantes.

Principais conclusões

• O primeiro inquérito do Supremo Tribunal sobre citações falsas relacionadas com IA reuniu respostas de 360 juízes.
• Entre os juízes das áreas cível, de família e administrativa que responderam à pergunta, 80,7% tinham encontrado citações de precedentes inexistentes.
• Os juízes descreveram acórdãos do Supremo Tribunal fabricados, números de processo impossíveis de encontrar, decisões alteradas e texto de conversas com IA deixado em peças processuais.
• O material falso foi apresentado tanto pelos próprios litigantes como por advogados que representavam as partes.
• 91,7% dos inquiridos apoiaram medidas institucionais, com maiorias favoráveis a multas, deveres de verificação, declarações de utilização de IA e sanções para advogados.
• A Administração Nacional dos Tribunais tenciona realizar consultas sobre alterações à legislação processual e está a ponderar publicar orientações no sítio eletrónico de litigância.