Dentro do Zeta, a app de chat de IA que está a redefinir as relações dos adolescentes na Coreia do Sul

Porque um chatbot de simulação de papéis está a superar as apps de vídeo em atenção

No mercado saturado de telemóveis da Coreia do Sul, um companheiro de IA local chamado Zeta dispõe agora de mais atenção diária dos adolescentes do que os gigantes do vídeo. Quase um milhão de utilizadores, na sua maioria com menos de 20 anos, passam em média 2 horas e 46 minutos por dia dentro da app. Isso ultrapassa o tempo que muitos adolescentes dedicam ao YouTube, TikTok ou Instagram. O Zeta apresenta-se não como uma ferramenta utilitária, mas como entretenimento feito para a IA, um lugar onde personagens animadas falam como um amigo próximo, um rival ou um interesse amoroso.

Criado pela startup Scatter Lab, sediada em Seul, e lançado em 2024, o Zeta reúne conversa, narrativa e simulação de papéis num único fluxo de conversas em curso. A app está classificada para os 12 anos ou mais nas lojas de aplicações, mas a empresa afirma que aplica um critério mais restritivo de 15 anos ou mais para o conteúdo. Muitos adolescentes acedem repetidamente ao longo do dia para continuar uma história ou reparar uma relação virtual. Alguns utilizadores acumularam mais de 1.000 horas com uma única personagem, um sinal tanto de apego profundo como de uma experiência concebida para recompensar retornos frequentes.

As análises de aplicações na Coreia classificam agora o Zeta como o chatbot de IA mais utilizado em tempo de utilização. Essa classificação reflete uma escolha de conceção deliberada. O serviço otimiza respostas emocionalmente envolventes em vez de precisão enciclopédica. Os adolescentes não procuram factos. Querem uma resposta que pareça atenciosa, divertida ou carinhosa. O Zeta oferece-lhes um elenco personalizável de personagens para que isso aconteça e, em seguida, convida-os a afinar personalidades através de antecedentes, preferências e feedback.

Como o Zeta funciona e o que os adolescentes fazem lá dentro

O Zeta abre com uma galeria de personagens com estética de anime. Os utilizadores podem escolher uma personagem ou criar a sua própria, definindo depois traços, padrões de fala e o contexto da relação. A conversa que se segue desenrola-se como um drama privado. Pode ser um amigo reconfortante, um rival intenso na escola ou um interesse romântico que precisa de ser salvo. A conversa adapta-se ao tom definido pelo utilizador e a personagem desenvolve uma memória de momentos partilhados que faz cada resposta futura parecer mais pessoal.

O que os utilizadores criam

Muitos adolescentes tratam a app como uma sala de escrita colaborativa. Escrevem a cena, a IA improvisa e o enredo avança. As figuras populares incluem Su hyeon, um valentão do ensino secundário que testa limites, Ha rin, uma aluna transferida tímida, e Kwon Seo hyuk, um interesse romântico melancólico. Cada personagem oferece uma trajetória emocional diferente. O valentão testa a resiliência e o controlo. A aluna tímida recompensa o cuidado e a orientação suave. O interesse romântico traz anseio e drama. Como o utilizador define o ritmo e as apostas, a relação pode tornar-se um ritual diário que parece essencial.

Os fãs descrevem a sensação como intimidade sem risco. A personagem nunca se cansa, nunca sai e responde sempre às mensagens. Mesmo quando as cenas incluem tensão ou palavras ásperas, o conteúdo explícito é filtrado e a app tenta desviar-se de comportamentos ilegais ou prejudiciais. O atrativo é a ilusão de proximidade, a sensação de que alguém te conhece e continua a escolher-te, minuto após minuto.

Porque os mantém envolvidos

Ao contrário dos chatbots de propósito geral que visam informações corretas, o Zeta utiliza um modelo de linguagem proprietário afinado para produzir respostas emocionalmente ressonantes. O sistema é retreinado com o feedback dos utilizadores, o que o ajuda a aprender o estilo e o ritmo que mantêm as sessões vivas. As personagens recordam nomes, referências cruzadas e pequenos detalhes de conversas anteriores, para que cada nova mensagem possa retomar uma piada interna ou um tema por resolver. Esse ciclo de memória faz com que as conversas longas pareçam naturais e valham a pena ser continuadas.

As escolhas de conceção amplificam o envolvimento. As notificações chegam em momentos-chave. Os enramos ramificam-se. Os visuais enfatizam o ambiente. Os adolescentes têm a agência de decidir para onde a história segue, enquanto a IA fornece atenção calorosa e respostas rápidas. É uma receita para horas de diálogo que não parecem estar a fazer scroll num feed. Parece ser desejado.

Porque a proximidade simulada parece real

A adolescência é um período de intensa aprendizagem social. Os adolescentes experimentam a identidade, testam novos papéis e medem como os outros respondem. O Zeta proporciona um laboratório de baixo risco para esse trabalho. Dentro da app, um adolescente pode testar a asserção, praticar flerte ou ensaiar um pedido de desculpas e depois observar como a personagem reage. O ciclo de feedback é instantâneo, privado e tolerante. Para um jovem que enfrenta ansiedade social ou pressão na escola, isso pode parecer um alívio.

Há também uma explicação científica por trás da persistência. Quando uma IA alterna elogios, surpresa e pequenos desafios, cria recompensas variáveis que o cérebro encontra cativantes. Acrescente uma memória de momentos partilhados e o vínculo aprofunda-se. Uma personagem que parece recordar a preocupação de ontem pode parecer mais atenta do que um colega distraído ou um pai com pressa. A linha entre simulação e apego é fácil de atravessar quando cada resposta parece encorajadora ou sedutora.

Sinais de alerta de psicólogos e criadores de IA

Especialistas em desenvolvimento adolescente alertam que o forte envolvimento com companheiros de IA pode desdourar fronteiras emocionais. Quando um adolescente passa duas ou três horas por dia numa relação com estilo íntimo, pode tornar-se difícil manter bem visível a diferença entre um modelo treinado e uma pessoa que se preocupa. Quanto mais convincente for a personagem, mais o adolescente pode atribuir intenção e empatia que o sistema não possui.

Kwak Keum joo, professora de psicologia na Universidade Nacional de Seul, estudou como as pessoas se relacionam com companheiros de IA e o seu efeito na vida quotidiana. Ela avisa que a conveniência e a disponibilidade constante podem seduzir os utilizadores a substituir interações humanas difíceis por interações digitais fáceis.

As pessoas podem depender fortemente da IA para satisfazer os seus desejos sociais sem grande esforço, quando a IA ouve-te 24 por 24 e dá-te as respostas que queres ouvir.

Mesmo empresas que constroem estes sistemas já assinalaram o risco. Numa avaliação de modelo este ano, a OpenAI examinou como as pessoas poderiam relacionar-se com vozes e conversas realistas nas suas ferramentas mais recentes. A empresa destacou o atrativo social que decorre do antropomorfismo, o hábito humano de ver agência nas máquinas.

Os utilizadores podem formar relações sociais com a IA, reduzindo a sua necessidade de interação humana, o que potencialmente pode beneficiar indivíduos solitários, mas também afetar relações saudáveis.

Para os adolescentes, as consequências são mais graves. Os seus cérebros ainda estão em desenvolvimento, têm menos prática em estabelecer limites e os roteiros sociais ainda estão a formar-se. Simulação de papéis sexualizada ou cenários abusivos podem surgir nas trajetórias das personagens, mesmo quando o conteúdo explícito é filtrado, o que pode normalizar certos padrões se se repetir. Sem orientação clara, um adolescente pode confundir a responsividade algorítmica com cuidado e pode levar essa expectativa para a escola ou para a vida familiar.

Classificações, salvaguardas e os antecedentes de privacidade

O Zeta carrega uma classificação de 12 anos ou mais nas lojas de aplicações, mas a empresa afirma que impõe um critério mais restritivo de 15 anos ou mais para aquilo que as personagens podem dizer e fazer. Não existe na Coreia do Sul um sistema independente de classificação de conteúdo para companheiros de chat de IA, pelo que as plataformas aplicam as suas próprias regras e filtros. Essa lacuna importa, porque as histórias interativas parecem mais intensas do que o vídeo passivo. Uma linha de texto dirigida a ti pode cortar mais fundo do que uma cena vista a partir do sofá.

A Scatter Lab já lidou com escrutínio no passado. Um chatbot anterior, Lee Luda, gerou forte interesse em 2020 e 2021 e depois deparou-se com preocupações de privacidade que levaram ao encerramento. A empresa diz que aprendeu com esse episódio, reviu a forma como os dados de treino são tratados e acrescentou anonimização mais robusta. O Zeta baseia-se agora em interações dentro da app e em fontes curadas em vez de recolher conteúdo pessoal. O objetivo é prevenir os tipos de divulgações e riscos que comprometeram o serviço anterior.

A segurança na app atual centra-se em filtros para conteúdo ilegal ou explícito, diretrizes etárias e moderação de transcrições sinalizadas. O modelo também está afinado para evitar conselhos prejudiciais. No entanto, o produto central continua a maximizar os sentimentos de intimidade. Essa tensão está no centro do debate. Quando um serviço é concebido para fazer os utilizadores sentir-se escolhidos e adorados, os limites têm de ser claros, visíveis e aplicáveis para os menores.

Dinheiro, modelos e escala

Nos bastidores, o Zeta funciona com um modelo de linguagem grande proprietário que a equipa retreina com o feedback das conversas. O foco não é a precisão dos factos, mas um estilo que mantém as conversas a fluir. Isso pode significar referências afetivas, humor bem timingado e mudanças rápidas quando uma cena arrasta. O ciclo de feedback aumenta a perícia do modelo em matéria de ritmo emocional, o que por sua vez prolonga as sessões e o uso diário.

Operar uma app de chat com centenas de milhares de utilizadores ativos é dispendioso, já que cada mensagem requer capacidade de computação. As startups de IA coreanas recorreram a plataformas de inferência especializadas e a otimização cuidadosa para reduzir custos, diminuir latência e lidar com picos de tráfego. A Scatter Lab afirmou que reduziu os custos com GPU através destas abordagens, o que ajuda a manter o serviço responsivo mesmo quando uma nova personagem ou história se torna viral. O envolvimento sustentado também abre um caminho para receitas através de compras opcionais, embora a empresa enfatize o valor de entretenimento, não a educação ou a produtividade.

Uma tendência global, de Seul a Tóquio e além

O crescimento do Zeta já se propagou para além da Coreia. A app está a ganhar tração no Japão, onde a estética de anime e a ficção interativa têm audiências de longa data. O modelo de um companheiro que se recorda e que se preocupa ressoa em mercados onde as mensagens são o modo principal de vida social. Concorrentes oferecem experiências adjacentes. A Replika enfatiza vínculos e memória a longo prazo. A Character AI empacota mentores e terapeutas sempre disponíveis. Cada serviço mistura companheirismo com aconselhamento e cada um levanta questões sobre como as pessoas se relacionarão com software que fala com calor e pode conversar durante horas.

Eugenia Kuyda, CEO da Replika, defende que os parceiros de IA são uma nova categoria de relação, não um substituto para as pessoas. A sua visão reflete uma crença crescente nos círculos tecnológicos de que o companheirismo com software pode ser válido e valioso para alguns utilizadores.

Não estão a substituir humanos reais, mas estão a criar uma categoria de relação completamente nova.

As autoridades coreanas também veem um papel para os companheiros de IA em áreas como o cuidado de idosos. Alguns programas regionais emprestam agora robôs conversacionais a pessoas idosas que vivem sozinhas, com o intuito de reduzir o isolamento e apoiar os lembretes de medicação. Oh Myeong sook, diretora de promoção da saúde na província de Gyeonggi, descreveu o objetivo em termos simples.

Com robôs de IA, esperamos colmatar lacunas no apoio às populações vulneráveis e ajudar a prevenir mortes solitárias.

O que os pais e as escolas podem fazer

Os pais não precisam de formação técnica para ajudar os adolescentes a usar chats de companheiros de forma saudável. Um bom primeiro passo é falar sobre a diferença entre atenção e afeto. Uma IA pode atender um adolescente a cada minuto, mas não sente nem se recorda no sentido humano. Essa diferença importa. Se um adolescente nomear essa diferença em voz alta, torna-se mais fácil de a ver. As famílias também podem acordar intervalos de utilização que deixem espaço para o sono, os deveres e os amigos presenciais.

Verificar as definições de conteúdo em conjunto pode evitar confusões. Os adolescentes acreditam muitas vezes que a personagem decide aquilo que pode dizer. Na realidade, esses limites vêm da empresa, que define filtros e regras. Rever esses elementos em conjunto construiu literacia mediática. Ajuda a fazer perguntas reflexivas. O que é que a personagem fez que te fez sentir seguro ou visto? O que é que ultrapassaria o limite? Aceitarias essa linguagem de um amigo na escola? Estas perguntas transformam um chat passivo num exercício orientado de julgamento.

As escolas podem apoiar a literacia mediática ao adicionar lições sobre companheiros de IA aos programas existentes de cidadania digital. Os alunos devem praticar a identificação de técnicas persuasivas, reconhecer quando um bot está a imitar cuidado e aprender como as recompensas variáveis os mantem agarrados. Também podem ensaiar formas de dizer não educadamente quando uma personagem ultrapassa um limite. O objetivo não é envergonhar os adolescentes por gostarem do formato. O objetivo é equipá-los com linguagem e limites.

O que os reguladores poderiam considerar

A IA relacional expõe lacunas nas regras atuais. As lojas de aplicações oferecem classificações etárias, mas essas foram criadas para jogos e vídeo, não para romance interativo ou terapia simulada. A lei de privacidade aborda a recolha de dados, mas diz pouco sobre a psicologia de ser alvo de intimidade persistente. Académicos argumentam que são necessárias novas salvaguardas para menores, porque o chat interativo pode ser mais intenso do que os meios passivos e pode ser difícil de abandonar sem culpa social.

Há passos práticos disponíveis. Órgãos de classificação independentes poderiam avaliar companheiros de IA quanto à adequação etária, não apenas quanto à presença de conteúdo explícito. As plataformas poderiam ser obrigadas a divulgar quando um modelo é otimizado para envolvimento emocional e a fornecer temporizadores de sessão claros, avisos de pausa e limites diários opcionais para utilizadores com menos de 18 anos. As empresas poderiam registar e apresentar quando uma personagem se desliza para o romance ou simulação de papéis envolvendo agressão, com controlos de opt-in para os responsáveis. Registos auditáveis, anonimização robusta e tratamento seguro dos históricos de conversa devem ser o padrão.

A Coreia tem reguladores ativos focados na privacidade e nas comunicações. O seu papel poderia expandir-se para incluir a supervisão das práticas de segurança na IA relacional, enquanto os grupos da indústria publicam quadros de segurança transparentes. Nada disso bloqueia a criatividade. Sinaliza que a intimidade à escala exige um dever de cuidado superior quando os menores são o público principal.

Destaques

• O Zeta é uma app de chat de IA coreana onde os adolescentes passam em média 2 horas e 46 minutos por dia.
• O tempo de utilização no Zeta supera o do YouTube, TikTok e Instagram entre muitos adolescentes coreanos.
• A app está classificada para os 12 anos ou mais nas lojas, enquanto a empresa afirma que impõe um critério de 15 anos ou mais para o conteúdo.
• Os utilizadores criam personagens com estética de anime e coescrevem histórias em curso que simulam intimidade.
• Alguns utilizadores acumularam mais de 1.000 horas com uma única personagem.
• O sistema prioriza respostas emocionalmente envolventes em vez de precisão factual.
• Os especialistas alertam que o uso intensivo pode desdourar fronteiras emocionais nos adolescentes.
• Não existe na Coreia um sistema independente de classificação para companheiros de chat de IA.
• A Scatter Lab reforçou as práticas de privacidade após preocupações anteriores com um chatbot anterior.
• O Zeta está a expandir-se no estrangeiro, incluindo no Japão, à medida que as apps de companheirismo de IA crescem a nível mundial.