Um pequeno rótulo perante um problema crescente
As atrizes Janhvi Kapoor, Keerthy Suresh e Sunainaa contestaram a utilização indevida das suas imagens em deepfakes criados com inteligência artificial, alertando para possíveis ações judiciais após a divulgação de imagens e vídeos ofensivos. As suas experiências tornaram mais premente uma questão prática para as redes sociais: quão facilmente conseguem os utilizadores perceber que a pessoa no ecrã foi criada digitalmente?
Índice
CB Arun Kumar, especialista em efeitos visuais e diretor da área de comunicação, cinema e videojogos da Pearl Academy, defende leis que exijam rótulos claros e destacados nos conteúdos criados com IA. Considera que os avisos existentes podem passar facilmente despercebidos, fazendo com que material fabricado pareça uma fotografia, uma gravação ou uma notícia autêntica.
A etiqueta «AI Info» do Instagram está no centro das suas críticas. Segundo descreve, o aviso surge em letras pequenas, entre o nome de utilizador da conta e a imagem ou o vídeo publicado. A sua preocupação é a visibilidade: uma indicação pouco ajuda, na prática, quem continua a percorrer o feed sem reparar nela.
Arun Kumar explicou por que motivo defende regras de identificação mais rigorosas:
Precisamos de leis mais rigorosas que imponham a identificação clara e destacada dos conteúdos de IA, para que deixem de poder fazer-se passar por notícias, como acontece com alguns vídeos de catástrofes que proliferam na internet. O verdadeiro problema surge quando o público já não consegue distinguir o que é real do que é falso.
A sua proposta aborda dois problemas interligados. Os atores sofrem o dano pessoal de ver as suas identidades usadas em material ofensivo. O público corre o risco de aceitar uma cena fabricada como algo que realmente aconteceu. Um rótulo visível daria aos utilizadores essa informação no momento em que se deparam com a imagem, antes de decidirem se acreditam nela ou se a partilham.
O que aconteceu às atrizes?
Kapoor, Suresh e Sunainaa estão entre as atrizes que manifestaram choque ou contestaram a divulgação de imagens ou vídeos deepfake ofensivos com a sua imagem. As reações incluem ameaças de ações judiciais contra os responsáveis pela utilização indevida.
Um deepfake é uma imagem, um vídeo ou uma gravação de áudio criado ou alterado com IA para fazer parecer que alguém fez ou disse algo que nunca fez ou disse. No caso de uma atriz, os traços faciais reconhecíveis podem fazer com que a falsificação pareça convincente, apesar de a pessoa nunca ter participado na sua criação.
O problema imediato é o controlo sobre a própria identidade. Uma atriz pode escolher os papéis que aceita, as fotografias que publica e os produtos que promove. Uma imagem fabricada pode colocá-la numa cena que nunca autorizou, enquanto os utilizadores podem, à primeira vista, presumir que é genuína.
Arun Kumar exige uma obrigação legal mais rigorosa, não anuncia que tenha entrado em vigor uma nova regra. Nos seus comentários, não identificou qualquer projeto de lei específico, prazo de aplicação ou sanção proposta.
As imagens falsas já existiam antes da IA
Arun Kumar enquadra a preocupação atual numa história mais longa de imagens manipuladas no entretenimento. Antes das ferramentas de IA atuais, era possível recorrer a duplos, ao Photoshop e a técnicas de efeitos visuais como a clonagem e a metamorfose para criar cenas falsas.
A clonagem copia elementos de uma imagem ou sequência. A metamorfose transforma uma imagem noutra, incluindo a alteração de um rosto ou da sua aparência. Ambas podem ter utilizações legítimas na produção cinematográfica, onde o público espera ver cenas construídas. O problema surge quando material manipulado é apresentado como um registo real da conduta de alguém.
A IA deu às pessoas outra forma de produzir esse tipo de material, incluindo a quem procura obter rapidamente ganhos financeiros com a atenção e a circulação dos conteúdos. Arun Kumar defende que a tecnologia deve ser avaliada em função das suas utilizações e que os responsáveis por conteúdos ofensivos devem estar sujeitos aos meios legais de reparação já disponíveis.
Arun Kumar afirmou que a legislação existente já prevê formas de pedir a remoção destes conteúdos:
Já existem muitas vias legais para remover esse tipo de conteúdo ofensivo.
A remoção e a identificação respondem a momentos diferentes da mesma cadeia. Um pedido de remoção procura impedir que uma imagem continue disponível depois de ter sido contestada. Um rótulo destacado ajuda as pessoas a avaliá-la enquanto ainda está no ecrã. O seu argumento põe em evidência ambas as tarefas: responder a material nocivo e facilitar o reconhecimento da sua origem artificial.
Porque é importante o tamanho do rótulo
O pequeno aviso de IA do Instagram ilustra a diferença entre incluir uma indicação e torná-la útil. Arun Kumar quer que as plataformas apresentem a informação com destaque suficiente para que os utilizadores comuns a identifiquem sem terem de procurar à volta da imagem.
Um vídeo falso de uma catástrofe mostra por que motivo isto importa para lá da cultura das celebridades. Quem vê imagens que parecem mostrar uma emergência real precisa de perceber se a cena foi gerada. Caso contrário, a imagem pode influenciar a sua perceção de um acontecimento que não ocorreu da forma retratada.
No caso das atrizes, a questão é mais pessoal. O rosto é o elemento que torna a imagem falsa reconhecível e atrai atenção. Quem não reparar no rótulo pode associar a cena à atriz antes de saber como foi criada.
Por isso, a exigência de Arun Kumar diz respeito tanto à forma como a informação é apresentada como à sua presença. Uma plataforma pode colocar um aviso junto de uma publicação, mas o tamanho e a posição continuam a determinar se chega ao público. O padrão que defende é simples: a origem artificial deve ser imediatamente visível.
O consentimento é uma questão distinta para os artistas
Arun Kumar também distingue entre rejeitar a IA na sua totalidade e contestar a utilização da obra de um artista sem autorização. A primeira é uma avaliação de uma tecnologia inteira. A segunda diz respeito à forma como determinado material foi obtido e utilizado.
O treino é o processo através do qual um sistema de IA aprende padrões a partir de exemplos, que podem incluir imagens, texto, som ou vídeo. Os artistas preocupados com o treino questionam o que acontece quando as suas criações passam a fazer parte desse processo sem o seu consentimento.
Esta questão vai além de um deepfake visível. Uma atriz pode contestar uma representação fabricada de si própria, enquanto um ilustrador ou outro criador pode opor-se à utilização da sua obra para desenvolver o sistema que gera novas imagens. As pessoas afetadas e as práticas contestadas podem ser diferentes.
Arun Kumar considera que uma condenação generalizada da IA ignora estas distinções. A sua posição deixa espaço para utilizações criativas legítimas, sem desvalorizar as objeções relativas à autorização. Para os leitores, as perguntas úteis são concretas: de quem é a identidade retratada, de quem é a obra utilizada e que autorização foi concedida?
Os artistas digitais enfrentam pressão sobre os rendimentos
Segundo Arun Kumar, os artistas gráficos que trabalham em áreas como os meios de comunicação, os negócios, o cinema, a televisão, a arquitetura e a moda enfrentam outra consequência da disseminação da IA. A preocupação é a capacidade de ganhar a vida quando as empresas conseguem gerar certos tipos de material visual mais rapidamente.
Arun Kumar afirma que o trabalho que exige um esforço humano meticuloso está a perder valor comercial, à medida que os resultados produzidos por IA se tornam uma alternativa concorrente. Ao decidir como produzir uma imagem, os clientes podem ponderar a rapidez e o custo, além das competências e do discernimento de um artista.
A pressão também pode afetar a forma como o trabalho humano é percecionado. Arun Kumar alerta para o risco de imagens cuidadosamente produzidas serem comparadas com resultados de baixa qualidade gerados por IA. Para um artista, isso significa ter de explicar o valor do seu trabalho num mercado em que o público e os clientes se deparam cada vez mais com ambos.
Arun Kumar descreveu a pressão sobre o emprego e deixou um conselho aos artistas:
A realidade é que a revolução da IA está a deixá-los sem trabalho, porque consegue fazer o trabalho mais depressa. Os verdadeiros artistas, capazes de usar a IA como mais uma ferramenta no seu processo de trabalho, irão sobreviver e prosperar.
Um processo de trabalho é a sequência de etapas necessárias para concluir um projeto criativo, desde a ideia inicial até à imagem ou ao filme final. O conselho que deixa é aprender onde a IA pode integrar esse processo, continuando a acrescentar escolhas e trabalho artesanal humanos.
A sua previsão é otimista quanto aos artistas que se adaptarem, mas também reconhece a pressão imediata sobre quem depende de tarefas que a IA consegue acelerar. As atrizes que procuram proteção contra representações fabricadas e os artistas que enfrentam uma concorrência mais barata vivem diferentes dimensões da mesma transformação tecnológica.
Em resumo
- Janhvi Kapoor, Keerthy Suresh e Sunainaa estão entre as atrizes que contestaram a utilização indevida da sua imagem em deepfakes.
- CB Arun Kumar, diretor da Pearl Academy e especialista em efeitos visuais, quer leis que exijam rótulos claros e destacados nos conteúdos de IA.
- Considera que avisos pequenos, incluindo a etiqueta «AI Info» do Instagram, podem passar facilmente despercebidos ao público.
- Defende medidas contra utilizações nocivas da IA e alerta para a utilização de obras de artistas sem consentimento.
- Afirma que os artistas digitais enfrentam pressão sobre os rendimentos e devem aprender a integrar a IA nos seus processos criativos.
