Entenda
Os usuários do YouTube podem, agora, denunciar casos de roubo de identidade com inteligência artificial. A técnica, chamada de deepfake, já foi usada em fraudes financeiras, disseminação de imagens íntimas falsas (incluindo de menores de idade) e desinformação eleitoral.
A plataforma de vídeo mais popular do Brasil, com cerca de 120 milhões de acessos mensais, disponibiliza um formulário para receber queixas sobre deepfakes desde março, mas não divulgou a atualização ao público. O site especializado TechCrunch noticiou a existência do recurso nesta segunda-feira (1º).
Em um exemplo do estrago que podem causar as deepfakes, circularam no YouTube em maio clones gerados virtualmente do apresentador da TV Globo Marcos Mion e do cantor Thiaguinho. As cópias protagonizavam anúncios falsos do Mercado Livre, usados em golpes -a suposta oferta era de smartphones com 80% de desconto.
A reprodução de imagem e voz na internet está entre os principais riscos aventados após o advento da inteligência artificial (IA), na avaliação de políticos, empresas e pesquisadores. Tramita no Congresso um projeto de lei para aumentar a pena de quem usar IA para gerar imagens íntimas de mulheres e crianças, e a Justiça Eleitoral vetou as deepfake durante as eleições de 2024.
O YouTube classificou deepfakes que deturpem a imagem da pessoa clonada como "uma violação de intimidade", o que é passível de pedido de remoção de conteúdo na plataforma. Só a vítima pode protocolar a queixa.
A pesquisadora do DFRLab (Laboratório de Forense Digital), do Atlantic Council, Beatriz Farrugia alerta que nem toda montagem baseada na imagem de um terceiro pode ser considerada deepfake ou constituir uma violação de intimidade.
"Uma deepfake é a manipulação de um conteúdo, seja ele áudio, vídeo ou foto, através de uma ferramenta de inteligência artificial", diz. "Cada vez que a IA recebe maior quantidade de dados, fica quase imperceptível que aquele produto foi gerado por inteligência artificial", acrescenta a especialista.
Circulam também na internet outras montagens mais grosseiras, chamadas de cheapfakes, segundo Farrugia. "Qualquer um com um computador ou celular e um Photoshop pode colocar o rosto de outra pessoa no seu corpo e fazer uma montagem."
Embora seja difícil detectar deepfakes mais sofisticadas, segundo a pesquisadora, é possível procurar sinais como distorções ao redor de boca, nariz e olhos no caso de imagens, e uma qualidade prejudicada no caso dos áudios. "Nos vídeos, uma dessincronia do movimento da boca na imagem com a fala é sempre uma pista."
Áudios sintéticos são mais fáceis de criar e mais difíceis de detectar, na avaliação de Farrugia, e, por isso, se disseminam em anúncios falsos e em campanhas de desinformação.
Nas suas normas, o YouTube abre uma exceção para deepfakes feitas em contexto de crítica ou sátira, como faz, por exemplo, o humorista Bruno Sartori. A Justiça de São Paulo também entendeu que o deepfake de Ricardo Nunes no corpo de Ken, divulgado pela pré-candidata a Prefeitura de São Paulo Tabata Amaral, era uma sátira.
A especialista em investigação digital recomenda que as vítimas desses golpes documentem todo o processo de roubo de identidade e procure as plataformas pelas quais o material falso circula e as autoridades responsáveis. "No caso de imagens, é possível fazer buscas reversas no Google para ver se aquele conteúdo também circula em outros espaços da internet."
VEJA COMO FAZER A DENÚNCIA
A pessoa pode protocolar a queixa neste formulário de processo para denúncia de violação de privacidade, a partir dos seguintes passos:
- Preencha o formulário com informações pessoais, como nome, país de residência e email de contato
- Informe se está preenchendo o formulário em nome de outra pessoa
- Informe quantas entidades ou canais quer denunciar
- Indique se o que está simulando rosto ou voz é um canal, vídeo ou comentário
- Conte detalhes de como sua imagem ou voz passaram por alterações com o uso de IA
- A vítima, então, precisa descrever como aparece no vídeo, para diferenciá-la dos outros personagens do conteúdo
Farrugia, do DFRLab, recomenda as plataformas de detecção de deepfakes Sentinel, DuckDukGoose e WeVerify, para verificar se houve uso de IA no roubo de identidade. Essas perícias podem reforçar o argumento na denúncia.
O YouTube também dá instruções para que a denúncia tenha mais chances de ser acatada:
- A denúncia deve ser clara e concisa
- Ter informações objetivas, como momento no vídeo em que o clone feito por IA aparece
- Dar detalhes do que pode diferenciar o deepfake da pessoa real
- Ter certeza de incluir a URL do vídeo na denúncia
- Se estiver denunciando todo um canal, não é necessário incluir URL
- Se estiver denunciando um comentário na seção própria no vídeo, aponte isso na descrição. Adicione também o nome do usuário no campo indicado
A plataforma de vídeo usa como fatores de avaliação da denúncia:
- Se o conteúdo é alterado ou sintético
- Se o conteúdo é descrito à audiência como alterado ou sintético
- Se a vítima pode ser identificada pela imagem
- Se o conteúdo é realístico
- Se o conteúdo é de paródia, sátira ou tenha interesse público
- Se o conteúdo use a imagem de pessoas públicas ou bem conhecidas em situações polêmicas, como atividades criminais, violentas ou endossos a produtos ou candidatos
O YouTube alerta que o uso incorreto das denúncias pode levar à suspensão da conta do denunciante.
Afirma que tampouco compartilha o nome e as informações de contato do denunciante com o publicador da deepfake sem a permissão do autor da queixa.
O YouTube não aceita denúncias feitas em nome de terceiros, a não ser que:
- A pessoa cuja privacidade foi violada não tenha acesso à internet ou a computadores
- O indivíduo cuja a privacidade foi violada esteja em situação de vulnerabilidade
- A alegação seja feita pelos pais ou pelos responsáveis de um menor de idade cuja privacidade foi violada
- A alegação seja feita pelo representante legal da pessoa (alguém que tenha procuração)
- O pedido seja feito por um parente próximo de alguém em grave situação de saúde
"Não vamos aceitar pedidos feitos por parentes, colegas de trabalho, empregadores e empresas", diz a página de regras da plataforma de vídeo.