Imagine que você pode dançar como Bruno Mars ou cantar como Whitney Houston em apenas um dia. A tecnologia que torna possível dizer ou fazer algo que uma pessoa nunca fez ou disse pode parecer complicada, mas é muito acessível. É necessário apenas uma filmagem ou a gravação da voz para começar a criar uma realidade alternativa.
Esse tipo de conteúdo manipulado, criado com a ajuda da tecnologia de Inteligência Artificial (IA), é chamado de conteúdo sintético ou, mais amplamente conhecido como deepfake.
O exemplo abaixo é de 2018 e ainda impressiona – mas, agora, as deepfakes podem ser ainda mais realistas e convincentes.
O que são deepfakes?
Deepfake é um termo que descreve arquivos de áudio e vídeo criados com o uso de Inteligência Artificial, um “aprendizado de máquina” para ser mais exacto.
Todos os tipos de deepfakes são possíveis. Trocas de rosto, em que o rosto de uma pessoa é substituído pelo de outra. Sincronização labial, quando a boca de uma pessoa ao falar pode ser ajustada a uma faixa de áudio diferente da original. Clonagem de voz, em que uma voz é “copiada” para dizer outras coisas.
Os rostos e corpos totalmente sintéticos também podem ser gerados, por exemplo, como avatares digitais. Com a tecnologia deepfake, mesmo pessoas mortas podem ser trazidas de volta à vida, como fez o Museu Dali, na Flórida, com o pintor Salvador Dali.
Essas manipulações de vídeo sintéticas são produzidas com as chamadas Redes Adversárias Gerativas (GANs). Uma GAN é um modelo de aprendizado de máquina no qual duas redes neurais competem entre si para se tornarem mais precisas em seus resultados.
Em termos simples: um computador pergunta a outro se o clone digital que ele fez de você é convincente o suficiente, comparando-o com o material original. Você se move do mesmo jeito? Soa igual? A sua expressão é a mesma? O sistema se aprimora a cada nova tentativa, até ficar satisfeito com o resultado.
Embora essa tecnologia esteja continuamente a melhorar e seja altamente sofisticada, você ainda pode identificar deepfakes se souber como procurar. Você não precisa se tornar um especialista em deepfake para distinguir o que é real do que é falso. Aqui estão algumas dicas:
- Diminua a velocidade e olhe novamente. Pense antes de partilhar. Pergunte a si mesmo: isso pode realmente ser verdade? Você esperava que isso acontecesse? Se não tem certeza, não partilhe.
- Faça uma verificação rápida para ver se você pode encontrar a mesma história ou narrativa em fontes diferentes e confiáveis. Uma breve pesquisa na Internet sobre um título lhe dará pistas sobre a história real.
- Encontre outra versão e compare. Se você não confia em uma declaração, uma imagem ou um vídeo, descreva-o em uma pesquisa do Google ou do DuckDuckGo, encontre outra versão e compare as duas. Você pode usar uma pesquisa padrão da Internet para isso ou tentar uma busca reversa de imagem, que ajuda a descobrir se uma fotografia já foi usada antes e, em caso afirmativo, quando e como foi utilizada.
- Detectar traços quase (in) visíveis em mídias sintéticas e manipuladas é um desafio muito maior. Essa manipulação pode ser detectada procurando “saltos” estranhos em um vídeo, mudança na ênfase da voz, áudio de baixa qualidade, pontos borrados, formas estranhas de membros e outras inconsistências incomuns. Confie em seus sentidos e intuição. Sempre se pergunte: isso faz sentido? Isso poderia realmente ser verdade? Olhe com atenção – e mais de uma vez. Concentre-se nos detalhes e peça uma segunda opinião a um amigo ou colega.
Perigo de tecnologia deepfake
O impacto da tecnologia deepfake é profundo na pornografia, incluindo a chamada pornografia de vingança. Vídeos e imagens pornográficos falsos estão a ser amplamente publicados e a causar danos às vítimas, que vão desde celebridades até crianças em idade escolar.
Para a sociedade, o perigo das deepfakes também reside na forma de consumir a mídia hoje em dia. A pessoa média é inundada com mídia enquanto está online – e nem sempre tem certeza de que o que partilha é realmente verdade.
Em sociedades polarizadas, esse comportamento deixa ampla margem para enganar as pessoas, para que acreditem em algo – não importa a veracidade. É muito desafiador verificar imagens e sons que foram retirados de contexto, editados ou encenados. Ainda assim, por enquanto, você pode treinar para identificar melhor uma deepfake. E lembre-se: se você não tiver certeza, não partilhe!