20/09/2022 - 2:24
O Jornal Nacional, da Rede Globo, mostrou diversos vídeos fakes que usam a tecnologia de deepfake para alterar o conteúdo original. Embora possa ter diversos usos positivos, a tecnologia que produz deepfakes também pode ser perigosa. Será que é possível descobrir quando um vídeo é falso?
O problema fica mais sério quando levamos em conta que há vários tipos de deepfakes. Os mais conhecidos usam a imagem de uma pessoa de modo a criar um vídeo em que ela dá uma declaração que, na verdade, nunca existiu. Mas outros criam perfis falsos nas redes sociais ou simulam vozes (deepvoices), por exemplo.
+ Google, Facebook e Twitter terão que lidar com deepfakes ou se arriscarem a multas da UE
Independentemente do tipo, o risco de propagação de conteúdo falso por meio da técnica é grande. Descubra o que você pode fazer para se prevenir dessas ciladas.
O que é deepfake?
Deepfake é uma técnica que usa aprendizagem profunda (conceito ligado à inteligência artificial) para manipular expressões faciais ou declarações de uma pessoa em fotos e vídeos.
Em boa parte dos casos, essa manipulação é tão bem feita que fica difícil identificar. Isso é perigoso. Se por um lado é divertido imaginar a Mona Lisa (da pintura de Leonardo da Vinci) falando em um vídeo por meio da técnica, por outro, deepfakes podem ser usados para espalhar fake news nas redes sociais, entre outros problemas.
Há uma boa razão para isso: mecanismos que geram deepfakes têm evoluído rapidamente. Para você ter ideia, redes neurais do tipo GAN (você vai descobrir o que é isso neste texto) têm se mostrado muito eficazes nesse tipo de atividade.
Aliadas a técnicas de clonagem de voz, manipulações de vídeo baseadas em deepfakes têm sido cada vez mais frequentes em redes sociais ou serviços como WhatsApp ou Telegram. Muitos desses vídeos falsos visam constranger pessoas ou atribuir falas falsas a personalidades da política.
Dicas para identificar deepfakes sem ser especialista
Fernando Rodrigues de Oliveira, mais conhecido como Fernando 3D, criou a FaceFactory ao lado de Bruno Sartori. A empresa aplica inteligência artificial em projetos de “deepfakes do bem”, para uso em filmes dublados, por exemplo. Tanto é assim que eles preferem chamar a técnica de “mídia sintética”.
Independentemente do termo técnico, o fato é que Fernando entende do assunto. Em nossa conversa, ele explicou que deepfakes “aprendem” com o passar do tempo, afinal, são baseados em inteligência artificial. Está aí a razão para ser cada vez mais difícil identificar um vídeo manipulado por meio da técnica.
Repare nos olhos e na boca
Apesar disso, há alguns macetes que você pode usar para descobrir um deepfake, afirma Fernando. Um deles é observar o olhar da pessoa que aparece no vídeo. “O olho pode ficar meio perdido”, explica. É como se o indivíduo não estivesse focando em um objeto ou na câmera.
Ainda de acordo com Fernando, reparar nos movimentos da boca ou do próprio rosto também ajuda. Nesse processo, você pode identificar movimentos que não são naturais, como uma abertura dos lábios exagerada para a pronúncia de uma determinada palavra.
Falando assim, parece fácil. Não é. Fernando alerta para o fato de que os deepfakes de hoje são muito mais precisos do que os que foram criados há três ou quatro anos por causa da natureza evolutiva da inteligência artificial. É por isso que a nossa melhor defesa, hoje, está em prestar atenção no detalhes.
Atenção aos detalhes para identificar deepfake
Para resumir, eis uma lista de características que a Kaspersky coloca como sugestivas para vídeos falsos (note que algumas delas condizem com as dicas de Fernando):
– movimentos bruscos;
– iluminação da cena que muda de um quadro para o outro;
– mudança no tom da pele;
– piscada estranha de olhos ou nenhum piscar;
– lábios mal sincronizados com a fala;
– elementos digitais (artefatos) na imagem.
Existe software que detecta deepfake?
Seria ótimo, mas ainda não. Já há trabalhos nesse sentido, porém. Fernando cita, como exemplo, uma pesquisa do Facebook para detectar deepfakes via engenharia reversa. Só que esse é um projeto que ainda não pode ser usado.
Uma das razões para tamanha dificuldade está nas chamadas GANs (Generative Adversarial Networks — Redes Adversárias Generativas, em tradução livre). Nessa abordagem, um sistema entra em “duelo” com outro para gerar o deepfake mais convincente possível.
Explicando rapidamente, uma GAN funciona assim: uma ferramenta baseada em redes neurais gera milhares ou até milhões de modificações da imagem de um rosto e as submete a um segundo mecanismo que tenta descobrir se as sequências são falsas. Se este último não chegar a uma conclusão verdadeira, o deepfake é gerado.
Como a interação entre as GANs é rápida e envolve muitas tentativas, identificar um “clone digital” é uma tarefa cada vez mais complicada. Mas não impossível. Se você seguir as orientações anteriores, terá boas chances de sucesso.
Enquanto isso, pesquisas tentam encontrar formas não só de identificar vídeos falsos, mas também de prevenir a criação deles por meio de técnicas de validação. Um estudo considera até o uso de blockchain para esse fim, pois a tecnologia funciona de modo descentralizado e é bastante eficaz contra adulterações.
Para nós, meros humanos, Fernando 3D dá uma dica extra para identificar deepfakes: deixe o desconfiômetro sempre ligado. Se o vídeo mostra uma pessoa dando uma declaração muito estranha, que foge de suas atribuições ou é espalhafatosa, é melhor buscar mais informações a respeito antes de tirar conclusões.
