Provavelmente você deve ter lido bastante sobre fake news, mas sabe o que é deepfake?
O avanço dos meios de comunicação digitais e, principalmente, da inteligência artificial (IA) traz, como toda nova tecnologia, novas possibilidades de todos os lados.
Há pessoas que fazem bom uso dessas ferramentas e outras que se valem dos recursos para praticar fraudes dos mais variados tipos.
Um dos desdobramentos da massificação do uso de IA é o aumento no número de casos de deepfake em todo o mundo.
Segundo o site Statista (em inglês), só no Brasil o aumento foi de 828% entre 2022 e 2023.
As Filipinas são recordistas mundiais nesse quesito, com um espantoso aumento de 4.500%.
Os Estados Unidos, como sempre, estão entre os líderes mundiais, com uma taxa de casos 3.000% mais alta no período.
Para combater essa ameaça, é preciso saber quais são os riscos da deepfake e suas consequências.
Mostramos isso e muito mais neste artigo, no qual você vai entender como funciona o deepfake e recordar ou conhecer alguns casos famosos.
Confira os tópicos abordados:
- O que é deepfake?
- Quais são os riscos do deepfake?
- Quais são os tipos de deepfake?
- Uso do deepfake nas eleições
- Exemplos famosos de deepfakes
- Como identificar um deepfake
- Qual é o futuro do deepfake?
Avance na leitura para saber o que é e como funciona o deepfake, suas principais formas, relação entre inteligência artificial e deepfake e muito mais!
Leia também:
- Segurança da informação: o que é, 5 pilares e como garantir nas empresas?
- Cibersegurança: o que é, importância, tipos e carreira na área
- Direito Digital (Guia Completo): tudo que você precisa saber
O que é deepfake?
Deepfake é a prática de inserir artificialmente rostos e vozes em vídeos ou manipular imagens, violando assim toda e qualquer limitação de direitos do uso de imagem e autorais.
O termo tem relação com o machine learning e deep learning, usado para se referir à capacidade de máquinas em emular o raciocínio humano, permitindo realizar tarefas de alta complexidade.
De fato, os casos mais escandalosos de deepfake, como veremos mais à frente, envolvem celebridades cujos rostos são inseridos em conteúdos falsos.
Embora muitos não sejam ofensivos, tem sido cada vez mais frequente a inserção não autorizada de rostos em vídeos pornográficos e ofensivos.
Atribui-se a escalada do deepfake à popularização das chamadas Redes Generativas Adversariais (GAN).
Trata-se de um tipo de aprendizado de máquina em que são utilizadas redes neurais que simulam o mecanismo dos neurônios para desenvolver ferramentas de IA.
Agora que você sabe o que é deepfake, deve ter também interesse em saber quais são os riscos que o mau uso da tecnologia é capaz de proporcionar.
É o que veremos agora.
Quais são os riscos do deepfake?
Como vimos na introdução deste texto, os casos de deepfake em modalidades como adulteração de identidade e voz e de vídeos aumentaram exponencialmente.
O site também mostra a percepção que os especialistas em cibersegurança têm em relação ao assunto.
Em outra pesquisa do Statista (em inglês), 88% dos profissionais entrevistados consideram a fraude de identidade uma ameaça.
Não seria exagero dizer que o deepfake é a evolução das fake news.
Se antes um fato inverídico podia ser desmascarado com alguma facilidade, com a IA a tarefa de distinguir o que é verdadeiro e o que é falso é um pouco mais complexa.
No meio político, o uso de deepfake pode gerar resultados desastrosos, induzindo a opinião pública ao erro.
Artistas e celebridades de todos os segmentos vêm se deparando nos últimos meses com um aumento preocupante de vídeos em que seus rostos e vozes são inseridos em conteúdos não autorizados.
Portanto, o deepfake é uma prática abusiva, tanto que já está tramitando na Câmara dos Deputados do Brasil um PL que a criminaliza.
Quais são os tipos de deepfake?
Quando as fake news eram a principal ameaça nos meios digitais, tudo dependia da criatividade e poder de persuasão do autor da notícia falsa.
Com algum esforço de apuração e de fact-checking, o conteúdo difamatório pode ser desmascarado.
Embora em certos casos o deepfake seja até grosseiro, em outros a manipulação de imagens e sons é tão bem feita que não se pode distinguir o que é real e o que não é.
Um exemplo impressionante do quão sofisticada pode ser a adulteração é um vídeo feito com IA utilizando a imagem do ator Morgan Freeman (em inglês).
Ele começa dizendo “eu não sou Morgan Freeman, o que você vê não é real”.
A ideia do vídeo é alertar para o realismo destas montagens.
É um exemplo de uso de deepfake que mostra o potencial criativo para essa tecnologia recente.
Veja na sequência outros meios digitais e formatos em que ela pode ser utilizada.
Redes sociais
Plataformas como o Facebook, X e Instagram tornaram-se um terreno fértil para a propagação de fake news.
O mesmo vem acontecendo com o deepfake, somando-se a essas redes sociais o Tik Tok, onde o volume de vídeos montados publicados aumenta a cada dia.
Existem perfis que se dedicam a publicar conteúdo falso, nos quais pessoas desconhecidas recriam situações envolvendo celebridades.
Tem de tudo um pouco, mas os formatos mais comuns são entrevistas falsas, discursos fictícios e interações nos quais rostos e vozes são trocados.
Há quem use também para praticar a pornografia de vingança, inserindo digitalmente rostos e vozes das vítimas em vídeos eróticos, divulgando-os nas redes sociais.
Vídeo
Vídeos como o do Morgan Freeman “fake” dão uma boa ideia do potencial do deepfake de criar conteúdo.
As possibilidades se estendem indefinidamente, não apenas no âmbito pessoal, como no corporativo.
No caso dos vídeos, praticamente qualquer pessoa com um pouco de conhecimento de edição de vídeos pode criar conteúdos com imagens e vozes de pessoas reais.
Ganhou notoriedade no início do ano um caso em que uma multinacional com sede em Hong Kong amargou um prejuízo de R$ 129 milhões.
Os golpistas forjaram uma reunião falsa por videochamada, na qual só havia um colaborador de verdade – a vítima.
No falso grupo, estava um fictício diretor financeiro que teria autorizado o empregado a fazer 15 transferências bancárias até totalizar o rombo milionário.
Isso para não falar das manipulações menos lesivas ou para fins de entretenimento, muitas das quais causam confusão sobre a sua veracidade.
Voz
A inteligência artificial deepfake é capaz hoje de recriar vozes com uma precisão que nem os melhores imitadores conseguiriam superar.
É muito fácil encontrar na internet sites e plataformas como o Fake You, em que se pode usar vozes de pessoas conhecidas ou não para dizer qualquer coisa.
O uso de vozes artificiais está despertando debates intensos até no mercado audiovisual, já que, para uma boa parte dos profissionais da área, ela pode substituir os dubladores.
No site Falatron, é possível utilizar a voz de personagens de filmes e desenhos animados, dublados em português, para dizer qualquer coisa, desde que esteja no limite de caracteres permitido.
Deepfakes auditivos podem ser particularmente perigosos, se considerarmos, por exemplo, que uma pessoa pode fazer uma ligação telefônica usando a voz de outra pessoa.
É verdade que a tecnologia de replicação de voz nem sempre é convincente, já que algumas não reproduzem tão bem as inflexões e variações de tom.
Ainda assim, é algo com que se preocupar, já que, em certos casos, a imitação pode ser boa o bastante para convencer os ouvintes menos atentos.
Imagem
Já foi o tempo em que, para adulterar ou criar uma imagem falsa, era preciso conhecimentos avançados de editores como Photoshop e Corel Draw.
Com a IA, qualquer pessoa pode gerar imagens de pessoas, lugares, situações e eventos praticamente sem limites.
Assim como os vídeos e áudios, as imagens também vêm sendo manipuladas para gerar conteúdos falsos, muitas delas com pessoas famosas.
Uma das práticas mais comuns é a substituição de rostos em fotos, usando aplicativos como o FaceRedo.
O usuário escolhe uma foto, que pode ser sua ou de outra pessoa, selecionando o rosto que quer que essa foto tenha e a “mágica” fica pronta em questão de segundos.
Tempo real
Como se já não fosse espantoso o bastante, a IA pode ser também usada para gerar imagens falsas de pessoas em tempo real.
Para isso, pode ser usado o software Avatarify, que usa a tecnologia conhecida como First Order Motion Model for Image Animation.
Diferentemente de outras tecnologias usadas para deepfake, ela dispensa treinamento ao oferecer um banco de imagens e de sons.
É possível, por exemplo, fazer com que uma pessoa famosa entre em uma reunião por vídeo chamada ao vivo.
Por isso, não se espante se, em meio a uma chamada pelo Zoom, entrar uma celebridade do naipe de Bill Gates ou Elon Musk.
Se isso acontecer, é bastante provável que seja alguém usando IA para criar uma deepfake ao vivo.
Uso do deepfake nas eleições
O grande desafio que se coloca agora e para o futuro próximo é impor limites, sanções e restrições quanto ao uso de IA para fins eleitorais.
Como mostra uma matéria no portal UOL, são muitos os casos de uso de deepfake em campanhas com o intuito de difamar adversários ou colocar em dúvida a reputação de candidatos.
Entre outros casos, cita as eleições presidenciais argentinas, em que aliados do candidato Javier Milei compartilharam um vídeo em que o adversário, Sergio Massa, aparece consumindo drogas ilícitas – o vídeo era falso.
No Brasil, em que os escândalos políticos surgem com frequência, os riscos trazidos pelo mau uso do deepfake são incomensuráveis.
Tanto que o Tribunal Superior Eleitoral (TSE) já determinou expressamente a proibição de qualquer recurso baseado em IA para a criação de propaganda eleitoral.
Nos Estados Unidos, o ex-presidente Barack Obama foi alvo de deepfake, por meio de um vídeo em que ele faz alegações falsas e ofensas dirigidas ao também ex-presidente Donald Trump.
Era uma espécie de “pegadinha” promovida pelo diretor Jordan Peele, mas também serve de alerta para o potencial explosivo desse tipo de conteúdo na política.
Exemplos famosos de deepfakes
As pessoas famosas são as mais expostas aos perigos do deepfake, já que seus rostos e vozes podem ser reproduzidos com relativa facilidade.
Como vimos, nem chefes de estado estão imunes a esses riscos.
Quanto mais conhecida for a pessoa, maiores as chances dela ver seu rosto e voz usados indevidamente.
Um dos casos que ganhou mais notoriedade foi o da cantora Taylor Swift, que teve seu rosto inserido em vídeos pornográficos que circularam na internet.
Outra pessoa famosa que teve sua imagem usada sem consentimento foi Tom Hanks, que se viu de repente “promovido” a garoto-propaganda de um plano de saúde odontológico.
Como identificar um deepfake?
Um dos desafios que surgem com a IA é desenvolver técnicas e mecanismos para saber como detectar deepfake.
Ainda que muitos deles sejam incrivelmente realistas, um olhar mais atento pode identificar uma farsa, desde que certas características sejam observadas com cuidado.
Algumas dicas nesse sentido, como informa o site da Kaspersky, são:
- A pessoa tem um modo de piscar os olhos estranho ou não pisca nunca
- Podem se notar elementos digitais na imagem, como pixels
- Os lábios estão dessincronizados com a fala
- Alguns movimentos são bruscos ou sem um motivo aparente
- Mudanças no tom da pele
- Iluminação que varia, mudando de um quadro para o outro, mesmo que a posição da pessoa não mude.
Qual é o futuro do deepfake?
O uso de IA para criação de conteúdos audiovisuais já vem sendo especulado até como o futuro da indústria cinematográfica, tamanho o seu potencial e realismo.
Exageros à parte, o fato é que, a despeito do mau uso, há um imenso filão a ser explorado e as possibilidades podem nem estar ao nosso alcance com o que sabemos hoje.
Ainda assim, as autoridades já ligaram o “alerta” para os riscos da não regulamentação da IA para produzir imagens, vídeos e áudios.
O Brasil, como vimos, já está se mobilizando nesse sentido, com o encaminhamento de um PL que trata do deepfake e sua criminalização.
Conclusão
Você viu neste artigo como detectar o deepfake e os riscos que essa prática representa.
Agora, tem boas informações para agir preventivamente e evitar a propagação de conteúdos falsos.
Não devemos temer o deepfake, segundo a professora e pesquisadora Sandra Wachter, da Universidade de Oxford.
Tudo vai depender de como os governos e representantes políticos vão se articular para criar leis eficazes no sentido de prevenir e coibir o mau uso da tecnologia.
Você pode fazer a sua parte, mantendo-se a par do que acontece no Brasil e no mundo.
Para isso, leia os conteúdos publicados no blog da FIA, onde você encontra toda semana artigos que tratam dos temas mais relevantes no mundo do empreendedorismo, política e educação.
Referências:
https://www.statista.com/chart/31901/countries-per-region-with-biggest-increases-in-deepfake-specific-fraud-cases/
https://www.statista.com/chart/32108/experiences-views-of-experts-on-advanced-identity-fraud-methods/
https://olhardigital.com.br/2018/11/29/noticias/camara-aprova-projeto-que-criminaliza-uso-de-deepfake-para-imagens-intimas/
https://www.mundoconectado.com.br/noticias/deepfake-reuniao-falsa-criada-por-ia-gera-prejuizo-de-r-129-milhoes-para-multinacional/
https://noticias.uol.com.br/confere/ultimas-noticias/2024/03/03/deepfake-uso-inteligencia-artificial-eleicoes-argentina-estados-unidos.htm
https://oglobo.globo.com/cultura/musica/noticia/2024/02/03/deepfake-com-taylor-swift-reacende-temor-sobre-explosao-de-conteudos-nocivos-ou-prejudiciais-gerados-por-ia.ghtml
https://www.kaspersky.com.br/resource-center/threats/protect-yourself-from-deep-fake
https://www.bbc.com/portuguese/geral-60431825
