O que são deepfakes e como elas ameaçam a reputação, a segurança e a privacidade das pessoas
Fotos, vídeos ou áudios já não podem ser consideradas provas 100% idôneas, pois atualmente há técnicas capazes de enganar até mesmo peritos, detetives cibernéticos e especialistas em segurança da informação
Deepfakes são vídeos ou imagens manipulados que utilizam inteligência artificial para criar conteúdo falso ou enganoso. Essa tecnologia permite que os usuários alterem a aparência e as ações de pessoas ou objetos em vídeos e imagens de uma forma que pareça realista. As deepfakes se tornaram uma ameaça à privacidade dos envolvidos, pois podem ser usadas para criar imagens e vídeos falsos que retratam pessoas em situações em que elas nunca estiveram ou fazendo coisas que nunca fizeram. Isso pode ter consequências negativas para a reputação, segurança e privacidade dos envolvidos.
“O mau no analfabeto é que ele é obrigado a acreditar em tudo que lhe contam”
Davis Alves, Ph.D
A frase acima destaca a vulnerabilidade do analfabeto em relação à desinformação. Sem a capacidade de ler e escrever, ele pode ser facilmente enganado ou manipulado por informações falsas ou distorcidas que lhe são passadas oralmente. Isso destaca a importância da alfabetização e da educação em geral como ferramentas para combater a desinformação e a manipulação. Quando as pessoas têm a capacidade de ler, pesquisar, analisar e compreender informações, elas se tornam menos suscetíveis a serem enganadas e mais capazes de tomar decisões informadas.
No mundo digital atual, essa capacidade é ainda mais importante, já que a internet e as redes sociais tornaram mais fácil a disseminação de informações falsas e enganosas. Por isso, é crucial que as pessoas sejam capazes de verificar a veracidade do que recebem e desenvolvam habilidades críticas de pensamento para avaliar a credibilidade das fontes. A técnica das deepfakes usa a tecnologia de aprendizado de máquina, na qual um algoritmo é treinado em um conjunto de dados para aprender a imitar a aparência e a ação de uma pessoa ou objeto. Com isso, é possível criar um vídeo ou imagem que pareça autêntico, mas que, na verdade, é uma fabricação.
As deepfakes podem ser usadas para criar notícias falsas, espalhar desinformação, propaganda enganosa ou até mesmo para fins de vingança ou difamação. Também podem ser usadas para criar conteúdo humorístico ou de entretenimento, como colocar a imagem de um ator em um filme em que ele não atuou. No entanto, elas levantam preocupações sobre a segurança e privacidade, já que podem servir para criar imagens falsas de pessoas para extorsão ou chantagem. Também são comumente utilizadas para criar vídeos pornográficos falsos, conhecidos como “pornografia de vingança”, em que a imagem de uma pessoa é manipulada para parecer que está envolvida em atos sexuais.
Devido aos riscos que as deepfakes apresentam, muitos pesquisadores estão trabalhando no desenvolvimento de tecnologias de detecção para identificar e remover esses conteúdos falsos da internet. Já no contexto da Lei Geral de Proteção de Dados Pessoais (LGPD), a criação e compartilhamento de deepfakes, além de estarem relacionados ao Princípio da Qualidade dos Dados (Art. 6, V – LGPD) — garantia aos titulares de exatidão, clareza, relevância e atualização dos dados, de acordo com a necessidade e para o cumprimento da finalidade de seu tratamento —, podem ser uma violação da privacidade das pessoas retratadas no vídeo ou imagem se forem propagados para fins comerciais por uma empresa. As pessoas têm o direito de controlar como sua imagem e voz são usadas e compartilhadas, mas deepfakes podem ser criados sem o seu consentimento e compartilhados amplamente na internet, podendo ocasionar o ressarcimento por danos para os titulares, conforme o Art. 42 da LGPD. Por essas razões, é importante que as pessoas estejam cientes dos riscos e saibam como se proteger. É igualmente importante que os governos e as empresas invistam em tecnologias de detecção e legislações que protejam a privacidade dos indivíduos.
Confira mais detalhes sobre os tipos de deepfakes, juntamente com alguns exemplos:
Substituição de rosto
Essa técnica envolve a substituição do rosto de uma pessoa em um vídeo ou foto por outro rosto, geralmente de uma celebridade ou político. Um exemplo comum desse tipo de deepfake é o vídeo que mostrava o ator Bill Hader falando como o astro de cinema Tom Cruise. Quando Hader imitava a voz de Cruise, o rosto dele também era substituído pelo astro de “Missão Impossível” de forma realista.
Vozes falsas
Essa técnica é usada para criar uma voz falsa que imita a voz de uma pessoa real. Exemplos comuns incluem falsificações de discursos políticos ou mensagens de áudio falsas em apps de mensagem de voz. O exemplo mais notável disso é a deepfake de Barack Obama feita pelo cineasta Jordan Peele, no qual ele usa a voz falsa para criticar o presidente dos EUA.
Manipulação de objetos
Essa técnica envolve a adição ou remoção de objetos em um vídeo ou foto. Um exemplo comum dessa técnica é a manipulação de vídeos que retratam eventos ao vivo, como uma apresentação de dança ou um show de música, para incluir um elemento diferente ou criar um efeito visual. Por exemplo, um deepfake pode ser usado para inserir uma pessoa em um show no qual ela nunca esteve, fazendo parecer que é uma das estrelas do evento.
Vídeos de propaganda enganosa
É usada para criar vídeos falsos que parecem reais, mas que são propaganda enganosa. Um exemplo notável foi o deepfake de Nancy Pelosi, presidente da Câmara dos Deputados dos EUA, em que sua voz foi distorcida para parecer que ela estava bêbada ou doente, visando afetar sua credibilidade.
Criação de personagens
Essa técnica é usada para criar personagens fictícios que parecem reais. Exemplo comum inclui criação de personagens de jogos de vídeo realistas, em que o rosto e o corpo do personagem são modelados com base em uma pessoa real.
Manipulação de fotos
Essa técnica é usada para alterar ou criar fotos que parecem autênticas, mas são falsas. Isso pode ser usado para criar imagens de pessoas em situações que nunca estiveram, como em um local de férias ou evento. Um exemplo notável é a foto do ex-presidente dos Estados Unidos Donald Trump que foi alterada para ele parecer mais magro e com um tom de pele diferente do seu.
Existem várias organizações e iniciativas que se dedicam à verificação de informações e combate a deepfakes na internet. Aqui estão alguns exemplos:
- Snopes: Fundado em 1994, o Snopes é um dos sites de verificação de fatos mais antigos da internet. A organização é dedicada a pesquisar e verificar a precisão de informações em várias áreas, incluindo política e saúde.
- FactCheck.org: Criada em 2003 pela Universidade da Pensilvânia, é uma organização independente de verificação de fatos que se concentra em checar notícias políticas, mas também abrange outros assuntos como saúde e ciência.
- PolitiFact: Fundada em 2007, é uma organização de verificação de fatos que se concentra em informações políticas, avaliando a precisão de declarações de agentes políticos, partidos e grupos de interesse.
- Verificado: Uma iniciativa da ONU que visa combater a desinformação e a propaganda online, oferecendo verificação de fatos em tempo real e campanhas de conscientização.
- Deepfake Detection Challenge: Uma iniciativa da Darpa (Agência de Projetos de Pesquisa Avançada em Defesa dos EUA, na sigla em inglês) que busca desenvolver tecnologias de detecção de deepfakes.
- Projeto Foco: Uma iniciativa brasileira que busca combater a desinformação, verificando a veracidade das informações e produzindo conteúdo educativo.
Dicas para não cair em deepfakes
Devemos sempre questionar se essas instituições atuam com imparcialidade na verificação, pois de nada adianta a própria empresa geradora de notícias “certificar” algo produzido por ela mesma. Uma agência de checagem deve ser independente de governo ou patrocínios para não tornar questionável o conflito de interesse! Por fim, a melhor maneira ainda é a conscientização. Por isso, confira no meu Instagram @davisalvesphd dez dicas para não cair em deepfakes.
Ver essa foto no Instagram
No entanto, a detecção de deepfakes é um desafio em constante evolução e não há uma solução única para esse problema. É importante que todos os usuários da internet estejam cientes dos riscos de desinformação e aprendam a verificar as informações antes de compartilhá-las. É importante lembrar que a criação e distribuição de deepfakes é considerada ilegal em muitas jurisdições, especialmente se os vídeos são usados para difamar, humilhar ou prejudicar uma pessoa ou instituição.
Quer se aprofundar no assunto, tem alguma dúvida, comentário ou deseja compartilhar sua experiência nesse tema? Escreva para mim no Instagram: @davisalvesphd.
*Esse texto não reflete, necessariamente, a opinião da Jovem Pan.
Comentários
Conteúdo para assinantes. Assine JP Premium.