Deep fake (também soletrado deepfake) é a tipo de inteligência artificial usada para criar imagens convincentes, hoaxes de áudio e vídeo. O termo, que descreve tanto a tecnologia quanto o conteúdo falso resultante, é a portmanteau of deep learning and fake.
Um exemplo de caso de uso inclui quando uma instituição de caridade de saúde no Reino Unido usou uma deepfake para que David Beckham entregasse uma mensagem anti-malária. Esta mensagem também foi entregue em nove idiomas. No entanto, o caso de uso mais notável -- e mais perigoso -- é quando outros escolhem usar a tecnologia para fins nefastos. Eles poderiam ser usados para espalhar informações falsas de uma fonte de confiança, por exemplo, com propaganda eleitoral. Isto levou a pensar que esta tecnologia é perturbadora para a vida moderna.
> forte> Como os Deepfakes funcionam>>/p>
O conteúdo falso é criado usando dois algoritmos de IA concorrentes -- um é chamado de gerador e o outro é chamado de discriminador. O gerador, que cria o conteúdo falso multimídia, pede ao discriminador para determinar se o conteúdo é real ou artificial.
Todos juntos, o gerador e o discriminador formam algo chamado de rede adversária generativa (GAN). Cada vez que o discriminador identifica com precisão o conteúdo como sendo fabricado, ele fornece ao gerador informações valiosas sobre como melhorar a próxima falsificação profunda.
Este artigo faz parte de
/i>Technology a double-edged sword for U.S. election security
- WhWh> que também inclui:
- >Technology central to vote count in a tight election
- <CISA: Sem hacking eleitoral, mas muita desinformação
- >Presidente Trump despede o diretor do CISA Christopher Krebs
>i data-icon="C">Download>1>/span>
Download deste guia inteiro GRATUITAMENTE agora!
O primeiro passo para estabelecer um GAN é identificar a saída desejada e criar um conjunto de dados de treinamento para o gerador. Quando o gerador começa a criar um nível aceitável de saída, os videoclipes podem ser alimentados para o discriminador.
Como o gerador fica melhor na criação de videoclipes falsos, o discriminador fica melhor na sua localização. Por outro lado, como o discriminador fica melhor na detecção de vídeos falsos, o gerador fica melhor na criação deles.
até recentemente, o conteúdo do vídeo tem sido mais difícil de alterar de forma substancial. Como deepfakes são criados através da IA, no entanto, eles não requerem a habilidade considerável que seria necessária para criar um vídeo realista de outra forma. Infelizmente, isto significa que praticamente qualquer um pode criar um deepfake para promover a sua agenda escolhida. Por exemplo, uma deepfake poderia ser usada para espalhar informações falsas através de um candidato presidencial. A Microsoft, no entanto, tem trabalhado em um software de detecção de falsificações profundas alimentado por IA para este fim. A ferramenta pode analisar automaticamente vídeos e fotos para fornecer uma pontuação de confiança de que a mídia foi manipulada.
Outro perigo possível que as deepfakes introduzem é que as pessoas pegarão esses vídeos pelo valor facial, e depois de perceberem que é falso, as pessoas deixarão de confiar na validade de qualquer conteúdo de vídeo.
Saiba mais sobre deepfakes e a tecnologia por trás deles: