O que é ataque com deepfake?

O que são as deepfakes?

Os avanços rápidos e notáveis da tecnologia de IA abriram caminho para evoluções inovadoras nos últimos anos. Embora a maioria das inovações tenha sido positiva, a ascensão da IA também possibilitou o surgimento de deepfakes. Deepfakes são falsificações geradas por IA — como imagens, áudios ou vídeos falsos — muito convincentes e semelhantes a materiais genuínos.

À medida que as tecnologias de IA se tornam mais acessíveis e avançadas, as deepfakes tendem a se tornar cada vez mais convincentes. O desafio de distinguir conteúdo autêntico de materiais fabricados será cada vez maior e mais complexo, o que representa um risco significativo à integridade das informações.

Nesta publicação, vamos analisar o conceito de deepfakes, ponderando sobre como elas surgiram e o impacto que causam na sociedade moderna. Em seguida, vamos pensar sobre como as empresas podem combater esse uso malicioso da IA por meio de ferramentas de segurança e medidas proativas.

Compreendendo as deepfakes

Embora as deepfakes sejam uma evidência dos avanços da IA e do machine learning, elas também representam uma terrível ameaça à integridade das informações na sociedade moderna. Essas imagens alteradas digitalmente têm o potencial de redirecionar a opinião pública, prejudicar reputações e até mesmo influenciar cenários políticos. Nesta seção expandida, exploraremos a mecânica e as implicações das deepfakes.

A tecnologia por trás das deepfakes

As redes adversárias generativas (GANs, na sigla em inglês) são um exemplo de deepfakes. As GANs podem ser vistas como dois sistemas de IA disputando um cabo de guerra digital. Uma IA - a geradora - tenta produzir conteúdo falso que parece real. Enquanto a outra IA - a discriminadora - julga se o conteúdo é real ou falso. Como o processo é repetido inúmeras vezes, a cada rodada o conteúdo falso se torna mais e mais difícil de distinguir.

As GANs, uma tecnologia cada vez mais avançada e disponível, permitem a criação de vídeos e áudios que podem enganar até mesmo os olhos e ouvidos mais atentos.

Como as deepfakes são criadas

Criar uma deepfake não é tão simples quanto aplicar um filtro em uma aplicação de fotos; é um processo complexo que exige grandes quantidades de dados e um elevado poder de processamento computacional.

Primeiro, você precisa de um conjunto de dados de imagens e amostras de áudio ou vídeos da pessoa que você deseja imitar. Quanto mais dados, melhor será o resultado. Então, usando GANs, a IA aprende como replicar a voz, a aparência e os trejeitos da pessoa.

Por fim, esse modelo aprendido é aplicado para gerar novos conteúdos, onde a pessoa parece dizer ou fazer coisas que jamais disse ou fez.

Tipos de deepfakes

De um modo mais amplo, as deepfakes podem ser categorizadas em falsificações de vídeo e áudio. Deepfakes de vídeo envolvem a alteração do rosto ou do corpo de uma pessoa para que ela se pareça com outra, e são frequentemente usadas para trocar os rostos de celebridades ou para gerar desinformação política.

Deepfakes de áudio imitam a voz de alguém, permitindo que uma pessoa seja replicada de modo altamente convincente para parecer falar coisas que jamais disse. Ambos os tipos de deepfakes têm seus casos de uso, que vão desde entretenimento lúdico até propósitos mais sinistros, como fraudes ou manipulação política.

Exemplos de deepfakes no mundo real

Algumas deepfakes que atraíram muita atenção envolveram celebridades e figuras públicas:

• Um vídeo de 2018 parecia mostrar o ex-presidente Barack Obama fazendo um anúncio de utilidade pública alertando contra notícias falsas, mas na verdade era uma deepfake produzida pelo ator e diretor Jordan Peele, em colaboração com o CEO do BuzzFeed, Jonah Peretti.
• Em 2021, uma série de vídeos de deepfake de “Tom Cruise” viralizaram no TikTok. Esses vídeos resultaram de um esforço colaborativo entre um imitador de Tom Cruise chamado Miles Fisher e Chris Umé, especialista em efeitos visuais.

Embora os exemplos acima tenham mostrado a capacidade tecnológica por trás das deepfakes, eles também destacaram seu potencial para enganar e manipular a percepção pública.

Inovação ou meio de fraude?

As deepfakes representam um verdadeiro paradoxo entre ser um avanço tecnológico notável ou atuar como ferramenta para cometimento de fraudes. Por um lado, elas oferecem possibilidades interessantes para as indústrias de criação, como produção cinematográfica, jogos e realidade virtual. Por outro lado, seu potencial de abuso na disseminação de informações incorretas ou conteúdos maliciosos não pode ser ignorado.

O impacto das deepfakes na sociedade

As deepfakes representam desafios significativos para os fundamentos estruturantes da verdade e da confiança na sociedade. Sua capacidade de criar narrativas falsas convincentes ampliou as preocupações com a desinformação, especialmente em áreas sensíveis como política e opinião pública. As deepfakes podem ser usadas para prejudicar reputações, manipular a opinião pública, influenciar eleições e corroer o processo democrático.

Além da política, as deepfakes representam uma ameaça à segurança pessoal. A tecnologia pode ser usada para fins maliciosos, como chantagem, fraudes e ciberbullying.

Como resultado, a necessidade de vigilância e métodos de detecção sofisticados nunca foi tão crítica.

Como detectar e mitigar os usos maliciosos das deepfakes

Combater o uso malicioso das deepfakes é um desafio gigantesco e uma batalha constante no âmbito da cibersegurança. A tecnologia da IA está avançando rapidamente. À medida que novos métodos de detecção são desenvolvidos, a tecnologia usada para criar deepfakes evolui, tornando essas criações mais sofisticadas e difíceis de identificar.

Essa corrida armamentista tecnológica em curso contra a IA do mal - IA usada para fins maliciosos - ressalta a complexidade do problema. As plataforma de cibersegurança, as ferramentas de detecção e as medidas de proteção devem se adaptar e se aprimorar constantemente para acompanhar o ritmo da IA cada vez mais avançada, alavancada por atores maliciosos.

Em resposta a este cenário, a comunidade de cibersegurança vem desenvolvendo uma série de ferramentas e estratégias destinadas a identificar e neutralizar as deepfakes, incluindo:

• Detectores baseados em IA que analisam vídeos e áudios em busca de inconsistências
• Técnicas de perícia forense digital que examinam a integridade do conteúdos digitais
• Tecnologias de blockchain para verificar a autenticidade por meio do emprego de marcas d’água digitais à prova de adulteração
• Ferramentas de proteção de identidade para ajudar a proteger as personas digitais dos indivíduos contra a exploração em ataques com deepfakes.

Apesar desses esforços, o cenário de ameaças continua desafiador. Não há nenhuma solução infalível ou duradoura à vista. Em vez disso, as organizações e os usuários finais de hoje devem se concentrar na resiliência, na conscientização e no aprimoramento constante dos mecanismos de defesa para mitigar os riscos impostos pelas deepfakes.

Proteção contra a IA do mal com a plataforma CrowdStrike Falcon

Neste artigo, vamos explorar o surgimento e a crescente disseminação das deepfakes. Já ponderamos sobre seu impacto na sociedade, destacando a natureza paradoxal dessa tecnologia: uma maravilha da inovação em IA, mas também uma poderosa ferramenta para cometimento de fraudes. Em seguida, destacamos os desafios para detecção e mitigação dos empregos maliciosos das deepfakes. Combater a IA do mal é, sem dúvida, uma tarefa complexa.

Conheça a CrowdStrike Falcon® Adversary Intelligence e a CrowdStrike Falcon® Adversary Intelligence Premium, soluções sofisticadas que aproveitam a IA e análises profundas de dados para identificar e mitigar ameaças, incluindo aquelas criadas pela IA do mal. A Falcon Adversary Intelligence Premium proporciona às empresas modernas relatórios de inteligência que revelam o uso da IA generativa em operações de informação para ajudá-las a se defender contra as ameaças multidisciplinares criadas pela IA do mal, garantindo uma postura proativa na área de defesa digital.

Para experimentar a plataforma CrowdStrike Falcon® e ver sua inteligência contra ameaças nativa da IA em ação, inscreva-se para uma avaliação gratuita de 15 dias. Para saber mais, entre em contato com a nossa equipe hoje mesmo.