O QUE É DEEPFAKE : Tecnologia surpreende o público, mas preocupa especialistas

As possibilidades tecnológicas criadas pelo avanço da ciência da computação permeiam diversos aspectos de nosso cotidiano - dos áudios enviados de forma instantânea em um aplicativo como o WhatsApp até o universo dos videogames, das pesquisas científicas, do grande processamento de dados por trás de serviços como o Google ou Waze, a proteção de nossos dados pessoais através do uso de criptografia avançada - como exemplifica a ExpressVPN,  e milhares de outras comodidades. 

 

No entanto, após mais de uma década de desenvolvimento acadêmico e por trás dos muros de empresas big tech, a chegada da inteligência artificial generativa impactou o público em 2023. Programas como o ChatGPT e Google Bard são capazes de criar poemas, responder questões de provas técnicas, criar treinos personalizados para atletas, e uma série de outras possibilidades surpreendentes. Para muitos analistas de mercado, a batalha entre as IAs será o grande marco tecnológico dos próximos anos. No entanto, uma nova categoria de inteligência artificial está preocupando cientistas da computação, filósofos, advogados, e até mesmo as agências de inteligência dos Estados Unidos - os deepfakes já são reais, fáceis de serem criados, e podem causar grandes problemas. Entenda.  

 

 

O que é e como funciona um deepfake?

 

O conceito de “deepfake” faz referência a uma imagem gerada artificialmente por um computador, através de outras imagens ou uma ordem específica de um usuário. Da mesma maneira que o ChatGPT é capaz de criar um parágrafo de texto inédito como resposta a uma pergunta, modelos avançados de inteligências artificiais como o Stable Diffusion são capazes de gerar uma imagem ou, quando combinados com algoritmos ainda mais complexos, vídeos completos. 

 

Uma inteligência artificial geradora de deepfakes funciona ao ser treinada com bancos de dados gigantescos, contendo centenas de milhares de imagens e legendas descrevendo seu conteúdo. Com base nestes modelos, o algoritmo de computador é capaz de identificar padrões na coloração de pixels em cada ponto de uma imagem e, após uma série de longas etapas de filtragem estatística, preencher uma imagem completa. Programas modernos capazes de gerar imagens adicionam etapas adicionais como upscaling e limpeza de ruído para fornecer aos usuários um resultado final extremamente convincente, com alta resolução e qualidade. 

 

Embora seja possível gerar imagens de diversas categorias - como desenhos animados, paisagens naturais, animais, cenas de ficção científica e outras, os deepfakes são especificamente criados para simular uma pessoa real, ou seja, é possível fornecer ao computador a imagem de um ser humano existente e pedir que sejam geradas novas imagens em posições diferentes, com vestimentas diferentes, objetos adicionados, cenários alterados, e muitas outras possibilidades. O mesmo mecanismo também é capaz de gerar vídeos adulterados ou até mesmo áudios com a voz original - mas falando algo que nunca foi dito pela pessoa real. 

 

 

Brincadeiras, enganação e crime

 

Anteriormente restritos a supercomputadores com grande capacidade de processamento, os programas de deepfake atuais podem ser facilmente encontrados em navegadores de internet, celulares e computadores comuns. Algumas plataformas já se tornaram populares em aplicativos como o Instagram ou TikTok por permitirem que usuários criem versões de si mesmos em estilos alternativos, como samurai ou astronauta, enquanto outros oferecem a possibilidade de baixar um áudio de uma pessoa famosa lendo qualquer frase desejada pelo usuário, videos dançando, entre outras brincadeiras. 

 

Apesar do caráter aparentemente inofensivo das brincadeiras baseadas em deepfake, problemas graves relacionados ao uso indiscriminado desta tecnologia já se tornaram comuns: áudios de figuras políticas levantando afirmações absurdas circulam como verdadeiros no TikTok, imagens adulteradas foram utilizadas para aplicar golpes em empresas, e de forma ainda mais alarmante, plataformas de deepfake adulto permitem que usuários gerem imagens de qualquer pessoa sem roupas, em qualquer posição, para download em alta resolução - isto inclui pessoas que não consentiram ou sequer foram informadas do conteúdo adulto, crianças e adolescentes, e celebridades. 

 

Para especialistas, já é tarde para tentar impedir ou restringir o acesso à tecnologia de deepfake - portanto, é urgente que a sociedade se adapte para compreender a possibilidade de imagens adulteradas em circulação, e de forma ainda mais relevante, que países atualizem sua legislação para punir crimes criados com esta tecnologia de forma mais específica. Também poderá ser necessário rever os ritos e garantias atribuídas a formas de evidência digital, como capturas de tela e fotografias. Períodos de campanha eleitoral também podem ser afetados pela grande divulgação massiva de potenciais deepfakes - o Exército dos Estados Unidos já divulgou estudar mecanismos para utilizar o deepfake em confrontos, enquanto a CIA já prepa materiais de treinamento para que seus representantes estejam preparados para uma nova era de imagens adulteradas.  

 

Vítimas do conteúdo adulto sem consentimento - incluindo celebridades e o público em geral - também relatam os danos sociais e psicológicos causados pelo abuso dessa tecnologia, que já resultou em demissões, término de relacionamentos, e traumas. Atualmente, especialistas orientam que o público seja informado sobre a tecnologia e suas consequências - não há método eficiente para determinar se uma imagem é devidamente real ou falsa, portanto, é necessário ceticismo ao encontrar imagens alarmantes ou potencialmente danosas. Além disso, no Brasil, é possível registrar boletins de ocorrência ou buscar orientação de uma delegacia de crimes virtuais caso alguma imagem deepfake seja usada de maneira ilegal - incluindo para estelionato, assédio sexual, ou outros usos indevidos da imagem pessoal.

 

A tecnologia de deepfake pode ser utilizada de forma positiva - como em filmes de Hollywood, filtros no TikTok, séries animadas e livros didáticos, mas também pode ser abusada de forma perigosa e causar instabilidades grandes no convívio social. É importante manter-se informado e pronto para a próxima década de tecnologias baseadas em inteligência artificial.