No último dia 15 de junho, a Netflix lançou a nova temporada de Black Mirror, um dos maiores sucessos da plataforma de streaming desde a sua criação. Líder em audiência em diversos países, incluindo o Brasil, a obra costuma propor distopias que mesclam discussões atuais sobre a internet, a inteligência artificial, o uso das redes sociais e outros assuntos voltados à tecnologia. O episódio piloto da nova temporada, “A Joan É Péssima”, estrela a veterana Salma Hayek e a atriz canadense Annie Murphy, ambas interpretando versões diferentes de Joan, que é a protagonista. 

O que deixou muitos fãs surpresos é que o primeiro episódio ironiza a própria Netflix, com uma paródia do streaming chamada “Streamberry”, site com termos de privacidade e direitos abusivos, e que originam a trama por trás da perda dos direitos de Joan sobre a própria imagem. Através de uma tecnologia de inteligência artificial chamada “Deepfake”, Joan tem sua vida exposta em uma série de cronologia em tempo real, lançada no Streamberry e com atualizações cotidianas. 

Entenda “A Joan É Péssima”, episódio 1 (contém spoilers) 

“A Joan É Péssima” (“Joan Is Awful”, em inglês) é estrelado pela atriz de Schitt's Creek, Annie Murphy, como Joan, uma CEO de tecnologia. De uma só vez, a série contextualiza momentos tensos do cotidiano de Joan: a empresária demitindo de forma nada legal um funcionário (interpretado por Ayo Edebiri, do The Bear), conversando com seu terapeuta sobre não gostar da culinária do seu noivo Krish (Ani Nash) e beijando seu ex-namorado Mac (Rob Delaney) em um momento de fraqueza. 

No final do dia, ela se senta para assistir Streamberry, um substituto da Netflix, e dá de cara com um novo programa chamado “A Joan É Péssima”. Curiosos, ela e Krish assistem ao primeiro episódio que acaba por ser uma dramatização do seu dia, com Joan interpretada por Salma Hayek. No final do episódio, a "Joan" de Hayek liga Streamberry para encontrar Cate Blanchett. 

A forma como ela é retratada imediatamente custa a Joan seu emprego e seu relacionamento. Depois de falar com seu advogado sobre a série invasiva, Joan é informada de que ela renunciou a seus direitos quando concordou com os termos e condições de Streamberry. O show é feito usando inteligência artificial, imagens e tecnologia deepfake, que captam informações do microfone de seu celular. 

Isso significa que a própria Salma Hayek não está envolvida na produção, tendo simplesmente permitido que Streamberry usasse sua imagem. Em uma tentativa de pressionar Hayek a encerrar o show, Joan defeca em uma igreja, para chamar atenção e intimidar Salma, que a interpretaria mais tarde na série, repetindo o mesmo ato. As duas, por fim, unem forças para derrubar o computador quântico da empresa que cria o conteúdo. 

Mas afinal, o que é deepfake? 

Deepfakes (em tradução livre, significa “profundamente falso”) são vídeos artificiais criados por computador nos quais as imagens são combinadas para criar novas imagens que retratam eventos, declarações ou ações que nunca aconteceram. Os resultados podem ser bastante convincentes. Deepfakes diferem de outras formas de informações falsas por serem muito difíceis de identificar como falsas. 

Essa tecnologia surge do trabalho do machine-learning (“aprendizado mecânico”),  subconjunto da inteligência artificial (IA) que se concentra na construção de sistemas que aprendem ou melhoram o desempenho de algo, com base nos dados que consomem. O algoritmo é alimentado com exemplos e aprende a produzir uma saída semelhante aos exemplos dos quais aprendeu. 

O aprendizado profundo (“deep’) é um tipo especial de aprendizado artificial que envolve “camadas ocultas”. Normalmente, o aprendizado profundo é executado por uma classe especial de algoritmo chamada rede neural, projetada para replicar a maneira como o cérebro humano aprende as informações. Uma camada oculta é uma série de nós dentro da rede que realiza transformações matemáticas para converter sinais de entrada em sinais de saída (no caso de deepfakes, para converter imagens reais em imagens falsas de qualidade) 

Quanto mais camadas ocultas uma rede neural tiver, mais “profunda” será a rede. As redes neurais, e particularmente as redes neurais recursivas (RNNs), são conhecidas por terem um desempenho muito bom em tarefas de reconhecimento de imagem. 

O processo de produção de deepfakes complexos envolve, na verdade, dois algoritmos. Um algoritmo é treinado para produzir as melhores réplicas falsas possíveis de imagens reais. O outro modelo é treinado para detectar quando uma imagem é falsa e quando não é. Os dois modelos se repetem, cada um melhorando em suas respectivas tarefas. Ao colocar modelos uns contra os outros, você acaba com um modelo que é extremamente hábil em produzir imagens falsas; tão adepto, de fato, que os humanos muitas vezes não conseguem dizer que o resultado é falso. 

E qual o problema nisso? 

A grande maioria das pessoas, atualmente, obtém suas informações e formula opiniões com base no conteúdo da internet. Portanto, qualquer pessoa com a capacidade de criar deepfakes pode divulgar desinformação e influenciar as massas a se comportarem de uma maneira que avance a agenda pessoal do falsificador de alguma forma. A desinformação baseada em deepfake pode causar estragos em escala micro e macro. 

Em pequena escala, os deepfakers podem, por exemplo, criar vídeos personalizados que parecem mostrar um parente pedindo uma grande quantia em dinheiro para ajudá-los a sair de uma emergência e enviá-los a vítimas inocentes, enganando internautas em um nível sem precedentes. 

Em larga escala, vídeos falsos de importantes líderes mundiais fazendo afirmações falsas podem incitar a violência e até mesmo a guerra, influenciar eleitores e grupos políticos. 

O que pode ser feito? 

A tecnologia ainda não se tornou o maior problema da internet, mas provavelmente aumentará em prevalência e qualidade nos próximos anos. Isso não significa que você não pode confiar em nenhuma imagem ou vídeo, mas deve começar a treinar para ficar mais atento a imagens e vídeos falsos, especialmente quando os vídeos pedem que você envie dinheiro ou informações pessoais ou que façam reivindicações fora do comum. 

Curiosamente, a inteligência artificial pode ser a resposta para detectar deepfakes. Os modelos podem ser treinados para reconhecer imagens falsas em dimensões que o olho humano não consegue detectar.