De acordo com Jeanette Hofmann (2019), novas tecnologias de comunicação digital deram origem a novos contornos do desenvolvimento dos meios de comunicação, os quais refletem as transformações estruturais mais amplas das sociedades ocidentais. Para a autora, uma vez que a democracia representativa requer aparatos de mediação técnica, a democracia moderna e os meios de comunicação estão estreitamente interligados: não há que se falar em democracia mediatizada como um tipo de democracia, senão apenas como uma perspectiva para se enxergar os processos democráticos atuais (Hofmann, 2019). Formas específicas de comunicação, bem como novos tipos de mídia, surgem em conjunto com processos sociais ainda mais complexos, cocriando-se e possibilitando mutuamente suas existências (Hofmann, 2019, p. 9).

Stefano Rodotà se refere a esse fenômeno como “tecnopolítica”. Nessa conjuntura, as tecnologias de informação e comunicação exercem influên­cia direta na esfera política, em diversos aspectos – desde o aumento da participação do cidadão em todos os momentos da democracia até a possibilidade de se cobrar maior transparência dos governantes (Rodotà, 2008, p. 91). É nesse mesmo sentido que Yochai Benkler afirma que vivemos em uma “esfera pública conectada”, que permite que os “indivíduos, atuando sozinhos ou com outros, sejam participantes ativos da esfera pública, em vez de leitores, ouvintes ou espectadores passivos” (Benkler, 2006, p. 212, tradução nossa)7. Nas palavras de Rodotà,

a passagem da comunicação vertical, típica da televisão tradicional, à comunicação horizontal, típica da internet, permitiria de fato resgatar o cidadão da passividade de espectador, tornando-o protagonista de um processo no qual desaparecem as distinções entre produtores e consumidores de informações.

Para Castells (2009), no contexto histórico em que vivemos, a política consiste majoritariamente na política midiática. Uma vez que os meios de comunicação constituem a nova ágora na qual relações de poder são disputadas e estabelecidas, basicamente todos os atores políticos e sociais precisam buscar seu espaço na mídia, a fim de se fazerem ouvir e alcançarem seus objetivos, pois

em virtude dos efeitos convergentes da crise dos sistemas políticos tradicionais e do grau de penetrabilidade bem maior dos novos meios de comunicação, a comunicação e as informações políticas são capturadas essencialmente no espaço da mídia. Tudo o que fica de fora do alcance da mídia assume a condição de marginalidade política.

Em um contexto de mediatização da política, não estar presente na mídia é virtualmente equivalente a não existir na mente das pessoas, de modo que apenas as organizações e os políticos que se comunicam diretamente e em larga escala com os cidadãos possuem alguma chance efetiva de influenciarem suas decisões e, como resultado, elevarem-se às posições de poder e/ou garantir a manutenção do status quo, quando já se encontram nessas posições (Castells, 2009, p. 194). Embora a disputa pelo poder seja uma característica intrínseca à própria política, sobretudo em se tratando de sistemas democráticos, e embora a comunicação seja um fenômeno tão antigo quanto a humanidade em si, há um fator relativamente novo que deve ser levado em consideração quando pensamos o debate político nos dias atuais. Trata-se do surgimento da autocomunicação em massa, um processo de transformação tecnológica e organizacional da comunicação, “baseada em redes horizontais de comunicação multidirecional, interativa, na Internet; e, mais ainda, nas redes de comunicação sem fio, atualmente a principal plataforma de comunicação em toda parte” (Castells, 2013, p. 128).

Nesse sentido, um ponto a se considerar é que, há até relativamente pouco tempo, o acesso à mídia era provido e controlado por gatekeepers (Castells, 2009) ou intermediários (Han, 2018a), pelos detentores dos meios de comunicação tradicional – emissoras de televisão e de rádio, editores e/ou donos de jornais e revistas. Esse cenário se transformou profundamente com o advento da Internet e da chamada Era da Informação, caracterizada pela existência de redes horizontais de comunicação e o consequente surgimento das redes sociais (Castells, 2013). Nas palavras de Han, “a comunicação digital se caracteriza pelo fato de que informações são produzidas, enviadas e recebidas sem mediação por meio de intermediários” (2017a, posição 267), e não mais filtradas ou dirigidas por mediadores.

Ainda de acordo com Castells, as redes sociais “conectam todas as dimensões da vida das pessoas” (Castells, 2013, p. 136), sendo essa uma tendência importante para toda a sociedade, sobretudo porque gera a transformação da cultura e das relações humanas ao estimular o compartilhamento ininterrupto de informações. Na Era da Informação, o mundo se encontra permanentemente conectado. Basicamente todas as experiências humanas passaram a ser compartilhadas na rede, o que modificou profundamente diversas esferas das nossas vidas. Entre elas, sem dúvidas, a política. Ao discutir a relevância da mídia para a comunicação humana nos tempos atuais, Castells reconhece que o poder da comunicação alterou inclusive a política democrática, i.e., a política baseada em eleições livres e supostamente justas como o principal mecanismo de acesso aos cargos políticos (Castells, 2009, p. 194). Como resultado, “a mídia eletrônica (não só o rádio e a televisão, mas todas as formas de comunicação, tais como o jornal e a internet) passou a se tornar o espaço privilegiado da política” (Castells, 2018a, localização 10.925).

Curiosamente, Byung-Chul Han (2018a) dá um nome diametralmente oposto ao fenômeno que Castells denomina “mediatização”. Segundo o autor sul-coreano, as novas formas de comunicação digital se distinguem das mídias tradicionais em diversos aspectos, e a sua (quase) prevalência sobre os meios de comunicação tradicional “desmediatizam a comunicação” (Han, 2018a, posição 299). Como toda a sociedade de informação se apoia na comunicação desmediatizada, a desmediatização se estende também à política, ameaçando a própria democracia representativa, na medida em que os cidadãos passam a enxergar os representantes políticos não como transmissores de informação, mas sim como barreiras à manifestação de suas opiniões (Han, 2018a). Explica-se: segundo o autor, a atual busca por informação e transparência não é uma demanda política, reivindicada para os processos políticos em si, como a tomada de decisões de interesse público, senão uma tentativa de “desmascara ou expor a classe dos políticos” e “transformar indivíduos em objetos de escândalo” (Han, 2018b, p. 21).

Em que pese a distinta conceituação do fenômeno, os autores parecem concordar no que se refere a seus efeitos, que se encontram sintetizados no pensamento de Hofmann. Para a autora alemã, o surgimento e, principalmente, o ímpeto da autocomunicação em massa reflete tanto as propriedades materiais dos novos meios de comunicação quanto as transformações pelas quais têm passado a democracia e a esfera pública (Hofmann, 2019, p. 10). À medida que a esfera pública global e sua infraestrutura midiática ganham importância, e que os limites econômicos e jurídicos entre a produção e o consumo de notícias se tornam “desinstitucionalizados” (Hofmann, 2019, p. 10), resta cada vez mais evidente como a Internet constitui um espaço (mais) aberto e eficaz no que se refere à democratização da comunicação e, consequentemente, do debate público (Magrani, 2014, p. 131).

As transformações no/do processo político são particularmente relevantes quando consideramos que, especialmente nas duas últimas décadas, o crescimento da centralidade da política midiática coincidiu com personalização da política (Castells, 2009, p. 202). O aumento da notoriedade de figuras políticas em detrimento da importância de partidos ou alianças políticas e de afinidades ideológicas tem caracterizado as disputas políticas em todo o mundo, o que é, ao mesmo tempo, causa e consequência do aumento do poder da comunicação e da política midiática: uma vez que todas as organizações midiáticas, sejam elas focadas na comunicação em massa ou na autocomunicação em massa, ou ambas, têm como objetivo expandir sua influência e seus recursos ao expandir e aumentar suas audiências (Castells, 2009, p. 195), o uso de figuras políticas carismáticas ou polêmicas se revela uma ferramenta valiosa para capturar a atenção das pessoas.

As pessoas tomam decisões, incluindo-se aquelas relacionadas à política, baseadas em informações – e sobretudo imagens – que são produzidas e divulgadas pela mídia tradicional e na Internet (Castells, 2009). As imagens com as quais temos contato geram um primeiro reflexo emocional, que é seguido de um processo cognitivo de elaboração e decisão; a impressão do contato inicial se transforma em opinião, a qual, por sua vez, “se confirma ou se desmente na elaboração do debate contínuo que acontece nas redes sociais em interação com a mídia” (Castells, 2018b, localização 253). As predisposições pessoais, que se encontram “armazenadas” nas mentes das pessoas em razão de suas experiências cotidianas, são trabalhadas pelas campanhas eleitorais (Castells, 2009, p. 224), a fim de, obviamente, conquistar o voto de tantos cidadãos quanto possível. Nesse sentido, as campanhas eleitorais são um elemento-chave para o acesso dos candidatos às instâncias de poder, desempenhando o papel de “motor da democracia” (Castells, 2009, p. 228). Elas são ainda, junto da personalização da política, uma das características fundamentais da política midiática (Castells, 2009)8.

A política midiática na era digital, por sua vez, é caracterizada justamente pela interação entre a mídia tradicional e as redes sociais (Castells, 2009, p. 224). Castells, no início dos anos 2000, afirmou que os meios de comunicação “convencionais” continuam sendo as principais fontes de informação com as quais os cidadãos têm contato, ao passo que a Internet abre “pontos de entrada” para o universo da comunicação audiovisual em massa (Castells, 2009, p. 224). Todavia, a interação entre essas diferentes esferas persista, o que observamos hoje, ao menos no Brasil e em boa parte do mundo, é a predominância dos meios de autocomunicação em massa no processo de informação e formação de opinião das pessoas. Por aqui, a rede de mensagens WhatsApp conta com pelo menos 130 milhões de usuários9. Alarmantemente, o aplicativo é utilizado como principal fonte de informação de 79% da população brasileira, seguido do YouTube (49%) e do Facebook (44%)10.

Tais dados se tornam ainda mais preocupantes quando pensamos em uma das principais diferenças entre os meios de comunicação em massa tradicionais e as redes sociais: a capacidade de controle e filtragem da entrada de informações no ecossistema informativo, inexistente nos meios “desmediatizados” (Han, 2018a). Os filtros estabelecidos por proprietários, anunciantes, editores e jornalistas profissionais privilegiam ou bloqueiam determinadas informações e imagens, o que basicamente não existe na Internet. Do contrário, o fácil acesso aos meios de comunicação implica “o rápido transbordamento, sufocamento ou atropelamento da informação obtida, assim como a chegada veloz de notícias” (Bauman, 2012, posição 265). As redes sociais se apresentam como espaço propício para a divulgação de mensagens que não foram “supervisionadas”, ampliando-se o escopo de fontes de informação e de desinformação, corroborando de maneira incisiva para a formação de uma “sociedade da indignação” (Han, 2018a), fomentada pela “política do escândalo” (Castells, 2009).

Muito antes de nos tornarmos uma sociedade digital, fofocas, rumores e escândalos já eram uma parte crítica do processo de determinação de relações de poder e de mudanças institucionais e sociais (Solove, 2007; Castells, 2009). Como expõe Daniel Solove (2007), desde sempre as pes­soas fofocam, espalham rumores e fazem comentários umas sobre as outras. Essas práticas encontraram na Internet um terreno fértil e dele se apossaram, adquirindo novas dimensões. Não sejamos hipócritas: a fofoca faz parte das nossas vidas. E a fofoca não é “inerentemente boa ou ruim – ela possui suas virtudes, assim como seus vícios” (Solove, 2007, p. 11, 12, tradução nossa)11. Nem os escândalos são, se considerarmos o potencial que possuem de nos alertar para situações problemáticas e nas quais, muito frequentemente, nossos direitos estão sendo violados.

A questão é que a recorrência de escândalos corrobora para o advento de uma “sociedade da indignação” (Han, 2018a) no âmago da sociedade da informação. Isso está diretamente ligado à industrialização da atenção humana (Wu, 2017), processo intrínseco às sociedades neoliberais. De acordo com Han,

nos modos atuais de produção imaterial, mais informação e mais comunicação significam mais produtividade, aceleração e crescimento. A informação é uma positividade que, por carecer de interioridade, pode circular independente do contexto. Isso permite que a circulação de informações seja acelerada à vontade.

Busca-se, destarte, acelerar cada vez mais a circulação de informação e comunicação, por meio, por exemplo, de ondas de indignação. Ondas de indignação são um instrumento eficaz em “mobilizar e compactar a atenção” dos cidadãos, mas não são apropriadas para organizar o discurso público, em razão de sua fluidez e volatilidade (Han, 2018a) – “liquidez”, nas palavras de Bauman (2001). Na sociedade de indignação, os escândalos “surgem frequentemente em vista de acontecimentos que têm muito pouca relevância social ou política” (Han, 2018a, posição 174), turvando ainda mais a esfera pública e inundando o debate político com informações imprecisas, inverídicas e irrelevantes.

Ademais, em se tratando de fofocas, rumores e escândalos, o recente processo de personalização da política traz consequências extraordinárias para as campanhas eleitorais: como as chances de um cidadão optar pelo candidato “A” ou “B” dependem das qualidades que esse candidato possui, campanhas efetivas tendem a enaltecer seus pontos positivos e, concomitantemente, dar destaque às características negativas de seus oponentes (Castells, 2009, p. 238). Uma vez que os aspectos negativos exercem uma maior influência sobre o poder de votos do que aqueles positivos (Castells, 2009, p. 238), a tendência que se observa é o foco cada vez maior nos pontos considerados problemáticos ou polêmicos, fazendo com que a política seja baseada, afinal, em escândalos. Com a Internet, argumenta Solove, a fofoca tem sido reestruturada de maneira a acentuar seus aspectos negativos (Solove, 2007), e acreditamos que o mesmo se aplica aos escândalos.

A comunicação na Internet, especialmente nas redes sociais, contribui para a consolidação da política do escândalo de duas principais maneiras. Primeiramente, a autocomunicação em massa admite alegações e denúncias, verdadeiras ou falsas, de múltiplas fontes, superando a capacidade de “filtragem”12 que a mídia tradicional possui (Castells, 2009; Han, 2018a). Embora tenhamos acesso a cada vez mais informação, temos sido bombardeados com cada vez mais má informação, e “mais informações e mais comunicação não clarificam o mundo” (Han, 2017). Para Solove (2007), temos vivido constantemente em um crepúsculo entre fato e ficção, frequentemente expostos a informações nas quais não podemos (ou não sabemos se podemos) confiar. Mais informações, aponta Han (2017), não geram mais verdade. Pelo contrário: “Quanto mais se liberam informações tanto mais intransparente torna-se o mundo. Por isso, a hiperinformação e a hipercomunicação não trazem luz à escuridão” (Han, 2017, posição 800).

Em segundo lugar, qualquer conteúdo, independetemente do veículo onde seja divulgado, tem o potencial de se tornar viral, de ser rapidamente e descontroladamente difundido. Qualquer pessoa pode postar um informação na Internet livremente (Solove, 2007, p. 189). Em um mundo onde se torna cada vez difícil separar o que é verdadeiro do que é falso, rumores e escândalos podem se espalhar rapidamente, de modo que a Internet acaba sendo empregada como uma “ferramenta poderosa para perpetrar ataques maliciosos contra pessoas e ideias” (Solove, 2007, p. 36).

Tudo isso ocorre em um contexto no qual cada clique pode ser monetizado e no qual, consequentemente, maior engajamento significa maior lucro. E os maiores engajamentos, sabemos, surgem a partir da divulgação de notícias negativas e/ou, muitas vezes, falsas (Citron; Chesney, 2019). Seguindo a lógica capitalista subjacente à política midiática, estabelece-se um verdadeiro mercado de conteúdos prejudiciais, o qual, na ausência de materiais autênticos aptos a gerar escândalos, é suprido com insinuações ou até mesmo fabricação de notícias (Castells, 2009, p. 249). Nas palavras do autor,

trata-se de inserir negatividade de conteúdos na imagem da pessoa que se quer destruir, a fim de eliminar o vínculo de confiança com os cidadãos. Daí a prática de operadores políticos profissionais no sentido de buscar materiais prejudiciais para determinados líderes políticos, manipulando-os e até fabricando-os para aumentar o efeito destrutivo.

Evidências empíricas sugerem que escândalos políticos influenciam o comportamento dos eleitores de maneira distinta, variando em razão de fatores como o país ou o cargo em disputa (Castells, 2009, p. 250). Sucintamente, é possível afirmar que

os efeitos da política do escândalo sobre resultados políticos específicos são em grande parte indeterminados. Eles dependem do contexto cultural e institucional, da relação entre o tipo de escândalo e o político envolvido no escândalo, do clima social e político do país e da intensidade do efeito do cansaço detectado entre os cidadãos após a repetição interminável de histórias de escândalo na mídia.

Uma coisa, porém, é certa. Independentemente dos resultados específicos em distintos contextos, a política do escândalo promove a transformação geral do cenário político ao fazer com que os cidadãos passem a associar automaticamente a política aos comportamentos escandalosos exibidos pela mídia e compartilhados nas redes sociais, o que, por sua vez, gera um contexto de insatisfação e desconfiança para com instituições e classes políticas, acentuando a crise de legitimidade que hoje se verifica por todo o mundo (Castells, 2009, p. 254). Tal crise possui um aspecto ineludivelmente partidário (Benkler; Faris; Hal, 2018), como explicaremos brevemente a seguir.

A siglonimização dos termos “deep learning”21 (aprendizado profundo, um ramo do aprendizado de máquina) e “fake” (falso) deu origem à expressão “deepfake”, que costuma ser empregada heuristicamente, referindo-se à ampla gama de falsificações hiper-realistas de imagens, vídeos e áudios realizadas digitalmente. Ao utilizar algoritmos de machine learning22 para inserir rostos e vozes em gravações de vídeo e áudios reais, tecnologias de deepfakes possibilitam a criação de personificações extremamente realistas, cujo resultado final é uma mídia dotada de tamanha verossimilhança, a ponto de se tornar (quase) impossível distinguir o que é real do que aquilo que foi digitalmente produzido. Colocando em termos mais simples, uma deepfake é um tipo de mídia – incluindo-se imagens, áudio e vídeo – que é ou manipulada ou inteiramente gerada por uma inteligência artificial (Schick, 2020, p. 8).

Nesse ponto, destaca-se a distinção realizada por Nina Schick: “Quando utilizada maliciosamente como desinformação, ou quando utilizada como má informação, uma mídia sintética é chamada deepfake” (Shick, 2020, p. 8, tradução nossa)23. Outra diferenciação cabível é aquela que se estabelece entre deepfakes, no sentido trazido supra, e as chamadas cheapfakes24. Pensemos, por exemplo, na imagem divulgada da presidente Dilma Roussef supostamente comendo um pombo vivo, na cidade Osasco25. Ou, então, nas imagens que circularam da candidata à vice-presidência nas eleições de 2018, Manuela D’Ávila, em que apareciam suas supostas tatuagens dos rostos de Che Guevara e Lênin e que, ainda, mostravam a política utilizando uma faixa presidencial claramente editada26. Ainda que sejam manipulações grotescas, ou, no termo exposto antes, cheapfakes, as imagens geraram certo nível de “credibilidade”, tendo sido tão compartilhadas por usuários de redes sociais que diversos sites de verificação de conteúdo tiveram que esclarecer que se tratavam de montagens. Desconsideradas as situações em que as manipulações realizadas digitalmente são facilmente perceptíveis, ou até mesmo esdrúxulas, cabe-nos agora analisar quais são, de fato, as características das deepfakes, a fim de melhor entender por que essa inovação tecnológica tem suscitado tantos debates e preocupações.

A despeito de diferentes classificações empregadas, a maioria dos autores aponta dois aspectos fundamentais das deepfakes: a qualidade das mídias produzidas e a acessibilidade às tecnologias de manipulação digital. Em relação ao primeiro aspecto, Schick afirma que a “IA vai criar efeitos audiovisuais muito melhores do que qualquer coisa que os estúdios de CGI27 já fizeram no passado” (Schick, 2020, p. 49). Talvez o mais conhecido exemplo do uso de GCI seja o filme “O curioso caso de Benjamim Button”, de 2008, que custou cerca de 170 milhões de dólares à época28. Hoje, pouco mais de dez anos após o lançamento do filme, o processo de manipulação de imagens tornou-se mais eficiente, devido, sobretudo, aos avanços proporcionados pela IA. O trabalho que antes demandava a atuação de diversos especialistas em computação gráfica agora pode ser realizado mediante o uso de softwares de computador e até mesmo apps para aparelhos celulares.

A segunda característica marcante das deepfakes é a acessibilidade (Kietzmann et al., 2020). Há até relativamente pouquíssimo tempo esse tipo de tecnologia de manipulação digital de imagens era acessível apenas para grandes estúdios de Hollywood, como expusemos antes. Hoje, todavia, qualquer pessoa pode baixar um dos diversos apps disponíveis no mercado e, com poucos passos, produzir uma deepfake (Maras; Alexandrou, 2019). É possível falar, portanto, na democratização do acesso (Schick, 2020, p. 49) a essas tecnologias: à medida que a tecnologia melhora e se torna mais acessível por meio de aplicativos e softwares, mais pessoas poderão acessá-la – o que, consequentemente, trará aspectos positivos e negativos.

Em suma, o ponto de inflexão dessas tecnologias é o escopo, a escala e a sofisticação dos métodos e instrumentos envolvidos, os quais permitem que basicamente qualquer pessoa com acesso a um computador produza conteúdos artificiais praticamente indistinguíveis daqueles considerados autênticos (Westerlund, 2020). Combinados, esses fatores são uma “receita para o sucesso” das deepfakes (Kietzmann et al., 2020).

Distinguir vídeos autênticos daqueles artificialmente criados ou modificados tem se tornado cada vez mais difícil, o que se dá, obviamente, em razão de sua crescente qualidade (Kietzmann et al., 2020). Nessa perspectiva, importante ressaltar que a verossimilhança das deepfakes está diretamente relacionada ao aumento de sua credibilidade. Mídias sintéticas estão se tornando mais críveis e o seu impacto mais significante. Isso se dá porque, embora nossa confiança em mídias fotográficas tenha decaído durante às últimas décadas, nós ainda depositamos muita confiança em evidências videográficas (Kietzmann et al., 2020).

Alguns dos potenciais aspectos negativos das tecnologias de criação de mídias sintéticas são, de certa forma, evidentes. É o caso das hipóteses mencionadas na introdução: fraudes, furto de dados biométricos e pornografia de vingança. Todavia, há também questões subjacentes, mas nem por isso menos importantes. Dedicaremos nossa atenção neste tópico a duas delas, nomeadamente a erosão da confiabilidade e o “dividendo do mentiroso” (Citron; Chesney, 2019).

Luciano Floridi (2018) afirma que “as tecnologias digitais parecem minar nossa confiança na natureza original, genuína e autêntica daquilo que vemos e ouvimos”. Devido à facilidade de se obter e difundir informações falsas através, principalmente, de redes sociais, tem se tornado progressivamente mais difícil saber no que confiar, o que traz consequências prejudiciais no que tange à tomada de decisão informada e ao estabelecimento de um diálogo público esclarecido. Teorias conspiratórias, rumores e desinformações tendem a se espalhar rapidamente (Westerlund, 2020), ao mesmo tempo em que o corrente “apocalipse informacional”29 faz com que as pessoas pensem que não podem confiar em informações que não sejam provenientes de suas redes de contato, nas quais se incluem seus familiares, amigos próximos ou colegas de trabalho, por exemplo.

Na esteira do que apontam Danielle Citron e Robert Chesney (2019), podemos vislumbrar três fenômenos que ajudam a compreender por que as deepfakes possuem uma inclinação para se tornarem virais. O primeiro deles diz respeito ao fato de que as pessoas, por vezes, não dedicam atenção suficiente à obtenção de informação, confiando naquilo que dizem outras pessoas que já teriam se informado sobre determinado assunto e tomando isso como suficiente. Uma vez que as pessoas não conseguem se informar de maneira adequada sobre tudo, elas frequentemente acreditam no que os outros disseram, presumindo que estes hajam analisado adequadamente as informações, ainda que a nova informação recebida vá de encontro àquilo que já sabiam. Trata-se, nas palavras de Cass Sunstein, da “cascata informacional” (2007, p. 84)30.

O segundo, por sua vez, se refere a nossa tendência natural de atração por informações novas e negativas, o que faz com que boatos ou rumores – que, geralmente, são negativos – sejam muito mais compartilhados do que outros tipos de informação (Meyer, 2018). Alguns pesquisadores, como Marc Trusler e Stuart Soroka (2014), se referem a esse fenômeno como “negativity bias”. A partir de um estudo empírico, os autores constataram que pessoas interessadas por política possuem certa inclinação a optar por ler notícias negativas, ainda que conscientemente declarem o contrário31. Em outro estudo, que analisou o compartilhamento de notícias no Twitter entre 2006 e 2017, concluiu-se que boatos e rumores falsos alcançavam as pessoas em uma velocidade até dez vezes maior que notícias verdadeiras; curiosamente, concluiu-se também que, ao contrário do que imagina o senso comum, bots espalham notícias verdadeiras e falsas com na mesma proporção, o que indica que os principais responsáveis pela divulgação de fake news são, de fato, os seres humanos (Vosoughi; Roy; Aral, 2018).

Finalmente, a “bolha dos filtros”32 (Pariser, 2012) agrava a disseminação de notícias falsas ou ruins, pois os algoritmos das plataformas de comunicação tendem a enfatizar conteúdos “populares”, especialmente se houverem sido compartilhados por amigos ou conexões realizadas nas redes, fazendo com que informações relativamente homogêneas permeiem nossos feeds. Isso porque, para poder lidar com o excesso de informação ao qual é submetido atualmente, o leitor “médio” passa a depender da filtragem realizada pelos algoritmos (Hildebrandt; De Vries, 2013), o que frequentemente vem associado à criação de “câmaras de eco” (Sunstein, 2007) ou “bolhas do filtro” (Pariser, 2012).

Esses três fatores, somados ao fato de que as deepfakes têm se tornado tão realísticas a ponto de confundir um espectador leigo ou desatento, podem levar, nas palavras de Marc Blitz (2018), a uma “anarquia informacional”. Isto é, a um mundo caracterizado por uma insuperável paranoia acerca do que é verdadeiro e do que é falso, o que afeta profundamente os processos de tomada de decisão individuais e coletivos que dependem da existência de um mínimo de confiança em fontes externas de comunicação (Blitz, 2018). Deepfakes podem causar tamanho desgaste à credibilidade das instituições, tanto públicas quanto privadas, que essas possivelmente enfrentarão uma crescente dificuldade de se mostrarem confiáveis para as pessoas de maneira geral, caracterizando a erosão da confiabilidade. Nas palavras de Castells,

embora os efeitos da política do escândalo sobre políticos específicos sejam indeterminados, tal política gera um efeito secundário que é devastador: o de inspirar o sentimento de desconfiança e reprovação moral sobre o conjunto dos políticos e da política, contribuindo assim para a crise de legitimidade.

É inegável, portanto, a possibilidade de deepfakes afetarem a confiança que os cidadãos depositam nas autoridades públicas, uma vez que conteúdos forjados poderiam mostrar políticos ou agentes com funções administrativas dizendo coisas absurdas, praticando atos imorais, etc. Isso é ainda mais inquietante quando consideramos o papel de chefes de Estado e instituições governamentais na produção e difusão de conteúdo falso33. Sobretudo se o governo se constituir em um regime despótico ou autoritário, há um verdadeiro incentivo para que se subvertam os meios de informação populares, de modo que apenas as pessoas no poder tenham a capacidade de controlar narrativas (Schick, 2020, p. 125).

Outra questão a ser considerada é que enquanto compartilhar uma informação é extremamente fácil, corrigir uma informação incorreta que foi compartilhada é muito mais difícil (Westerlund, 2020), lógica que se aplica às deepfakes. Na maioria das vezes, o alcance da informação verídica ou ajustada não é o mesmo que obteve o boato ou a desinformação; em muitas outras, a correção pode ser inapta para sanar o dano causado inicialmente (Citron; Chesney, 2019). Basta imaginar a hipótese em que uma deepfake retratando determinado candidato seja divulgada às vésperas da eleição à qual está concorrendo. A existência de um curto lapso temporal entre a divulgação da notícia e o comparecimento dos eleitores às urnas poderia, inclusive, “impossibilitar o candidato ofendido de esclarecer os fatos a seus eleitores ou de conseguir esclarecer o fato, por não haver tempo hábil de que o vídeo resposta se propague e tenha a mesma escalabilidade do vídeo falso” (Rais; Sales, 2020, localização 499). Bauman (2012) nos aponta que o movimento da informação ganha velocidade em um ritmo muito mais acelerado que a mudança da situação sobre a qual se informa. Em outras palavras, “a falsidade voa, e a verdade vem mancando atrás dela” (Swift, 1710).

Não devemos nos esquecer também que diversas pessoas provavelmente irão tomar por fraudulentos inúmeros vídeos genuínos, simplesmente porque assumirão a postura de afirmar que “qualquer coisa na qual não queiram acreditar deve ser fake” (Westerlund, 2020). É o que Chesney e Citron denominam “dividendo do mentiroso”34: as pessoas estarão imbuí-das em tamanho ceticismo que duvidarão da autenticidade de quaisquer evidências em áudio ou vídeo, mesmo as reais. Esse ceticismo poderá ser utilizado para desacreditar tanto conteúdos autênticos quanto conteúdos de fato adulterados ou imprecisos, como frequentemente feito por políticos como Donald Trump, nos EUA, e Jair Bolsonaro, no Brasil.

Diante do exposto, podemos considerar que o maior problema ocasionado pelas deepfakes não é a desinformação per se, mas sim a sensação de desconfiança e insegurança causada pelo constante contato com informações falsas, o que fará que nem mesmo conteúdos audiovisuais sejam tidos como fontes confiáveis de informação. Essa é a concretização do que Schick definiu como o “apocalipse informacional”. Nossa maior ameaça não se encontra na possibilidade de sermos, eventualmente, enganados, senão no fato de que tenderemos a considerar todas as informações que nos forem apresentadas como sendo errôneas, fictícias ou inverídicas.