Doutora e Mestre em Direito Civil pela Universidade do Estado do Rio de Janeiro (2006 e 2002). Professora Associada do Departamento de Direito da Pontifícia Universidade Católica do Rio de Janeiro (PUC-Rio), onde atualmente coordena a graduação em Direito. Coordenadora do Mestrado Profissional em Direito Civil Contemporâneo e Prática Jurídica da PUC-Rio. Professora do Programa de Pós-graduação em Direito Constitucional e Teoria do Estado da PUC-Rio. Professora pesquisadora do Núcleo Legalite da PUC-Rio – Direitos e Novas Tecnologias.
Doutorando em Teoria do Estado e Direito Constitucional pela Pontifícia Universidade Católica do Rio de Janeiro (PUC-Rio). Mestre em Direito e Inovação (2020) e bacharel em Direito (2017) pela Universidade Federal de Juiz de Fora (UFJF). Especialista em Relações Internacionais. Pesquisador no Núcleo Legalite PUC-Rio, no Instituto Legal Grounds e no Centro de Justiça e Sociedade da FGV Direito Rio.
Deepfakes – hyper-realistic audiovisual media, digitally manipulated through artificial intelligence techniques – are a recent phenomenon and, therefore, worthy of debate. The goal of this paper is to investigate the influence deepfakes have (or may have) on public debate and, consequently, on the political process overall. For this purpose, in a first moment, we perform a theoretical construction about the mediatization of politics, the influence of gossip and scandals in the democratic process, and the polarization of the “connected public sphere”, analyzing how these phenomena corroborate what is called the crisis of representative democracy. Next, we present and discuss in more detail the so-called deepfakes, exploring their relationship with the phenomenon of misinformation, how they fit into the context of political debate in the so-called “information age”, and how they affect (or may affect) this moment of the democratic process. We conclude that, although deepfakes are a relatively new phenomenon and deserving of attention, at least as far as the political process is concerned, they do little more than deepen certain problems already in existence in our society.
SUMÁRIO: Introdução: quando os olhos deixam de ser testemunhas confiáveis; 1 Mediatização da política, polarização e crise democrática; 1.1 (Des)mediatização da política e política midiática; 1.2 Fofocas, escândalos e política: da polarização à crise da democracia; 2
Estamos entrando numa era em que nossos inimigos podem fazer parecer que qualquer um está dizendo qualquer coisa em qualquer momento, mesmo que nunca tenham dito essas coisas. Por exemplo, eles poderiam me fazer dizer coisas como [...] “o Presidente Trump é um total e completo imbecil”
Essas são as palavras ditas por Barack Obama, ex-presidente dos Estados Unidos da América, em um vídeo recente, publicado no YouTube. Quer dizer, não exatamente por Obama. O rosto que vemos e a voz que ouvimos no vídeo são, de fato, do ex-presidente, e os movimentos realizados parecem verdadeiros. Contudo, trata-se de uma
A maneira como nos comunicamos vem, ao longo dos últimos anos, se transformando e evoluindo em velocidade e sentidos jamais vistos: como a comunicação é a base das atividades humanas, “todos os domínios da vida social estão sendo modificados pelos usos disseminados da Internet” (
A atração exercida pelos meios de comunicação audiovisual pode ser explicada por aquilo que os psicólogos denominam “fluência de processamento”, que corresponde ao nosso viés cognitivo inconsciente de predileção por informações as quais nosso cérebro pode processar rapidamente (
Embora as
A metodologia aplicada à pesquisa para o desenvolvimento do artigo consiste em análise teórica crítica, embasada em investigação bibliográfica interdisciplinar nas áreas do direito, sociologia, ética e tecnologia (especialmente nas áreas de inteligência artificial, algoritmos,
Para tanto, esta pesquisa encontra-se dividida em dois momentos principais. No primeiro deles, discutimos a noção de (des)mediatização da política e política midiática, sobretudo a partir de
De acordo com
Stefano Rodotà se refere a esse fenômeno como “tecnopolítica”. Nessa conjuntura, as tecnologias de informação e comunicação exercem influência direta na esfera política, em diversos aspectos – desde o aumento da participação do cidadão em todos os momentos da democracia até a possibilidade de se cobrar maior transparência dos governantes (
a passagem da comunicação vertical, típica da televisão tradicional, à comunicação horizontal, típica da internet, permitiria de fato resgatar o cidadão da passividade de espectador, tornando-o protagonista de um processo no qual desaparecem as distinções entre produtores e consumidores de informações.
Para
em virtude dos efeitos convergentes da crise dos sistemas políticos tradicionais e do grau de penetrabilidade bem maior dos novos meios de comunicação, a comunicação e as informações políticas são capturadas essencialmente no espaço da mídia. Tudo o que fica de fora do alcance da mídia assume a condição de marginalidade política.
Em um contexto de mediatização da política, não estar presente na mídia é virtualmente equivalente a não existir na mente das pessoas, de modo que apenas as organizações e os políticos que se comunicam diretamente e em larga escala com os cidadãos possuem alguma chance efetiva de influenciarem suas decisões e, como resultado, elevarem-se às posições de poder e/ou garantir a manutenção do
Nesse sentido, um ponto a se considerar é que, há até relativamente pouco tempo, o acesso à mídia era provido e controlado por
Ainda de acordo com Castells, as redes sociais “conectam todas as dimensões da vida das pessoas” (
Curiosamente, Byung-Chul
Em que pese a distinta conceituação do fenômeno, os autores parecem concordar no que se refere a seus efeitos, que se encontram sintetizados no pensamento de Hofmann. Para a autora alemã, o surgimento e, principalmente, o ímpeto da autocomunicação em massa reflete tanto as propriedades materiais dos novos meios de comunicação quanto as transformações pelas quais têm passado a democracia e a esfera pública (
As transformações no/do processo político são particularmente relevantes quando consideramos que, especialmente nas duas últimas décadas, o crescimento da centralidade da política midiática coincidiu com personalização da política (
As pessoas tomam decisões, incluindo-se aquelas relacionadas à política, baseadas em informações – e sobretudo imagens – que são produzidas e divulgadas pela mídia tradicional e na Internet (
A política midiática na era digital, por sua vez, é caracterizada justamente pela interação entre a mídia tradicional e as redes sociais (
Tais dados se tornam ainda mais preocupantes quando pensamos em uma das principais diferenças entre os meios de comunicação em massa tradicionais e as redes sociais: a capacidade de controle e filtragem da entrada de informações no ecossistema informativo, inexistente nos meios “desmediatizados” (
Muito antes de nos tornarmos uma sociedade digital, fofocas, rumores e escândalos já eram uma parte crítica do processo de determinação de relações de poder e de mudanças institucionais e sociais (
A questão é que a recorrência de escândalos corrobora para o advento de uma “sociedade da indignação” (
nos modos atuais de produção imaterial, mais informação e mais comunicação significam mais produtividade, aceleração e crescimento. A informação é uma positividade que, por carecer de interioridade, pode
Busca-se, destarte, acelerar cada vez mais a circulação de informação e comunicação, por meio, por exemplo, de ondas de indignação. Ondas de indignação são um instrumento eficaz em “mobilizar e compactar a atenção” dos cidadãos, mas não são apropriadas para organizar o discurso público, em razão de sua fluidez e volatilidade (
Ademais, em se tratando de fofocas, rumores e escândalos, o recente processo de personalização da política traz consequências extraordinárias para as campanhas eleitorais: como as chances de um cidadão optar pelo candidato “A” ou “B” dependem das qualidades que esse candidato possui, campanhas efetivas tendem a enaltecer seus pontos positivos e, concomitantemente, dar destaque às características negativas de seus oponentes (
A comunicação na Internet, especialmente nas redes sociais, contribui para a consolidação da política do escândalo de duas principais maneiras. Primeiramente, a autocomunicação em massa admite alegações e denúncias, verdadeiras ou falsas, de múltiplas fontes, superando a capacidade de “filtragem”
Em segundo lugar, qualquer conteúdo, independetemente do veículo onde seja divulgado, tem o potencial de se tornar viral, de ser rapidamente e descontroladamente difundido. Qualquer pessoa pode postar um informação na Internet livremente (
Tudo isso ocorre em um contexto no qual cada clique pode ser monetizado e no qual, consequentemente, maior engajamento significa maior lucro. E os maiores engajamentos, sabemos, surgem a partir da divulgação de notícias negativas e/ou, muitas vezes, falsas (
trata-se de inserir negatividade de conteúdos na imagem da pessoa que se quer destruir, a fim de eliminar o vínculo de confiança com os cidadãos. Daí a prática de operadores políticos profissionais no sentido de buscar materiais prejudiciais para determinados líderes políticos, manipulando-os e até fabricando-os para aumentar o efeito destrutivo.
Evidências empíricas sugerem que escândalos políticos influenciam o comportamento dos eleitores de maneira distinta, variando em razão de fatores como o país ou o cargo em disputa (
os efeitos da política do escândalo sobre resultados políticos específicos são em grande parte indeterminados. Eles dependem do contexto cultural e institucional, da relação entre o tipo de escândalo e o político envolvido no escândalo, do clima social e político do país e da intensidade do efeito do cansaço detectado entre os cidadãos após a repetição interminável de histórias de escândalo na mídia.
Uma coisa, porém, é certa. Independentemente dos resultados específicos em distintos contextos, a política do escândalo promove a transformação geral do cenário político ao fazer com que os cidadãos passem a associar automaticamente a política aos comportamentos escandalosos exibidos pela mídia e compartilhados nas redes sociais, o que, por sua vez, gera um contexto de insatisfação e desconfiança para com instituições e classes políticas, acentuando a crise de legitimidade que hoje se verifica por todo o mundo (
Na sociedade da informação, aponta Han, ocorre um aplainamento da comunicação: uma vez que o “segredo, o estranhamento ou a alteridade representam barreiras à comunicação ilimitada” (
Não obstante, Cass Sunstein argumenta que, em uma democracia funcional, as pessoas não devem viver em “câmaras de eco” ou “casulos informacionais”; do contrário, elas devem ser expostas a assuntos, ideias e pontos de vistas distintos, ainda que conscientemente não desejem essa exposição. Embora, em diversos contextos, o ser humano naturalmente tenha uma tendência à homofilia, a se conectar e a criar laços com pessoas com as quais se identificam (
novas tecnologias, enfaticamente incluindo a Internet, tornam mais fácil para as pessoas se cercar (virtualmente, é claro) das opiniões de outras que pensam de maneira semelhante, mas que estariam, do contrário, isoladas, e se isolar de opiniões conflitantes. Por essa razão somente, elas são um terreno fértil para a polarização, e um terreno fértil tanto para a democracia quanto para a paz social.
A construção de comunidades homogêneas é um impulso voluntário facilitado pelos ambientes virtuais, mas que tende a ser negativamente exacerbado com as redes sociais e as bolhas do filtro, “favorecendo o isolamento e o entrincheiramento de grupos sociais e políticos” (
É importante deixar claro que a Internet não é causadora da polarização (nem das fofocas, da política do escândalo, etc., como buscamos demonstrar nos tópicos anteriores). Yochai Benkler, Robert Faris e Hal Roberts argumentam que o “Facebook não criou a arquitetura assimétrica da esfera pública americana” (
Ainda assim, a “polarização de grupos está inquestionavelmente ocorrendo
Embora a comunicação em massa atinja sua velocidade máxima quando pessoas com pensamentos e ideiais semelhantes trocam informações, em uma verdadeira “reação em cadeia do igual” (
A predominância da política midiática e da política do escândalo na condução de assuntos públicos traz como resultados uma maior exposição da corrupção das instituições políticas e o consequente declínio da confiança dos cidadãos nessas instituições (
O senso comum (mas também muitos acadêmicos, cientistas políticos, etc.) enxerga o declínio da confiança dos cidadãos nas instituições democráticas como uma consequência da Internet e, mais precisamente, do advento das redes sociais. Contudo, interpretar que a crise democrática é uma
A mudança geral da confiança para a desconfiança transformou a esfera pública em um espaço de observação, avaliação, controle e de escândalo de atores políticos. Entretanto, o ponto a ser destacado no contexto da noção de democracia midiática é que a mudança de práticas e atitudes democráticas pode ser interpretada como um motor da evolução das redes sociais e, em um sentido mais amplo, da mediatização.
As tecnologias de informação e comunicação constituem um espaço de possibilidades que deriva sua forma específica, principalmente da contínua transformação dos próprios processos democráticos, de modo que os serviços de comunicação digital servem para a experimentação de novos modos de expressão política, ao mesmo tempo em que são moldados por eles (
A dissociação entre as práticas dos governantes eleitos e as expectativas de seus jurisdicionados é, então, exacerbada pela política midiática e pela política do escândalo, gerando não só maior descontentamento entre os cidadãos, como também desafios cada vez maiores à própria ordem democrática. Nesse sentido, a política midiática e a política do escândalo, acentuadas pela polarização da esfera pública conectada, estão diretamente ligadas à crise – “ruptura”, nas palavras de
A Era da Informação é marcada pela interconexão da comunicação humana e pela disponibilização, em rede, de basicamente toda e qualquer informação, o que cria um “universo midiático no qual estamos permanentemente imersos” (
Em se tratando da comunicação realizada por candidatos e instituições políticas em disputas eleitorais, a troca de informações ocorre, como exposto nos tópicos anteriores, tanto na mídia tradicional quanto nos meios de autocomunicação em massa, sobretudo nas redes sociais. Independentemente do meio onde se veicule determinada informação, fato é que, para se atingir um grande número de pessoas, é necessária uma mensagem simples e impactante. A mensagem mais simples que pode haver é uma imagem; por sua vez, a imagem mais simples, e com a qual a maioria das pessoas se identifica, é um rosto humano (
Nas sociedades democráticas atuais, a luta pelo poder passa pela política midiática e pela política do escândalo (
A siglonimização dos termos “
Nesse ponto, destaca-se a distinção realizada por Nina Schick: “Quando utilizada maliciosamente como desinformação, ou quando utilizada como má informação, uma mídia sintética é chamada
A despeito de diferentes classificações empregadas, a maioria dos autores aponta dois aspectos fundamentais das
A segunda característica marcante das
Em suma, o ponto de inflexão dessas tecnologias é o escopo, a escala e a sofisticação dos métodos e instrumentos envolvidos, os quais permitem que basicamente qualquer pessoa com acesso a um computador produza conteúdos artificiais praticamente indistinguíveis daqueles considerados autênticos (
Distinguir vídeos autênticos daqueles artificialmente criados ou modificados tem se tornado cada vez mais difícil, o que se dá, obviamente, em razão de sua crescente qualidade (
Alguns dos potenciais aspectos negativos das tecnologias de criação de mídias sintéticas são, de certa forma, evidentes. É o caso das hipóteses mencionadas na introdução: fraudes, furto de dados biométricos e pornografia de vingança. Todavia, há também questões subjacentes, mas nem por isso menos importantes. Dedicaremos nossa atenção neste tópico a duas delas, nomeadamente a erosão da confiabilidade e o “dividendo do mentiroso” (
Na esteira do que apontam
O segundo, por sua vez, se refere a nossa tendência natural de atração por informações novas e negativas, o que faz com que boatos ou rumores – que, geralmente, são negativos – sejam muito mais compartilhados do que outros tipos de informação (
Finalmente, a “bolha dos filtros”
Esses três fatores, somados ao fato de que as
embora os efeitos da política do escândalo sobre políticos específicos sejam indeterminados, tal política gera um efeito secundário que é devastador: o de inspirar o sentimento de desconfiança e reprovação moral sobre o conjunto dos políticos e da política, contribuindo assim para a crise de legitimidade.
É inegável, portanto, a possibilidade de
Outra questão a ser considerada é que enquanto compartilhar uma informação é extremamente fácil, corrigir uma informação incorreta que foi compartilhada é muito mais difícil (
Não devemos nos esquecer também que diversas pessoas provavelmente irão tomar por fraudulentos inúmeros vídeos genuínos, simplesmente porque assumirão a postura de afirmar que “qualquer coisa na qual não queiram acreditar deve ser
Diante do exposto, podemos considerar que o maior problema ocasionado pelas
A Internet e a redes sociais não causaram o declínio da democracia representativa, nem dos meios de expressão e participação política. E dificilmente as
Se, para Castells, a política do escândalo é a epítome da política midiática (2009, p. 8), não parece exagero afirmar que as
Todavia, devemos levar em consideração que as
Muitos são os desafios que se colocam a nossa frente. Serão necessárias discussões aprofundadas no que se refere aos limites da liberdade de expressão, à regulação tecnológica e da atividade econômica, à educação midiática. Reconhecendo as limitações da presente pesquisa, que não pôde se debruçar sobre as eventuais soluções para os problemas apresentados, este artigo pretendeu ser um pontapé inicial em um debate tão caro quanto urgente.
Cf.: “You Won’t Believe What Obama Says In This Video!”. Disponível em:
O termo poderia ser traduzido, ainda que com perda de sentido, como “falsificação profunda”.
O termo pode ser traduzido como “pornografia de vingança”. Sobre o tema, cf.:
No original: “
Castells identifica ainda uma terceira característica: a prática de “
Cf.: “Usuários de
Cf.: “WhatsApp é a principal fonte de informação dos brasileiros, indica pesquisa”. Disponível em:
No original: “
Nesse sentido, vale notar que recentemente o governo Bolsonaro realizou uma investida contra a moderação de conteúdo na Internet. Em maio deste ano, o atual presidente da República manifestou a intenção de publicar um decreto regulamentando o Marco Civil da Internet (Lei nº 12.965/2014), no sentido de vetar a moderação de conteúdo por parte das plataformas. Nos termos do decreto, qualquer conteúdo – por exemplo, discursos antivacina, desinformação eleitoral,
No original: “
No original: “
Nas palavras de Sunstein, “[...]
Retornaremos ao assunto no tópico 2.2.
No original: “
No original: “
No original: “
Neste trabalho, não discutiremos com profundidade a questão da regulação das
Trata-se de um ramo do aprendizado de máquina (conceituado na nota abaixo), isto é, “corresponde a uma técnica de inteligência artificial que realiza o treinamento das chamadas ‘redes neurais profundas’ (
A expressão “
No original: “
O termo “
Cf.: “Mentira que Dilma comeu pombo em calçadão de Osasco”. Disponível em:
Cf.: “Imagem de Manuela D’Ávila com tatuagens de Che Guevara e Lênin é montagem”. Disponível em:
“CGI” é a sigla para “
Cf.: “What’s Wrong With ‘Benjamin Button’?”. Disponível em:
Schick utiliza o neologismo “
“
“
Em três anos de governo, de 2017 a janeiro de 2020, Donald Trump, presidente dos EUA, havia feito mais de 18 mil alegações falsas ou enganosas (Shick, op. cit., p. 93). No Brasil, Jair Bolsonaro atingiu a marcar de mil declarações distorcidas ou falsas com 492 dias de governo (Cf.: “Bolsonaro chega a 1.000 declarações falsas ou distorcidas com 492 dias de mandato”. Disponível em:
Chesney e
É a sugestão feita por