<?xml version="1.0" encoding="utf-8"?><!DOCTYPE article PUBLIC "-//NLM//DTD JATS (Z39.96) Journal Publishing DTD v1.1 20151215//EN" "http://jats.nlm.nih.gov/publishing/1.1/JATS-journalpublishing1.dtd">
<article xmlns:xlink="http://www.w3.org/1999/xlink" xmlns:mml="http://www.w3.org/1998/Math/MathML" dtd-version="1.1" specific-use="sps-1.9" article-type="research-article" xml:lang="pt">
    <front>
        <journal-meta>
            <journal-id journal-id-type="publisher-id">rdp</journal-id>
            <journal-title-group>
                <journal-title>Revista Direito Público</journal-title>
                <abbrev-journal-title abbrev-type="publisher">Rev. Dir. Publico</abbrev-journal-title>
            </journal-title-group>
            <issn pub-type="epub">2236-1766</issn>
            <publisher>
                <publisher-name>Instituto Brasileiro de Ensino, Desenvolvimento e Pesquisa</publisher-name>
            </publisher>
        </journal-meta>
        <article-meta>
            <article-id pub-id-type="doi">10.11117/rdp.v18i99.5377</article-id>
            <article-categories>
                <subj-group subj-group-type="heading">
                    <subject>Assunto Especial</subject>
                    <subj-group>
                        <subject>Dossiê – Democracia, <italic>Fake News</italic> e eleições</subject>
                    </subj-group>
                </subj-group>
            </article-categories>
            <title-group>
                <article-title>Sociologia Jurídica das Fake News Eleitorais: uma Observação Sistêmica das Respostas Judiciais e Legislativas em Torno das Eleições Brasileiras de 2018<xref ref-type="fn" rid="fn01">1</xref></article-title>
                <trans-title-group xml:lang="en">
                    <trans-title>A Legal Sociology of Electoral Fake News: a Systemic Observation about Judicial and Legislative Responses Regarding 2018 Brazilian Elections</trans-title>
                </trans-title-group>
            </title-group>
            <contrib-group>
                <contrib contrib-type="author">
                    <contrib-id contrib-id-type="orcid">0000-0002-8923-8300</contrib-id>
                    <name>
                        <surname>AMATO</surname>
                        <given-names>LUCAS FUCCI</given-names>
                    </name>
                    <xref ref-type="aff" rid="aff01">I</xref>
                    <xref ref-type="fn" rid="fn14"/>
                    <xref ref-type="corresp" rid="c01"/>
                </contrib>
                <contrib contrib-type="author">
                    <contrib-id contrib-id-type="orcid">0000-0003-1978-2738</contrib-id>
                    <name>
                        <surname>SABA</surname>
                        <given-names>DIANA TOGNINI</given-names>
                    </name>
                    <xref ref-type="aff" rid="aff02">II</xref>
                    <xref ref-type="fn" rid="fn15"/>
                    <xref ref-type="corresp" rid="c02"/>
                </contrib>
                <contrib contrib-type="author">
                    <contrib-id contrib-id-type="orcid">0000-0001-9465-8783</contrib-id>
                    <name>
                        <surname>BARROS</surname>
                        <given-names>MARCO ANTONIO LOSCHIAVO LEME DE</given-names>
                    </name>
                    <xref ref-type="aff" rid="aff03">III</xref>
                    <xref ref-type="fn" rid="fn16"/>
                    <xref ref-type="corresp" rid="c03"/>
                </contrib>
            </contrib-group>
            <aff id="aff01">
                <label>I</label>
                <institution content-type="orgname">Universidade de São Paulo</institution>
                <institution content-type="orgdiv1">Faculdade de Direito da USP</institution>
                <addr-line>
                    <named-content content-type="city">São Paulo</named-content>
                    <named-content content-type="state">SP</named-content>
                </addr-line>
                <country country="BR">Brasil</country>
                <institution content-type="original">Universidade de São Paulo (USP), Faculdade de Direito da USP. São Paulo (SP). Brasil.</institution>
            </aff>
            <aff id="aff02">
                <label>II</label>
                <institution content-type="orgname">Universidade de São Paulo</institution>
                <institution content-type="orgdiv1">Faculdade de Direito</institution>
                <addr-line>
                    <named-content content-type="city">São Paulo</named-content>
                    <named-content content-type="state">SP</named-content>
                </addr-line>
                <country country="BR">Brasil</country>
                <institution content-type="original">Universidade de São Paulo (USP), Faculdade de Direito da USP. São Paulo (SP). Brasil</institution>
            </aff>
            <aff id="aff03">
                <label>III</label>
                <institution content-type="orgname">Universidade Presbiteriana Mackenzie</institution>
                <addr-line>
                    <named-content content-type="city">São Paulo</named-content>
                    <named-content content-type="state">SP</named-content>
                </addr-line>
                <country country="BR">Brasil</country>
                <institution content-type="original">Universidade Presbiteriana Mackenzie. São Paulo (SP). Brasil.</institution>
            </aff>
            <author-notes>
                <fn fn-type="other" id="fn14">
                    <label>Lucas Fucci Amato</label>
                    <p>Professor Doutor na Faculdade de Direito da Universidade de São Paulo (USP).</p>
                </fn>
                <corresp id="c01">E-mail: <email>lucas.amato@usp.br</email>
                </corresp>
                <fn fn-type="other" id="fn15">
                    <label>Diana Tognini Saba</label>
                    <p>Doutoranda na Faculdade de Direito da Universidade de São Paulo (USP).</p>
                </fn>
                <corresp id="c02">E-mail: <email>diana.saba11@gmail.com</email>
                </corresp>
                <fn fn-type="other" id="fn16">
                    <label>Marco Antonio Loschiavo Leme de Barros</label>
                    <p>Professor Doutor da Faculdade de Direito da Universidade Presbiteriana Mackenzie, São Paulo.</p>
                </fn>
                <corresp id="c03">E-mail: <email>marcoloschiavo@gmail.com</email>
                </corresp>
            </author-notes>
            <pub-date publication-format="electronic" date-type="pub">
                <day>0</day>
                <month>0</month>
                <year>2023</year>
            </pub-date>
            <pub-date publication-format="electronic" date-type="collection">
                <season>Jul-Sep</season>
                <year>2021</year>
            </pub-date>
            <volume>18</volume>
            <issue>99</issue>
            <fpage>549</fpage>
            <lpage>574</lpage>
            <history>
                <date date-type="received">
                    <day>26</day>
                    <month>04</month>
                    <year>2021</year>
                </date>
                <date date-type="accepted">
                    <day>18</day>
                    <month>10</month>
                    <year>2021</year>
                </date>
            </history>
            <permissions>
                <license license-type="open-access" xlink:href="http://creativecommons.org/licenses/by-nc/4.0/" xml:lang="pt">
                    <license-p>Este é um artigo publicado em acesso aberto (<italic>Open Access</italic>) sob a licença <italic>Creative Commons Attribution Non-Commercial</italic>, que permite uso, distribuição e reprodução em qualquer meio, sem restrições desde que sem fins comerciais e que o trabalho original seja corretamente citado.</license-p>
                </license>
            </permissions>
            <abstract>
                <title>RESUMO</title>
                <p>Este texto apresenta uma perspectiva sociológica sobre o tema das fake news eleitorais a partir do recorte temporal das eleições brasileiras de 2018. A temática é fundamental diante do potencial disruptivo que a disseminação massiva de notícias falsas representa para o processo eleitoral. O estudo adota o referencial da teoria dos sistemas sociais de Niklas Luhmann para observar as respostas jurídicas implementadas no País. Essas iniciativas abrangem tanto o Legislativo (<italic>e.g.</italic>, Lei Geral de Proteção de Dados Pessoais e Projeto de Lei das <italic>Fake News</italic>) quanto o Judiciário (especialmente o Tribunal Superior Eleitoral, cuja jurisprudência acerca das eleições majoritárias de 2018 mapeamos). Envolve, ainda, experiências de autorregulação implantadas pelas próprias redes e plataformas digitais. A sociologia sistêmica nos permite correlacionar a evolução dos meios de disseminação da comunicação (tecnologias) com o processamento das comunicações pelos diversos sistemas funcionais e organizacionais (a política e o Estado; o direito e as Cortes; a mídia e as empresas de comunicação). Por fim, o texto pondera sobre a importância de uma agenda de pesquisa da sociologia das fake news eleitorais.</p>
            </abstract>
            <trans-abstract xml:lang="en">
                <title>ABSTRACT</title>
                <p>This paper presents a sociological perspective on the topic of electoral fake news regarding 2018 Brazilian elections. The topic is fundamental in light of the disruptive potential that the mass dissemination of misinformation represents for the electoral process. Hence, the study adopts Niklas Luhmann’s theory of social systems to observe the legal responses implemented in the country. These initiatives cover both the Legislative (<italic>e.g.</italic>, the General Law on Personal Data Protection and the Fake News Bill) and the Judiciary (especially the Supreme Electoral Court, whose case law around 2018 majoritarian election we map here). There are as well self-regulation experiences implemented by the networks and digital platforms themselves. Systemic sociology allows us to correlate the evolution of the means of communication dissemination (technologies) with the processing of communications by the various functional and organizational systems (the politics and the State; the law and the courts; the media and communication companies). Finally, the text considers the importance of a research agenda on the sociology of electoral fake news.</p>
            </trans-abstract>
            <kwd-group xml:lang="pt">
                <title>PALAVRAS-CHAVE</title>
                <kwd>Disseminação de notícias falsas (<italic>fake news</italic>)</kwd>
                <kwd>Direito e internet</kwd>
                <kwd>eleições e novas mídias</kwd>
            </kwd-group>
            <kwd-group xml:lang="en">
                <title>KEYWORDS</title>
                <kwd>Fake news dissemination</kwd>
                <kwd>Law and internet</kwd>
                <kwd>elections and new media</kwd>
            </kwd-group>
            <funding-group>
                <award-group>
                    <funding-source>FAPESP</funding-source>
                    <award-id>2019/22197-7</award-id>
                </award-group>
            </funding-group>
            <counts>
                <fig-count count="0"/>
                <table-count count="0"/>
                <equation-count count="0"/>
                <ref-count count="48"/>
                <page-count count="26"/>
            </counts>
        </article-meta>
    </front>
    <body>
        <p>SUMÁRIO: Introdução; 1 A evolução das tecnologias de comunicação e o fenômeno das <italic>fake news</italic>; 2 Os sistemas jurídico, político, midiático e científico; 3 O Tribunal Superior Eleitoral e as <italic>fake news</italic> nas eleições de 2018; 4 O jogo regulatório no Legislativo: quatro estratégias; Considerações finais; Referências.</p>
        <sec sec-type="intro">
            <title>INTRODUÇÃO</title>
            <p>A eleição presidencial brasileira de 2018 comprovou, de modo efetivo, o potencial disruptivo das fake news eleitorais, fenômeno social vinculado às operações das redes sociais e serviços de mensageria privada. Considerando o relatório produzido pela Diretoria de Análise de Políticas Públicas da Fundação Getúlio Vargas, o processo eleitoral de 2018 no País repercutiu cerca de 110 milhões de tuítes sobre os diferentes candidatos à Presidência, sendo que o candidato eleito conseguiu centralizar essas interações nas redes: “O presidente eleito anteviu os movimentos que levaram o eleitorado às redes sociais para interagir sobre política, preservou uma base ativa de suporte, seguiu ampliando o alcance de suas mensagens” (<xref ref-type="bibr" rid="B15">Fundação Getúlio Vargas, 2018</xref>, p. 2). O estudo em tela apenas considerou a operação de uma rede social, mas muitas outras plataformas poderiam ser observadas<xref ref-type="fn" rid="fn05">5</xref> e confirmam a existência de um processo eleitoral virtual complexo e amplo.</p>
            <p>A implementação dessa virtualização do processo eleitoral foi ratificada em 2020 com a Emenda Constitucional nº 107/2020, que permitiu, por exemplo, a readequação dos partidos ao formato virtual e desdobramentos de campanhas dos partidos nas redes, diante das eleições municipais realizadas em meio à grave crise de saúde pública da pandemia da Covid-19. No foco desse processo, prevalece a temática do combate às <italic>fake news</italic> eleitorais. Não se trata meramente do uso da mentira e de boatos no processo eleitoral, mas de uma nova estrutura social configurada pela emergência de tecnologias que permitem a produção e a disseminação descentralizada e massiva de desinformação, sem os controles comuns aos meios de comunicação de massa tradicionais do século XX (como empresas de rádio e televisão, objeto de concessão estatal) e, igualmente, sem fácil identificação e responsabilização individualizada de uma multidão de envolvidos no impulsionamento dessas notícias. Todos são incluídos na esfera pública política digitalizada como potenciais mediadores, consumidores e produtores de notícias (<xref ref-type="bibr" rid="B13">Dourado, 2020</xref>).</p>
            <p>O desafio colocado para a governança eleitoral brasileira, sobretudo encabeçada pela Justiça Eleitoral, não é fácil. As <italic>fake news</italic> eleitorais se configuram como um fenômeno complexo e multifacetado, envolvendo e sobrepondo novas questões jurídicas, tecnológicas, econômicas e políticas a todo instante e, talvez, a principal dificuldade para o sistema jurídico seja remediar o possível efeito enganoso durante o fugaz mas crucial período eleitoral (<xref ref-type="bibr" rid="B30">Marchetti, 2012</xref>). Um saldo adicional deve ser cotejado no caso do Direito brasileiro, pois prevalece uma indefinição sobre o dever de veracidade e sua articulação com a liberdade de expressão, o que pode sugerir a ausência de uma jurisprudência e de uma teoria do direito de extração “liberal” no País, além, é claro, de uma dificuldade prática da avaliação dos impactos das <italic>fake news</italic> pelos tribunais. Diante desse quadro, como observar os esforços regulatórios empreendidos após as eleições de 2018 no combate à disseminação massiva de notícias falsas eleitorais?</p>
            <p>Este texto mobiliza a teoria dos sistemas sociais de Niklas Luhmann como instrumental teórico para definir as fricções entre os sistemas de (novas) mídias, política e direito provocadas pela emergência da disseminação massiva de notícias falsas pelos meios digitais. A despeito da importância e da necessidade da análise dogmática e da ciência política sobre o fenômeno, de modo complementar sustenta-se a importância da mobilização do referencial sociológico sistêmico como capaz de compreender as autodescrições da operação das <italic>fake news</italic> nos diferentes sistemas funcionais e organizacionais, de modo a possibilitar uma redescrição das estruturas e semânticas produzidas. Em especial, as respostas jurídicas que vêm sendo construídas pelo Tribunal Superior Eleitoral (TSE) com foco nas eleições de 2018 e pelo Legislativo federal (interpretando-se a atual discussão do projeto de lei das <italic>fake news</italic> como um passo integrado ao histórico das legislações sobre a internet e a privacidade e proteção de dados pessoais) são observadas à luz do referencial adotado, com o propósito de mapear as tensões e os desafios colocados no debate geral sobre a regulação das <italic>fake news</italic>. O material de análise, portanto, é o histórico legislativo e a jurisprudência do TSE sobre o tema.</p>
            <p>A hipótese da pesquisa é de que, por se tratar (i) de um fenômeno novo em suas dimensões, (ii) envolvendo tecnologias sob o domínio transnacional de monopólios ou oligopólios globais e (iii) com interferências em múltiplos sistemas sociais, a disseminação massiva de notícias falsas pelas mídias digitais impõe especiais dificuldades à regulação pelo Direito nacional. O texto indica as respostas que o Direito brasileiro tem produzido e quais estratégias (e desafios) ele tem enfrentado, de modo a oferecer uma agenda de pesquisa da sociologia jurídica das <italic>fake news</italic> eleitorais.</p>
        </sec>
        <sec>
            <title>1 A EVOLUÇÃO DAS TECNOLOGIAS DE COMUNICAÇÃO E O FENôMENO DAS <italic>FAKE NEWS</italic></title>
            <p>As notícias falsas não são um produto histórico recente (para um debate, cf. por exemplo, <xref ref-type="bibr" rid="B07">Bloch, 1994</xref>; <xref ref-type="bibr" rid="B08">1921</xref>) e “<italic>fake news</italic>” é um termo abrangente, vago e não consensual na comunidade acadêmica<xref ref-type="fn" rid="fn06">6</xref>. Para este texto, é importante destacar a natureza pública e o impacto que essas notícias provocam no âmbito de tomadas de decisão. Tais notícias implicam desinformação ao mesmo tempo em que induzem determinados comportamentos na sociedade.</p>
            <p>As notícias falsas ganham preponderância na sociedade da informação em rede<xref ref-type="fn" rid="fn07">7</xref>. Pautando diferentes assuntos e com variável repercussão, essas notícias circulam no dia a dia com rapidez a partir de uma zona obscura acerca da fonte produtora de informações, o que é facilitado pela descentralização e pelo anonimato de “portas lógicas” das redes digitais. Qualquer um pode ser protagonista e produzir informações falsas por meio de alguns cliques na rede, seja via compartilhamento do mesmo endereço de protocolo de internet (endereço IP), seja mesmo pela operação de robôs.</p>
            <p>Subjacente à questão da circulação, o interesse em apostar nas falsidades e desinformações decorre da alta chance de sucesso ao se causar impacto nas decisões públicas. Mesmo aceitando a superação do monopólio do conhecimento verdadeiro – afinal, aqueles que operam com essas notícias não estão no âmbito científico –, prevalece um <italic>trade-off</italic> entre desinformação e aumento do poder político e econômico. Defensores dessas práticas pressupõem uma intencionalidade antidemocrática: produzir confusão para desqualificar a opinião pública com propósitos privados e assegurar a manutenção do poder das elites em diferentes contextos.</p>
            <p>Fato é que os protagonistas da disseminação de notícias falsas estão cientes de que o erro consiste em não saber e afirmar acreditar saber – é uma ignorância que se ignora e, ainda, serve como facilitador para a dominação, já que priva eleitores, comunidades, pacientes, entre tantos outros públicos, do conhecimento dos fatos essenciais para a tomada das decisões coletivas<xref ref-type="fn" rid="fn08">8</xref>. Esses públicos agem diretamente no jogo político institucional, infectando a fruição efetiva do direito político de escolha e de participação. Diante de tamanha desinformação, o resultado é que as notícias falsas possibilitam o controle das decisões relevantes por grupos de interesses que se beneficiam com a produção, manipulação e circulação da desinformação nas redes.</p>
            <p>A mobilização de notícias falsas na rede vem se mostrando um negócio extremamente rentável na medida em que possibilita manter os usuários envolvidos com conteúdo em plataformas digitais o máximo e o maior tempo possível; vale lembrar que o algoritmo assegura o financiamento das plataformas via a seleção de propagandas, não sendo o caso de se admitir a neutralidade do algoritmo (ver <xref ref-type="bibr" rid="B38">O’Neil, 2020</xref>). Quanto mais tempo os usuários gastam na plataforma, mais dados são coletados, mais anúncios são exibidos, inclusive priorizando determinados conteúdos em detrimento de outros, e mais dinheiro é gerado. Percebe-se que essas notícias são incorporadas com facilidade e não há incentivos para evitar a sua proliferação. É notório, por exemplo, o aumento da circulação dessas notícias diante de contextos políticos, como em períodos eleitorais (<italic>e.g.</italic>, eleição presidencial no Brasil de 2018) ou nas vésperas de decisões parlamentares importantes (<italic>e.g.</italic>, Brexit) – o que justifica, inclusive, a parceria com noticiários em mídias tradicionais<xref ref-type="fn" rid="fn09">9</xref>. <xref ref-type="bibr" rid="B42">Mariana Valente (2020, p. 99)</xref> apresenta importante relato, a partir de pesquisa do InternetLab, sobre a calibragem do algoritmo para favorecer a curadoria de propaganda eleitoral de 2018 em prol de determinados candidatos mediante pagamento à rede social que fixava critério para exibição de anúncio. Por outro lado, correntes políticas que se valem especialmente do arsenal de <italic>fake news</italic> o fazem dentro de uma estratégia retórica de oposição às “elites” – da “velha política” ou da “mídia tradicional”. O termo “elites” é hoje, muitas vezes, utilizado num sentido geral para indicar “grupos de poder”, tal como no âmbito político ou financeiro, e em oposição a um outro termo banalizado: “povo”. O risco é justamente o de utilizar uma retórica “populista”. Assim, no contexto político mais amplo, a disseminação massiva de notícias falsas insere-se dentro de uma estratégia maior de desinstitucionalização (ver <xref ref-type="bibr" rid="B03">Amato, 2019</xref>), isto é, de solapar generalizadamente o apoio presumido aos meios de comunicação de massa tradicionais e às bases da democracia representativa, como o processo eleitoral (no caso brasileiro, com especial destaque das urnas eletrônicas), o controle congressual do Executivo e o papel de controle constitucional pelo Supremo Tribunal Federal. Em nosso contexto, é esperado que essas organizações contra-ataquem ameaças do Executivo, buscando reafirmar seus papéis (como nas iniciativas da CPMI das <italic>Fake News</italic>, do Inquérito sobre o tema no STF e mesmo em pronunciamentos da Justiça Eleitoral reiterando a confiabilidade das tecnologias e procedimentos para as eleições); ao mesmo tempo, porém, as evidências a seguir discutidas sobre a construção jurisprudencial e legislativa no tema das <italic>fake news</italic> sugerem uma postura de grande precaução, resultando ainda na presença de um vácuo regulatório.</p>
            <p>Se considerarmos a evolução das formas de diferenciação social segundo a sociologia sistêmica (<xref ref-type="bibr" rid="B29">Luhmann, 2013</xref>, cap. 4), veremos que há um paralelo entre esses tipos de sociedade e as tecnologias comunicacionais que os suportam (ou “meios de disseminação”, para <xref ref-type="bibr" rid="B28">Luhmann, 2012</xref>, p. 120-123). Sociedades segmentárias são grupos distinguidos, interna e externamente, por parentesco e outros critérios naturais (como etnia, sexo e idade). A comunicação é basicamente oral, ainda que possa haver outras formas de manifestação simbólica. Já em sociedades que criam centros e periferias (como cidades e campos), os meios de comunicação simbolicamente generalizados (verdade, propriedade, poder) concentram-se de um lado, justamente aquele em que se difunde a escrita, como técnica dominada por uma elite letrada.</p>
            <p>A sociedade estratificada continua a diferenciar seus estratos pelo acesso aos meios simbólicos. Ela vem a ser desestabilizada pela criação da imprensa, que torna possível a crítica pública, pelos súditos ou cidadãos, dos atos e acordos do poder estatal. Nasce a “opinião pública”, como um espelho anônimo que reflete e julga as decisões estatais, mas também reclamará meios democráticos de trazer as diversas demandas sociais (econômicas, educacionais, sanitárias) do ambiente para dentro do sistema político, pautando-o democraticamente. Do mesmo modo, as declarações de direito difundem os “direitos do homem e do cidadão” (depois, direitos fundamentais e direitos humanos), que refletem todos como sujeitos de direitos, isto é, produtores e destinatários do sistema jurídico. E assim o mercado passa a refletir em preços as decisões econômicas tomadas por empresas e famílias (<xref ref-type="bibr" rid="B05">Amato, 2020</xref>).</p>
            <p><xref ref-type="bibr" rid="B44">Vesting (2020)</xref> observa como a cultura citadina enraíza esta “sociedade civil” como uma arena de cidadãos reflexivos que se informam e disputam sentido pela imprensa. O crescimento das organizações partidárias, sindicais e outras, nos séculos XIX e XX, já transforma essa esfera pública política em uma disputa organizada e pluralista de grupos. A emergência dos meios digitais de disseminação da comunicação, porém, desorganiza o controle da comunicação política por essas organizações políticas e pelas empresas de meios de comunicação de massa; é essa grande “desagregação” ou “fragmentação” da opinião pública o fenômeno subjacente ao problema referido como “<italic>fake news</italic>”.</p>
            <p>A novidade do advento das “redes sociais” digitais é que a diferenciação interna entre o público que consome informações e as empresas de mídia que selecionam, produzem e divulgam a mensagem chega a um curto-circuito. Os guardiões da informação são desacreditados – a imprensa é vista como parcial, como amiga ou inimiga do governo ou da oposição. Uma multidão de pessoas tornou-se produtora e consumidora de informações, e não há uma posição final de observação de segunda ordem que possa atestar com segurança a verdade ou a inverdade das notícias (mesmo as agências de <italic>fact-checking</italic> são colocadas sob as mesmas suspeitas de parcialidade que atingem os meios tradicionais de comunicação de massa).</p>
            <p>A interação – por presença física e, depois, remotamente, por outros meios como o postal ou o telefônico – podia disseminar mentiras e erros, mas seu nível e velocidade de difusão eram limitados. Quando as pessoas podem dizer a grupos cada vez mais amplos e interligados quais são suas opiniões, pontos de vista ou “descobertas”, a comunicação pessoal eleva-se ao nível do sistema funcional de mídia. A informação como um todo e as mensagens – incluindo notícias falsas – também se tornam desligadas de seus fornecedores originais e passam a pertencer ao sistema “anônimo” da comunicação digital autorreferente.</p>
            <p>Em um mundo de credos livres e divergentes, marcado por uma pluralidade de valores, a comunicação não é restringida por costumes comuns, como em uma tribo. Mas uma organização neotribal de credos políticos emerge para pressionar os limites de tolerância que o Estado liberal institucionalizou após as guerras religiosas. Uma crise generalizada de expectativas contamina uma sociedade que foi estruturada por meio de papéis específicos e de competências comunicativas delimitadas: da política e dos políticos, da ciência e dos especialistas, do direito e dos juristas. Nesse contexto de crise de expectativas, o populismo se fortalece como alternativa para simplificar excessivamente os resultados das pesquisas científicas, para desconfiar dos especialistas, para corroer os procedimentos de tomada de decisão política sob o Estado de direito.</p>
        </sec>
        <sec>
            <title>2 OS SISTEMAS JURÍDICO, POLÍTICO, MIDIÁTICO E CIENTÍFICO</title>
            <p>Toda comunicação que busque tratar do problema da licitude ou ilicitude é uma comunicação jurídica. Esta é sua distinção-diretriz, seu código (no sentido cibernético), explícito ou tácito. Isto é o que define o sistema jurídico, nos termos da teoria dos sistemas sociais de Niklas Luhmann. A função que esse subsistema da sociedade desempenha, em relação à própria sociedade, é de generalizar, de maneira congruente, algumas expectativas que sejam resistentes à desilusão: expectativas normativas (<xref ref-type="bibr" rid="B25">Luhmann, 2004</xref>; <xref ref-type="bibr" rid="B22">2014a</xref>). Como a moral e a religião se tornam escolhas individuais particulares, na sociedade moderna é o Direito que precisa generalizar essa base comum de normas.</p>
            <p>O código lícito/ilícito é alocado por meio de programas decisórios, que são produzidos por sistemas organizacionais, especificações do sistema jurídico: em seu centro, estão os tribunais, que tomam decisões programadas e estão obrigados a decidir (proibição da denegação de justiça); na periferia do Direito, são tomadas decisões programantes, nas quais problemas sociais em geral são construídos juridicamente na forma de normas, em leis, regulamentos e contratos. O meio de comunicação simbolicamente generalizado que circula dentro do sistema jurídico é a validade.</p>
            <p>Os Poderes políticos do Estado estão, assim, na periferia do sistema jurídico – mas, ao mesmo tempo, no centro do sistema político, pois a eles cabe primacialmente tomar decisões coletivamente vinculantes e impô-las inclusive ao próprio Estado, incluindo os representantes políticos e a burocracia pública (<xref ref-type="bibr" rid="B24">Luhmann, 2009</xref>; <xref ref-type="bibr" rid="B26">2014b</xref>). Na periferia do sistema político, estão organizações que pautam o sistema a partir de demandas sociais genéricas: partidos políticos, movimentos sociais, grupos de pressão – essas organizações tomam decisões (programas partidários, manifestos, declarações), mas não podem impô-las a toda a comunidade política. Apenas o legislador pode tomar esse conteúdo e lhe dar “força” de lei. A política assim se organiza em torno do código governo/oposição, e suas decisões definem os usos do meio de comunicação simbolicamente generalizado que é o poder.</p>
            <p>Já o sistema dos meios de comunicação de massa funciona segundo a distinção entre o que é e o que não é informativo – ou seja, entre o que tem o valor de informação, de notícia (<italic>news</italic>) e o que é repetição, redundância, o que reforça a visão que a mídia constrói acerca dos temas sociais, cumprindo uma função de memória da sociedade, definindo o que deve ser geralmente lembrado e o que pode ser esquecido (<xref ref-type="bibr" rid="B27">Luhmann, 2000</xref>). É aqui que entram em jogo as tecnologias digitais, enquanto “meios de disseminação” da comunicação que desintermedeiam a disseminação massiva de informações dos controles tradicionais da mídia de massa (imprensa, rádio, televisão) e a reintermedeiam pelas plataformas digitais cuja propriedade intelectual é titularizada por empresas globais – sejam serviços de mensageria, sejam redes sociais de textos, áudio e vídeo.</p>
            <p>Seguindo nossa hipótese conceitual, o problema das <italic>fake news</italic> coloca em fricção sobretudo esses três sistemas sociais. O direito estatal – como acoplamento entre sistema político nacional e sistema jurídico – precisa então construir suas respostas regulatórias diante de um sistema que lhe é estranho (o sistema da informação, isto é, da comunicação de massa), mas cujos impactos transbordam para questões de legitimidade (política) e justiça (jurídica).</p>
            <p>O apelo à ciência – por meio dos <italic>experts</italic> – revela-se então como uma estratégia importante. A ciência, sistema social responsável pela definição da verdade ou falsidade (<xref ref-type="bibr" rid="B23">Luhmann, 1996</xref>), também é um sistema sob pressão pelo <italic>tsunami</italic> de <italic>fake news</italic>. Entretanto, para regular as tecnologias digitais emergentes, acerca das quais os cidadãos comuns, assim como os políticos e juízes, pouco sabem, é a ciência e seus representantes que são convocados para dar respostas.</p>
            <p>A ciência não está interessada em resolver problemas operacionais de outros sistemas nem pretende servir de base para política, economia ou direito, ainda que os conhecimentos científicos possam irritar e estimular internamente estes sistemas. Historicamente, a ciência se encaminhou para a instrumentalização e aplicação tecnológica. Observou-se a ascensão das disciplinas aplicadas (engenharia, medicina, direito entre outras) no sistema científico. <xref ref-type="bibr" rid="B43">Vanderstraeten (2015)</xref> explica que, nos últimos séculos, o conhecimento científico adquiriu uma forte autoridade cultural na sociedade mundial. Acabou-se privilegiando determinadas disciplinas aplicadas em detrimento de outras; basta notar o desenvolvimento do termo “tecnologia” em meados do século XVIII; o termo “artes úteis” (ou <italic>arts utiles, nuttige konsten, arts mechaniques</italic> etc.) desapareceu lentamente da cena no século XIX, enquanto termos como “ciência aplicada”, “ciência da engenharia” e “tecnologia” entraram em uso. Cientistas aplicados (<italic>experts</italic>), na sua maioria engenheiros, poderiam cada vez mais se apresentar ou posicionar-se como os “governantes” sobre as “artes úteis” (<xref ref-type="bibr" rid="B43">Vanderstraeten, 2015</xref>, p. 181). Ninguém duvida de que questões técnicas e científicas surgem a cada dia e que, em vista da alta complexidade que permeia essas descobertas, estas podem irritar outros sistemas. O problema é outro: trata-se da crítica à ideia de aplicação dos conhecimentos científicos fora do âmbito da ciência (<xref ref-type="bibr" rid="B06">Barros, 2018</xref>).</p>
        </sec>
        <sec>
            <title>3 O TRIBUNAL SUPERIOR ELEITORAL E AS <italic>FAKE NEWS</italic> NAS ELEIÇÕES DE 2018</title>
            <p>O TSE, já em 2017, discutiu, em fórum especialmente focado no tema, o impacto das notícias falsas nas então vindouras eleições de 2018, criou um Conselho Consultivo sobre Internet e Eleições (Portaria TSE nº 949, de 7 de dezembro de 2017), bem como se uniu à Polícia Federal e ao Ministério Público para criar um grupo de trabalho para estudar antecipadamente formas de combate às <italic>fake news</italic>. Mesmo no curso das eleições, o TSE convocou as campanhas dos dois presidenciáveis concorrentes ao segundo turno para discutir o tema.</p>
            <p>Apresentamos aqui alguns dados colhidos com pesquisa jurisprudencial exploratória focada no TSE. O estudo foi baseado na análise de 59 casos, incluindo decisões monocráticas e acórdãos, proferidos pela Corte entre 1º de janeiro de 2018 e 1º de março de 2021, os quais tenham utilizado a expressão “<italic>fake news</italic>” ou outras correlatas. Destaca-se que o recorte institucional desta Corte se justifica pelo fato de tratar-se de órgão decisório de última instância da Justiça Eleitoral, responsável pela governança eleitoral, bem como porque o fenômeno das notícias falsas impactou, de forma mais contundente, as eleições presidenciais de 2018, cujo julgamento é de competência do TSE.</p>
            <p>Dentre os resultados obtidos com a utilização da ferramenta de pesquisa jurisprudencial, foram reportados aqueles que enfrentaram a questão relativa à ocorrência ou ao reconhecimento de <italic>fake news</italic>, sendo excluídos apenas os resultados referentes às eleições de 2016 e aqueles em que a menção às notícias falsas era meramente acidental, não correspondendo ao mérito do julgamento, como nos casos em que a expressão era mencionada em precedente citado, mas não referente à questão principal discutida nos autos. Considerando o conjunto observado, é possível organizar e ressaltar três blocos de evidências sobre o tratamento das <italic>fake news</italic> eleitorais.</p>
            <p>Em primeiro lugar, a constatação de que a grande maioria das decisões compreendidas na pesquisa consistem em decisões monocráticas cautelares, proferidas em ações que, em sua maioria, não chegaram a ser conhecidas pelo Pleno, seja por conta da rejeição de recursos, seja, no mais das vezes, pelo fato de que grande parte das ações em trâmite no TSE foram extintas sem julgamento de mérito, com base no entendimento de que não persistiria o interesse no julgamento uma vez ultimadas as eleições. Assim, durante as eleições de 2018, não ocorreu um posicionamento colegiado do tribunal acerca das questões afetas à verificação das <italic>fake news</italic><xref ref-type="fn" rid="fn10">10</xref>. Isso se deve, como é sabido, à atribuição da função de julgadores da propaganda a certos ministros, que ficam responsáveis por dar uma resposta ágil às demandas eleitorais, dada a celeridade com que caminham as campanhas eleitorais. O que é louvável por um lado, por outro acaba por contribuir tanto para uma falta de uniformidade e segurança jurídica nessas decisões, quanto para uma sensação de impunidade – aliás, esse traço monocrático é recorrente em outras Cortes no País. O fato de as representações serem julgadas apenas cautelarmente não oferece parâmetro claro para os próximos pleitos, especialmente no que concerne à importante temática da proteção de dados pessoais e do discurso de ódio, temas não abordados pela jurisprudência relativa às eleições de 2018.</p>
            <p>Segundo ponto: em muitas hipóteses, verificou-se que o respectivo relator determinou a quebra de sigilo telemático de alguns cidadãos, para que se identificasse a pessoa responsável por certas páginas e postagens em redes sociais, sendo que, ao final, esses dados não foram utilizados para nenhum propósito eleitoral, dada a extinção dos feitos. Ainda quando identificados os responsáveis, muitos não chegaram a ser punidos pela propagação das alegadas <italic>fake news</italic>, porquanto se entendeu que a legislação eleitoral apenas coibiria a divulgação de opinião anônima na internet<xref ref-type="fn" rid="fn11">11</xref>, mas que eventual responsabilização por ofensa à honra dos candidatos deveria ocorrer na Justiça Comum – o que reforça a necessidade de um debate legal sobre o comportamento abusivo nas redes.</p>
            <p>Por fim, vale acrescentar que as ações manejadas perante o TSE questionando as <italic>fake news</italic> em 2018 consistiram, em sua grande maioria, em representações por propaganda eleitoral irregular com ou sem direito de resposta, e, em alguns casos notórios, em ações de investigação judicial eleitoral (AIJE) ou mesmo notícias de crime. Nenhum desses instrumentos, contudo, é adequado a tratar das <italic>fake news</italic>. Como visto, as representações têm o pormenor de não permitirem que a investigação e responsabilização se estenda após as eleições; por outro lado, a AIJE depende, para ser julgada, da comprovação do potencial lesivo da conduta e de sua potencialidade de influenciar o pleito – ou seja, apenas serve para questionar o envio massivo de notícias falsas, mas não condutas isoladas. Além disso, tal como as ações criminais, as AIJEs dependem de ampla instrução processual, o que impede que o Tribunal julgue essas ações de forma temporânea.</p>
            <p>Como já apresentado, o sistema jurídico, para a sociologia de Niklas Luhmann, não é diferenciado por ser um conjunto de normas nem por ser monopólio das organizações formais da Justiça (tribunais) ou de seus profissionais (como juízes e advogados). O Direito se apresenta e se diferencia em toda comunicação na qual o código ou distinção entre o lícito e o ilícito seja o problema ou tema relevante. Sentenças e tribunais estão no centro do sistema jurídico, pois, dado o princípio da proibição da denegação de justiça – <italic>non liquet</italic> –, estão obrigados a tomar decisões sobre o lícito/ilícito, a validade/invalidade ou a constitucionalidade/inconstitucionalidade. Entretanto, a comunicação jurídica não se restringe a essas organizações ou programas decisórios, abrangendo também contratos e leis, parlamentos e políticos, cidadãos e movimentos sociais etc., desde que sua comunicação faça uso daquela diferença-diretriz (<xref ref-type="bibr" rid="B02">Amato, 2016</xref>).</p>
            <p>O critério para considerar os tribunais como organizações centrais do sistema jurídico (<xref ref-type="bibr" rid="B25">Luhmann, 2004</xref>, cap. 7) não é existir alguma relação de hierarquia simples entre sentenças e as decisões tomadas por outras organizações (como as leis, os regulamentos e os contratos, programados por legisladores, administradores e advogados na periferia do sistema jurídico). Os tribunais estão no centro do sistema jurídico pelo fato institucional de estarem obrigados a tomar decisões sobre os casos que se lhe submetem: são proibidos de “denegar justiça”, de decidirem não decidir sob a alegação de que “a lei é obscura”. É claro que a configuração dos procedimentos judiciais, da hierarquia judicial e dos papéis institucionais dentro de um tribunal permite não julgar o mérito da ação (reconhecendo nela vícios formais) ou mesmo postergar a decisão (conforme a definição das pautas e cronogramas de julgamento). Entretanto, são os tribunais que devem dar a palavra final sobre o direito válido e, nessa medida, reforçar a definição de quais expectativas normativas devem ser congruentemente generalizadas. Sob um olhar sistêmico-funcional (<xref ref-type="bibr" rid="B35">Simioni, 2017</xref>), a decisão judicial se coloca, portanto, menos como questão de arbítrio do intérprete-aplicador e mais como produção de uma organização específica – os tribunais – que funciona como um subsistema social, com suas próprias definições institucionais (de papéis, procedimentos e hierarquias) e sua rede de autorreferência decisória (jurisprudência).</p>
            <p>Observando a resposta do TSE às ações eleitorais envolvendo a alegação da disseminação irregular de notícias falsas, concluímos que não houve uma definição ou mesmo uma tentativa de padronização da resposta judicial ao fenômeno. A falta de uniformidade nos fundamentos utilizados pelos julgadores para analisar a ocorrência das <italic>fake news</italic> torna-se patente pela análise da variedade de argumentos levantados: (i) a necessidade de a notícia ter caráter patentemente ou evidentemente inverídico ou mesmo de a falsidade ser verificável de plano; (ii) a necessidade de haver, na própria rede social, meio de contestação das ideias expostas, de modo a permitir ao próprio eleitor que julgue a veracidade daquilo que é divulgado; (iii) a consideração da capacidade do eleitor para avaliar os conteúdos que lhe são apresentados, sendo indevida a intervenção paternalista da Justiça Eleitoral; (iv) o potencial lesivo da divulgação, diferenciando-se <italic>posts</italic> realizados em páginas de pouco ou muito acesso; (v) postagens jocosas ou humorísticas (aqui incluídos os memes) têm como pressuposto a manipulação da realidade e até mesmo sua distorção, porém não podem ser consideradas irregulares; (vi) não é possível aferir se as notícias foram produzidas intencionalmente para desvirtuar ou falsear a realidade, ou se decorreram de equívocos ou de negligência dos veículos de mídias sociais; (vii) uma informação imprecisa mas não sabidamente inverídica não configura <italic>fake news</italic>; e (viii) o controle sobre o conteúdo ou nível das informações veiculadas deve ser realizado pela própria sociedade civil, não devendo a Justiça Eleitoral atrair para si a função de <italic>fact-checking</italic>.</p>
            <p>Como nota <xref ref-type="bibr" rid="B34">Silvestre (2020)</xref>, à luz do direito de liberdade de expressão e de um histórico jurisprudencial que reforçou no Supremo Tribunal Federal, no Superior Tribunal de Justiça e no Tribunal Superior Eleitoral a legitimidade apenas da censura judicial <italic>a posteriori</italic>, o TSE adotou posturas que sequer garantem a indisponibilização de notícias com conteúdo manifesto e ostensivo de inverdade.</p>
            <p>A conclusão é de que, não havendo decisões de mérito com fundamentos consolidados, os julgados não têm a força de se consolidarem como precedentes, ainda mais quando se considera que as representações foram julgadas prejudicadas sem análise de mérito. Tal situação revela a complexidade e a dificuldade da decisão judicial sobre <italic>fake news</italic> e eleições. Dentre os motivos que justificam esses traços, é possível indicar:</p>
            <list list-type="bullet">
                <list-item>
                    <p>abrangência e dificuldade de definição do termo <italic>fake news</italic>, com extenso debate na teoria do conhecimento e com riscos de estipular um policiamento de conteúdo, em prejuízo das liberdades civis (liberdade de expressão) e da privacidade de dados pessoais;</p>
                </list-item>
                <list-item>
                    <p>aplicação jurídica nebulosa diante do jogo regulatório (legislação e autorregulação) e da ausência de uma posição jurisprudencial consolidada;</p>
                </list-item>
                <list-item>
                    <p>déficit cognitivo para apuração judicial dos impactos alegados de supostas <italic>fake news</italic> transmitidas por contas pessoais e plataformas digitais privadas durante o pleito eleitoral.</p>
                </list-item>
            </list>
            <p>Confirmando a precariedade dos instrumentos processuais disponíveis no TSE, a Corte teve a oportunidade de avaliar mais a fundo o abuso de poder econômico e o uso abusivo dos meios de comunicação social pela chapa presidencial vencedora em 2018, nos termos do art. 22 da LC 64/1990, em processos abertos por conta do disparo em massa de mensagens desinformativas, contratadas em favor daquela chapa por pessoas jurídicas, inclusive. Entretanto, em fevereiro deste ano, as ações de investigação judicial eleitoral (AIJES 0601779-05 e 0601782-57) sobre o tema culminaram em um paradoxo: entendendo que não caberia dentro daquele tipo de procedimento determinar a realização de maiores providências investigativas, a maioria da Corte decidiu pela absolvição da chapa presidencial eleita por falta de provas sobre os disparos em massa de mensagens digitais no pleito de 2018.</p>
        </sec>
        <sec>
            <title>4 O JOGO REGULATÓRIO NO LEGISLATIVO: QUATRO ESTRATÉGIAS</title>
            <p>O TSE adotou uma postura de deferência e espera em relação às definições tomadas pelo Legislativo (periferia do sistema jurídico e centro do sistema político, encarregado portanto de vincular-se às próprias decisões coletivamente vinculantes que venha a instituir). Mas e o legislador... como lidou com as <italic>fake news</italic> eleitorais? Afora a CPMI das <italic>fake news</italic>, que pautou o tema no sistema político e assim pode exercer alguma força dissuasória, interessam-nos as respostas regulatórias.</p>
            <p>Nesse sentido, deve-se notar, de início, um embate entre Legislativo e Executivo sobre o tema, representado pelo interesse do Presidente da Câmara dos Deputados em pautá-lo e pela resistência do Executivo em investigar e disciplinar uma ferramenta de governo, da qual há amplos indícios de que ele se vale (ver, <italic>e.g.</italic>, <xref ref-type="bibr" rid="B11">Congresso em Foco, 2020</xref>).</p>
            <p>Entretanto, mais amplamente, o Projeto de Lei das <italic>Fake News</italic> (ou Lei Brasileira de Liberdade, Responsabilidade e Transparência na Internet, aprovada em 2020 no Senado Federal e pendente de aprovação pela Câmara dos Deputados) deve ser posicionado como terceiro elemento dentro de uma série de iniciativas legislativas que incluem o Marco Civil da Internet (Lei nº 12.965/2014) e a Lei Geral de Proteção de Dados Pessoais (LGPD, Lei nº 13.709/2018)<xref ref-type="fn" rid="fn12">12</xref>. A LGPD, especialmente, foi alvo de intensa disputa: aprovada no Congresso Nacional em agosto de 2018, apenas foi sancionada pelo Presidente da República em setembro de 2020, com sanções administrativas sendo imponíveis a partir de agosto de 2021. Essa lei regula dispositivos do Marco Civil da Internet e forma uma moldura regulatória de direito digital dentro da qual também deve se integrar uma futura Lei das <italic>Fake News</italic>.</p>
            <p>Esse pacote regulatório revela o uso de quatro estratégias por parte do legislador:</p>
            <list list-type="bullet">
                <list-item>
                    <p>a principialização: o foco em normas principiológicas (em vez de na definição de regras, com claras hipóteses de incidência e consequências devidas) permite maior adaptabilidade da legislação e informa a criação de microssistemas legais que vão evoluindo e se complexificando; entretanto, tal indeterminação também gera indefinição sobre quais condutas são ilícitas, quais sanções lhe são aplicáveis e quando isso será de fato definido – legislativa ou jurisprudencialmente;</p>
                </list-item>
                <list-item>
                    <p>a cognitivização: embora o direito se reproduza especialmente com base em expectativas normativas, contrafáticas, reforçadas por sanções, formalizadas em programas decisórios e impostas por procedimentos, as normas podem ganhar uma grande densidade fática, isto é, uma alta dependência de questões probatórias e/ou de conhecimentos especializados; no regramento das comunicações digitais, esses conhecimentos dizem respeito a definições de tecnologia da informação altamente mutáveis e dominadas por <italic>experts</italic> e empresas globais e protegida por propriedade intelectual;</p>
                </list-item>
                <list-item>
                    <p>a periferização: assim como o Judiciário (centro do sistema jurídico) remete definições normativas ao Legislativo, o Poder Legislativo – organização periférica do direito mas central no sistema político – tem buscado remeter a definição do conteúdo do direito digital à periferia do sistema político, onde se encontram não apenas os partidos, mas também os acadêmicos e <italic>experts</italic>, os movimentos sociais (inclusive sobre internet e direito digital) e os grupos de interesse (inclusive das plataformas digitais); não apenas a dificuldade regulatória das novas tecnologias, mas também a busca de apoio fora do Estado marcam essa abertura à “participação da sociedade civil”;</p>
                </list-item>
                <list-item>
                    <p>a procedimentalização: o direito estatal caminha no sentido de criar normas que institucionalizem uma abertura a outras fontes do direito (não estatais) e a instâncias autorregulatórias – isto é, de criação privada do direito.</p>
                </list-item>
            </list>
            <p>O legislador está frequentemente pressionado por escândalos que mobilizam a opinião pública: as revelações de Edward Snowden sobre o mau uso dos meios digitais, para espionagem comandada pelo governo dos Estados Unidos, ocorreram em 2013, durante a tramitação do Marco Civil da Internet no Brasil; durante o processo legislativo da Lei Geral de Proteção de Dados Pessoais, houve o escândalo do envolvimento da empresa Cambridge Analytica no uso irregular de dados pessoais para as eleições americanas, a votação do Brexit no Reino Unido e mesmo com repercussões no Brasil (ver <xref ref-type="bibr" rid="B16">Gaglioni, 2020</xref>); além disso, entrou em vigor a <italic>General Data Protection Regulation</italic> na União Europeia. Finalmente, o PL das <italic>Fake News</italic> avança sob as evidências do disparo massivo de desinformação nas eleições de 2018 e 2020.</p>
            <p>O foco na definição de princípios pode ser notado desde o Marco Civil da Internet. Em seus arts. 2º e 3º, essa lei firma diversos objetivos amplos (como “o reconhecimento da escala mundial da rede”, o respeito aos “os direitos humanos”, “a pluralidade e a diversidade”, a “livre iniciativa”, a “finalidade social da rede”, a proteção da “privacidade” e dos “dados pessoais” e a garantia de “neutralidade da rede”). Da mesma forma, a busca de legitimação pelo apoio de <italic>experts</italic> vem desde os primórdios do esboço do projeto de lei, quando o Ministério da Justiça se uniu ao Centro de Tecnologia e Sociedade (da Escola de Direito da Fundação Getúlio Vargas do Rio de Janeiro) para criar uma consulta pública <italic>on-line</italic> com os princípios gerais que integrariam a regulamentação dos direitos civis na Internet (<xref ref-type="bibr" rid="B09">Brito Cruz, 2015</xref>; <xref ref-type="bibr" rid="B37">Souza; Viola; Lemos, 2017</xref>).</p>
            <p>O mesmo pode ser notado quanto à Lei Geral de Proteção de Dados Pessoais, a LGPD. O largo uso de princípios está presente nos arts. 2º e 6º da lei, que incluem como “fundamentos” a “autodeterminação informativa”, “a liberdade de expressão, de informação, de comunicação e de opinião”, “a inviolabilidade da intimidade, da honra e da imagem”, entre outros; e, como “princípio”, a “boa-fé”, a “limitação da finalidade”, a “transparência”, a “segurança”, a “não discriminação” e a “responsabilidade”. A LGPD também foi resultado de um processo altamente participativo. Houve duas consultas públicas <italic>on-line</italic> (2011 e 2014) antes da apresentação do PL pelo Poder Executivo ao Congresso Nacional e, em seguida, múltiplas audiências públicas durante a avaliação do Projeto de Lei nº 5.276.</p>
            <p>O que mais interessa observar é o PL das <italic>Fake News</italic> atualmente em tramitação no Congresso Nacional. Os legisladores mais uma vez têm apelado a especialistas jurídicos e tecnológicos, assim como buscado consenso pela definição de princípios genéricos, como (art. 3º) “liberdade de expressão e de imprensa”, “garantia dos direitos de personalidade (inclusive da privacidade)”, “responsabilidade compartilhada pela preservação de uma esfera pública plural e democrática”, “garantia da confiabilidade e integridade dos sistemas informacionais”, “proteção dos consumidores” e “transparência nas regras para veiculação de anúncios e conteúdos pagos”.</p>
            <p>Mas, além da definição principiológica e ilustrando o apelo aos <italic>experts</italic>, o PL consagra explicitamente uma nova estratégia: a abertura do direito estatal à autorregulação privada. Sob o conselho de especialistas em regulação digital (ver <xref ref-type="bibr" rid="B01">Abboud; Campos, 2020</xref>) e por proposta de emenda de um senador, o Senado Federal incluiu, no art. 31 do PL, o instituto da “autorregulação regulada”, prevendo que “[o]s provedores de redes sociais e de serviços de mensageria privada poderão criar instituição de autorregulação, voltada à transparência e à responsabilidade no uso da internet [...]”. Essa instituição tem como finalidade (art. 31, I) “criar e administrar procedimento em plataforma digital voltada à transparência e à responsabilidade no uso da internet, que contenha regras e procedimentos para decidir sobre a adoção de medida informativa, tendendo ao disposto nesta Lei”. Diz o § 1º, ainda, que “[a] instituição de autorregulação deverá ser certificada pelo Conselho de Transparência e Responsabilidade na Internet”.</p>
            <p>Isto é o que a teoria dos sistemas chamou de “direito reflexivo” (<xref ref-type="bibr" rid="B39">Teubner, 1983</xref>; <xref ref-type="bibr" rid="B40">1986</xref>; <xref ref-type="bibr" rid="B41">1992)</xref>, “programas relacionais” (<xref ref-type="bibr" rid="B47">Willke, 1986</xref>) ou “procedimentalização” (<xref ref-type="bibr" rid="B45">Withölter, 1986</xref>; <xref ref-type="bibr" rid="B46">2011</xref>): trata-se de formas jurídicas que se distanciam do sistema político estatal e se implantam dentro da dinâmica autorreferente de outros sistemas (no caso, o sistema dos meios de comunicação). O direito estatal busca não pré-definir as regras substantivas pelas quais os problemas serão resolvidos, mas meramente assegurar parâmetros procedimentais para a decisão a ser tomada na esfera privada.</p>
            <p>O instituto da “autorregulação regulada” tem grande potencial para viabilizar a construção jurídica experimental de parâmetros normativos para lidar com o fenômeno da disseminação das notícias falsas. Pode servir de parâmetro também para o tratamento jurídico de outros temas e setores. A legislação brasileira mostra, assim, um caminho alternativo ao regramento direto, pelo Estado, das condutas dos usuários e provedores das redes sociais, bem como à pura definição principiológica, que poderia expandir ainda mais – dada a indeterminação inerente a esse tipo de programa jurídico – o potencial interventivo das autoridades públicas nas comunicações privadas. De outro lado, como as próprias empresas privadas de comunicação digital podem constituir uma forma de poder econômico e comunicativo suscetível a abusos, a providência de instituir um conselho misto para regular a autorregulação abre caminho para algum controle também da responsabilidade dessas empresas.</p>
            <p>Com o aprendizado mútuo entre o direito estatal (em seu papel “metarregulador”) e o direito autorregulado, há espaço maior para apreciar o caráter técnico da própria programação digital e traduzi-lo para as formas jurídicas de tipificação de condutas, responsabilidades e sanções (<xref ref-type="bibr" rid="B04">Amato, 2021</xref>). A interação periódica entre o Conselho de Transparência e a instituição de autorregulação das empresas de mídia digital deve reforçar a corrigibilidade das próprias normas que venham a ser criadas, testadas e modificadas, inclusive para se atualizarem à evolução tecnológica. Claro que o problema da “captura regulatória” não desaparece no caso do órgão regulador da autorregulação; entretanto, trata-se de uma arquitetura institucional com potencial para garantir, por meio dos representantes de vários órgãos estatais e da sociedade civil, que controles mútuos sejam instituídos a partir da concorrência entre esses diversos representantes e seus interesses e, ao mesmo tempo, que potenciais conflitos contem com procedimentos e arenas adequados para sua resolução.</p>
            <p>O instituto da “autorregulação regulada” conflui com a nova estratégia das empresas globais de plataformas digitais para reivindicarem sua legitimidade como tomadoras de decisão acerca da moderação de conteúdos impróprios e falsos. Trata-se de uma busca de “legitimação pelo procedimento” (<xref ref-type="bibr" rid="B21">Luhmann, 1980</xref>) no “direito das plataformas” (<xref ref-type="bibr" rid="B32">Ramos, 2021</xref>): se antes elas tomavam suas decisões sobre moderação de conteúdo de forma centralizada e opaca, com funcionários decidindo sem fundamentar e justificar perante os usuários, hoje essas plataformas têm buscado integrar os usuários em procedimentos decisórios mais abertos e transparentes. Com isso, é claro, não apenas tomam para si a responsabilidade de “domarem” a tecnologia que elas mesmas criaram (e na qual lastreiam seus vultosos ganhos pelo uso e tratamento de dados dos usuários), mas também buscam construir sua autoridade – não apenas técnica, mas também jurídica – para tratar dos usos e abusos da comunicação digital. O desenvolvimento das “<italic>cyber courts</italic>” (ver <xref ref-type="bibr" rid="B20">Ladeur, 2020</xref>) caminha neste sentido.</p>
        </sec>
        <sec sec-type="conclusions">
            <title>CONSIDERAÇÕES FINAIS</title>
            <p>O reflexo da disseminação massiva de notícias falsas é cultural: a vida político-social é, em grande medida, intermediada e produzida hoje nas redes, distinguindo a inclusão ou exclusão do sistema político pela via do acesso e participação nesses ambientes virtuais. No entanto, o fenômeno também alcança instituições que disciplinam e monitoram as eleições, como a Justiça Eleitoral e o próprio Legislativo federal. O que o mapeamento das respostas jurídicas ao problema da disseminação massiva de notícias falsas – sobretudo na arena política e dentro do processo eleitoral – revelou, no contexto brasileiro contemporâneo, é uma grande dificuldade do direito estatal de produzir respostas democraticamente legítimas, tecnicamente adequadas e juridicamente precisas.</p>
            <p>O impacto eleitoral e a continuidade da disseminação de notícias falsas como estratégia de governo (ver, <italic>e.g.</italic>, <xref ref-type="bibr" rid="B33">Rezende, 2020</xref>) mobilizaram política e Direito a iniciarem respostas: caso da Comissão Parlamentar Mista de Inquérito das <italic>Fake News</italic>, no Congresso Nacional, e do Inquérito das <italic>Fake News</italic> instaurado pelo Supremo Tribunal Federal, por meio da Portaria nº 69/2019 da Presidência do STF. Nesses dois casos – da CMPI e do STF –, o que está em jogo não é primacialmente a produção de programas decisórios – legislação e sentenças. Trata-se de procedimentos legislativos e judiciais de função investigativa e, nessa medida, menos que produzir normas, sua repercussão no sistema jurídico está ligada à função intimidatória que exercem pela identificação, exposição pública e produção de provas contra os responsáveis políticos e empresariais pelas redes de disseminação massiva de notícias falsas. Enquanto o STF busca por este meio cumprir um papel de autodefesa institucional (diante das pressões emanadas principalmente do presidente da república) e de reforço da autonomia do sistema jurídico (diante de tentativas de instrumentalização política), o Legislativo se tornou palco da disputa política codificada entre governistas e oposicionistas, tendo em jogo a produção de semânticas de legitimação ou criminalização do uso de <italic>fake news</italic> como ferramenta de disputa eleitoral (sobre a CPMI, ver <xref ref-type="bibr" rid="B10">Chicarino; Conceição, 2020</xref>).</p>
            <p>Na dimensão da produção de decisões jurídicas no centro (judicial) e na periferia (legislativa) do sistema jurídico, nossa pesquisa confirmou a hipótese da dificuldade regulatória envolvida na regulação da disseminação massiva de notícias falsas e procurou evidenciar as estratégias manifestadas no Congresso Nacional e na Justiça Eleitoral. Com grande bloqueio do Executivo e de sua base de apoio majoritária no Congresso Nacional<xref ref-type="fn" rid="fn13">13</xref>, a construção legislativa brasileira para disciplinar e punir as <italic>fake news</italic> corre atrás das mudanças nas tecnologias de disseminação da comunicação, adotando um pacote de estratégias que envolve o uso de princípios e normas de alto conteúdo técnico, dominado por especialistas; a audiência e assessoria de <italic>experts</italic> ou mesmo abertura à autorregulação das plataformas digitais. Já o Judiciário (aqui focado na Justiça Eleitoral) busca adotar precaução na construção de parâmetros jurisprudenciais, nos limites de sua característica organizacional de não poder deixar de decidir quando provocado e também sob os constrangimentos das vias procedimentais características do TSE.</p>
            <p>Por fim, é importante marcar o avanço no campo da sociologia jurídica das <italic>fake news</italic> eleitorais. Primeiro, inúmeras organizações e centros de pesquisa independentes e vinculados aos quadros universitários na última década se estruturaram no País e no centro das atenções dessas arenas está o propósito de identificar e examinar os impactos da revolução digital em vários setores no País, com destaque para o âmbito político. Do ponto de vista sociológico, esse movimento revela como o debate e controle social ocorre no caso da propagação de <italic>fake news</italic>. Nesse sentido, a agenda do campo da sociologia das <italic>fake news</italic> e eleições deve estar aberta à com-preensão interdisciplinar do tema, englobando diferentes consórcios e centros de pesquisa.</p>
            <p>O campo da sociologia das <italic>fake news</italic> eleitorais também reflete um movimento sobre as interações sociais, muitas vezes exploratórias e implementadas por iniciativas dos próprios eleitores e comunidades, preocupados em como prevenir os potenciais efeitos enganosos da desinformação; as respostas sugeridas ultrapassam modelos centrados exclusivamente em medidas repressivas via a atuação estatal ou monopolizados pelos controladores dos algoritmos. É possível observar a criação de diferentes estruturas informais de checagem de fontes e uma preocupação no fortalecimento do letramento digital dos eleitores, para além da regulação compartilhada entre tribunais, parlamentos e setor privado.</p>
            <p>No caso específico da observação sistêmica, como apontado ao longo deste texto, é importante reforçar que desinformação é uma estratégica política antiga, mas que não segue um tratamento linear e pontual a partir das operações dos meios de comunicação de massa, o que revela, por si só, a complexidade da observação das <italic>fake news</italic> eleitorais. Tal ponto, aliás, é reforçado pelo próprio Luhmann no texto <italic>The reality of the mass media</italic> (2020), derivado de uma palestra de 1994, proferida em Dusseldorf, no qual o sociólogo alemão aborda curiosamente um caso brasileiro. No contexto da eleição presidencial de 1994, o então Ministro da Fazenda Rubens Ricúpero declarou, antes de entrar no ar numa entrevista, de modo reservado para o repórter da emissora de televisão Rede Globo, que, se fosse o caso, esconderia o índice da inflação para não prejudicar o governo, diante do recém-implementado Plano Real: “Eu não tenho escrúpulos. O que é bom a gente fatura; o que é ruim, esconde” (ver <xref ref-type="bibr" rid="B14">Folha de S. Paulo, 1994</xref>).</p>
            <p>A declaração foi captada por telespectadores que utilizaram antenas parabólicas e tal informação acabou sendo incorporada na reportagem da emissora. Na época, a campanha de Fernando Henrique Cardoso, candidato que o ministro estava apoiando, acreditava que a revelação privada o prejudicaria na eleição presidencial – o que não se confirmou como decisivo nas urnas. Examinando o caso, Luhmann (2020, p. 43) destaca que o escândalo não teve efeito na população – questionando o possível acoplamento entre sistemas midiáticos e político: “Ao contrário de todas as suposições racionais sobre o impacto revelador da verdade ao público, este caso mostra que a verdade reside na comunicação privada, e não na pública”. Resta o convite para melhor observar um fenômeno social tão complexo com as lentes sistêmicas, atualizando tais lentes para observarem a complexidade da comunicação política no ambiente digital.</p>
        </sec>
    </body>
    <back>
        <fn-group>
            <fn fn-type="other" id="fn01">
                <label>1</label>
                <p>Agradecimentos: Este artigo resulta do projeto regular “Direito à privacidade e o processo eleitoral brasileiro: uma perspectiva sociológica sistêmica acerca da regulação jurídica da disseminação de notícias falsas a partir das eleições majoritárias em 2018”, financiado pela Fundação de Amparo à Pesquisa do Estado de São Paulo (FAPESP – Processo nº 2019/22197-7), coordenado pelo Professor Celso Fernandes Campilongo e apoiado pelo Observatório Eleitoral das Américas (Organização dos Estados Americanos – OEA/Instituto de Relações Internacionais da Universidade de São Paulo – IRI-USP). Agradecemos as contribuições da pesquisadora Paula Pedigoni Ponce.</p>
            </fn>
        </fn-group>
        <fn-group>
            <fn fn-type="other" id="fn05">
                <label>5</label>
                <p>“No Brasil, uma pesquisa conduzida pelo Ideia Big Data apontou que 98,21% dos eleitores teriam sido expostos a pelo menos uma das 5 notícias falsas mais virais durante o período eleitoral, e 89,77% acreditavam que elas tinham lastro na realidade. A relação desses números com o resultado eleitoral não é simples de se estabelecer (e as demais perguntas da pesquisa não permitem conclusões firmes), mas fato é que se coloca uma pressão sobre as plataformas (e, no caso brasileiro, aos aplicativos de mensagens, que não envolvem em princípio algoritmos e, portanto, são um desafio à parte).” (<xref ref-type="bibr" rid="B42">Valente, 2020</xref>, p. 101)</p>
            </fn>
            <fn fn-type="other" id="fn06">
                <label>6</label>
                <p>Para uma definição e uma ideia do tema, cf. <xref ref-type="bibr" rid="B12">Dentith (2017)</xref> e <xref ref-type="bibr" rid="B17">Gelfelrt (2018)</xref>. Também o termo deveria ser diferenciado de outros, como “<italic>post-truth</italic>” (cf. o Oxford Dictionary: url: https://tinyurl.com/hfl2boy) e “<italic>misleading information</italic>” (cf. <xref ref-type="bibr" rid="B18">Giglietto <italic>et al</italic>., 2019</xref>).</p>
            </fn>
            <fn fn-type="other" id="fn07">
                <label>7</label>
                <p>Boaventura de <xref ref-type="bibr" rid="B36">Sousa Santos (2019)</xref> descreve com precisão o funcionamento das notícias falsas à luz das redes sociais: “O modo 3 (<italic>fake news</italic>) cria uma ignorância malévola, corrosiva e, tal como um cancro, dificilmente controlável, na medida em que o ignorante é transformado em empreendedor da sua própria ignorância. As redes sociais têm um papel crucial na sua proliferação. Esta ignorância está para além da ausência e da emergência. Esta ignorância é a prefiguração da estase, a imobilidade que estrutura a vertigem do tempo imediato”.</p>
            </fn>
            <fn fn-type="other" id="fn08">
                <label>8</label>
                <p>Em sentido próximo, <xref ref-type="bibr" rid="B19">Sally Hubbard (2017, p. 1)</xref> aproxima <italic>fake news</italic> com o poder de mercado: “<italic>Fake news can be challenging to define. In this essay, fake news means stories that are simply made up for profit or propaganda without using trained journalists, conducting research or expending resources. Articles written according to journalistic practices from a particular political perspective or containing factual errors do not meet the definition of fake news used here</italic>”.</p>
            </fn>
            <fn fn-type="other" id="fn09">
                <label>9</label>
                <p>Sobre a difusão de informações falsa na internet e fenômenos consequentes de reação como <italic>debunking</italic> e <italic>fact checking</italic>, cf. – entre outros – <xref ref-type="bibr" rid="B48">World Economic Forum, 2013</xref>; <xref ref-type="bibr" rid="B31">Quattrociocchi; Vicini, 2018</xref>.</p>
            </fn>
            <fn fn-type="other" id="fn10">
                <label>10</label>
                <p>Não se esquece que a decisão monocrática do Ministro Carlos Horbach na Rp. 0601727-09.2018.6.00.0000, em 17.10.2018, que propôs alguns parâmetros para justificar a intervenção da Justiça Eleitoral na remoção de conteúdos nas redes sociais, foi muito citada pelos seus pares, porém o que se argumenta é que não houve uma análise desses critérios pelo órgão colegiado a fim de demonstrar um claro posicionamento do Tribunal.</p>
            </fn>
            <fn fn-type="other" id="fn11">
                <label>11</label>
                <p>Considerando as decisões analisadas que determinaram a quebra de sigilo de internautas ou mesmo a remoção cautelar de conteúdos reputados falsos, apenas uma – decisão da lavra do Ministro Luiz Edson Fachin na Rp. 0600796-06.2018.6.00.0000 – fez referência ao Marco Civil da Internet. Nenhuma menciona a Lei Geral de Proteção de Dados.</p>
            </fn>
            <fn fn-type="other" id="fn12">
                <label>12</label>
                <p>Registre-se, ainda: 1) que, na sua forma atual, o Código Eleitoral (Lei nº 4.737/1965) tipifica os crimes de calúnia, difamação e injúria (arts. 324, 325 e 326) e criminaliza a divulgação de fatos inverídicos na propaganda eleitoral (art. 323); que a Lei nº 9.504/1997 prevê o direito de resposta contra a divulgação de fatos “sabidamente inverídicos ou ofensivos” (art. 58) e, desde 2013, criminaliza a “contratação direta ou indireta de grupos de pessoas com a finalidade específica de emitir mensagens ou comentários na Internet para ofender a honra ou denegrir a imagem de candidato, partido ou coligação” (art. 57-H, § 1º); 3) que a Lei nº 13.834/2019 incluiu no Código Eleitoral a tipificação do crime de denunciação caluniosa, incluindo a conduta de “quem, comprovadamente ciente da inocência do denunciado e com finalidade eleitoral, divulga ou propala, por qualquer meio ou forma, o ato ou fato que lhe foi falsamente atribuído” (art. 326-A, § 3º).</p>
            </fn>
            <fn fn-type="other" id="fn13">
                <label>13</label>
                <p>No segundo semestre de 2021, notaram-se movimentos importantes: em julho, a Polícia Federal abriu um inquérito para investigar “milícias digitais”; em agosto, o TSE decidiu pela instauração de um inquérito administrativo para investigar diversos crimes envolvidos em estratégias de comunicação para o ataque à legitimidade das eleições e à higidez das urnas eletrônicas; também em agosto, o Congresso aprovou uma nova Lei de Segurança Nacional, vetada pelo Presidente da República no dispositivo que tipificava o crime de “comunicação enganosa em massa”; em setembro, a Câmara dos Deputados aprovou o texto-base de um novo Código Eleitoral (agora em discussão no Senado) que tipifica e pune a desinformação e o uso de robôs na propaganda eleitoral; no mesmo mês de setembro, o Executivo editou medida provisória que alterava o Marco Civil da Internet, obstaculizando a suspensão ou bloqueio, por redes sociais e aplicativos de mensagens, de contas e perfis disseminadores de desinformação; com a devolução da medida provisória pelo Senado e sua suspensão pelo STF, o Executivo editou, ainda em setembro, um projeto de lei no mesmo sentido.</p>
            </fn>
        </fn-group>

        <ref-list>
            <title>REFERÊNCIAS</title>
            <ref id="B01">

                <mixed-citation>ABBOUD, Georges; CAMPOS, Ricardo. A autorregulação regulada como modelo do direito proceduralizado: regulação de redes sociais e proceduralização. In: ABBOUD, Georges; NERY JR., Nelson; CAMPOS, Ricardo (Org.). <italic>Fake news e regulação</italic>. 2. ed. São Paulo: Revista dos Tribunais, p. 121-141, 2020.</mixed-citation>

                <element-citation publication-type="book">
                    <person-group person-group-type="author">
                        <name>
                            <surname>ABBOUD</surname>
                            <given-names>Georges</given-names>
                        </name>
                        <name>
                            <surname>CAMPOS</surname>
                            <given-names>Ricardo</given-names>
                        </name>
                    </person-group>
                    <chapter-title>A autorregulação regulada como modelo do direito proceduralizado: regulação de redes sociais e proceduralização</chapter-title>
                    <person-group person-group-type="compiler">
                        <name>
                            <surname>ABBOUD</surname>
                            <given-names>Georges</given-names>
                        </name>
                        <name>
                            <surname>NERY</surname>
                            <given-names>Nelson</given-names>
                            <suffix>JR</suffix>
                        </name>
                        <name>
                            <surname>CAMPOS</surname>
                            <given-names>Ricardo</given-names>
                        </name>
                    </person-group>
                    <source>Fake news e regulação</source>
                    <edition>2. ed.</edition>
                    <publisher-loc>São Paulo</publisher-loc>
                    <publisher-name>Revista dos Tribunais</publisher-name>
                    <fpage>121</fpage>
                    <lpage>141</lpage>
                    <year>2020</year>

                </element-citation>
            </ref>
            <ref id="B02">

                <mixed-citation>AMATO, Lucas Fucci. As formas da sociologia do Direito: uma redescrição luhmanniana do debate centenário entre Kelsen e Ehrlich. <italic>Nomos</italic>, v. 35, n. 2, p. 227-254, 2015.</mixed-citation>

                <element-citation publication-type="journal">
                    <person-group person-group-type="author">
                        <name>
                            <surname>AMATO</surname>
                            <given-names>Lucas Fucci</given-names>
                        </name>
                    </person-group>
                    <article-title>As formas da sociologia do Direito: uma redescrição luhmanniana do debate centenário entre Kelsen e Ehrlich</article-title>
                    <source>Nomos</source>
                    <volume>35</volume>
                    <issue>2</issue>
                    <fpage>227</fpage>
                    <lpage>254</lpage>
                    <year>2015</year>

                </element-citation>
            </ref>
            <ref id="B03">

                <mixed-citation>______. Desordenando o Estado constitucional: uma gênese e dez mandamentos. <italic>Jota</italic>, 13 dez. 2019. Disponível em: https://www.jota.info/opiniao-e-analise/artigos/desordenando-o-estado-constitucional-uma-genese-e-dez-mandamentos-13122019. Acesso em: 13 dez. 2019.</mixed-citation>

                <element-citation publication-type="webpage">
                    <person-group person-group-type="author">
                        <name>
                            <surname>AMATO</surname>
                            <given-names>Lucas Fucci</given-names>
                        </name>
                    </person-group>
                    <comment>Desordenando o Estado constitucional: uma gênese e dez mandamentos</comment>
                    <source>Jota</source>
                    <day>13</day>
                    <month>12</month>
                    <year>2019</year>
                    <comment>Disponível em: <ext-link ext-link-type="uri" xlink:href="https://www.jota.info/opiniao-e-analise/artigos/desordenando-o-estado-constitucional-uma-genese-e-dez-mandamentos-13122019">https://www.jota.info/opiniao-e-analise/artigos/desordenando-o-estado-constitucional-uma-genese-e-dez-mandamentos-13122019</ext-link></comment>
                    <date-in-citation content-type="access-date">13 dez. 2019</date-in-citation>

                </element-citation>
            </ref>
            <ref id="B04">

                <mixed-citation>______. <italic>Fake news</italic>: regulação ou metarregulação? <italic>Revista de Informação Legislativa</italic>, v. 58, n. 230, p. 29-53, 2021.</mixed-citation>

                <element-citation publication-type="journal">
                    <person-group person-group-type="author">
                        <name>
                            <surname>AMATO</surname>
                            <given-names>Lucas Fucci</given-names>
                        </name>
                    </person-group>
                    <article-title><italic>Fake news</italic>: regulação ou metarregulação?</article-title>
                    <source>Revista de Informação Legislativa</source>
                    <volume>58</volume>
                    <issue>230</issue>
                    <fpage>29</fpage>
                    <lpage>53</lpage>
                    <year>2021</year>

                </element-citation>
            </ref>
            <ref id="B05">

                <mixed-citation>______. Personalidade jurídica, mercado e opinião pública: uma visão sistêmico-institucional. <italic>Revista Brasileira de Sociologia do Direito</italic>, v. 7, n. 2, p. 78-96, 2020.</mixed-citation>

                <element-citation publication-type="journal">
                    <person-group person-group-type="author">
                        <name>
                            <surname>AMATO</surname>
                            <given-names>Lucas Fucci</given-names>
                        </name>
                    </person-group>
                    <article-title>Personalidade jurídica, mercado e opinião pública: uma visão sistêmico-institucional</article-title>
                    <source>Revista Brasileira de Sociologia do Direito</source>
                    <volume>7</volume>
                    <issue>2</issue>
                    <fpage>78</fpage>
                    <lpage>96</lpage>
                    <year>2020</year>

                </element-citation>
            </ref>
            <ref id="B06">

                <mixed-citation>BARROS, Marco Antonio Loschiavo Leme de. Direito e consequência: reflexão para uma sociologia da decisão jurídica. <italic>Revista da Faculdade de Direito, Universidade de São Paulo</italic>, n. 113, p. 535-561, 2018.</mixed-citation>

                <element-citation publication-type="journal">
                    <person-group person-group-type="author">
                        <name>
                            <surname>BARROS</surname>
                            <given-names>Marco Antonio Loschiavo Leme de</given-names>
                        </name>
                    </person-group>
                    <article-title>Direito e consequência: reflexão para uma sociologia da decisão jurídica</article-title>
                    <source>Revista da Faculdade de Direito, Universidade de São Paulo</source>
                    <issue>113</issue>
                    <fpage>535</fpage>
                    <lpage>561</lpage>
                    <year>2018</year>

                </element-citation>
            </ref>
            <ref id="B07">

                <mixed-citation>BLOCH, Marc. <italic>La guerra e le false notizie</italic>. Roma: Donzelli, 1994.</mixed-citation>

                <element-citation publication-type="book">
                    <person-group person-group-type="author">
                        <name>
                            <surname>BLOCH</surname>
                            <given-names>Marc</given-names>
                        </name>
                    </person-group>
                    <source>La guerra e le false notizie</source>
                    <publisher-loc>Roma</publisher-loc>
                    <publisher-name>Donzelli</publisher-name>
                    <year>1994</year>

                </element-citation>
            </ref>
            <ref id="B08">

                <mixed-citation>______. Réflexions d’un historien sur les fausses nouvelles de la guerre. <italic>Revue de Synthèse Historique</italic>, t. 33, 1921.</mixed-citation>

                <element-citation publication-type="journal">
                    <person-group person-group-type="author">
                        <name>
                            <surname>BLOCH</surname>
                            <given-names>Marc</given-names>
                        </name>
                    </person-group>
                    <article-title>Réflexions d’un historien sur les fausses nouvelles de la guerre</article-title>
                    <source>Revue de Synthèse Historique</source>
                    <volume>33</volume>
                    <year>1921</year>

                </element-citation>
            </ref>
            <ref id="B09">

                <mixed-citation>BRITO CRUZ, Francisco Carvalho de. <italic>Direito, democracia e cultura digital:</italic> a experiência de elaboração legislativa do Marco Civil da Internet. 2015. Dissertação (Mestrado em Direito) – Universidade de São Paulo, São Paulo, 2015.</mixed-citation>

                <element-citation publication-type="thesis">
                    <person-group person-group-type="author">
                        <name>
                            <surname>BRITO CRUZ</surname>
                            <given-names>Francisco Carvalho de</given-names>
                        </name>
                    </person-group>
                    <source><italic>Direito, democracia e cultura digital:</italic> a experiência de elaboração legislativa do Marco Civil da Internet</source>
                    <year>2015</year>
                    <comment>Dissertação (Mestrado em Direito)</comment>
                    <publisher-name>Universidade de São Paulo</publisher-name>
                    <publisher-loc>São Paulo</publisher-loc>


                </element-citation>
            </ref>
            <ref id="B10">

                <mixed-citation>CHICARINO, Tathiana; CONCEIÇÃO, Desirèe Luíse Lopes. Uma análise da produção de desinformação nas eleições 2018 a partir da CPMI das <italic>Fake News</italic>. In: Encontro Anual da ANPOCS – Associação Nacional de Pós-Graduação e Pesquisa em Ciências Sociais, 44., 2020, São Paulo. <italic>Anais</italic>, São Paulo: FFLCH-USP, p. 1-24, 2020.</mixed-citation>

                <element-citation publication-type="confproc">
                    <person-group person-group-type="author">
                        <name>
                            <surname>CHICARINO</surname>
                            <given-names>Tathiana</given-names>
                        </name>
                        <name>
                            <surname>CONCEIÇÃO</surname>
                            <given-names>Desirèe Luíse Lopes</given-names>
                        </name>
                    </person-group>
                    <comment>Uma análise da produção de desinformação nas eleições 2018 a partir da CPMI das <italic>Fake News</italic></comment>
                    <conf-name>Encontro Anual da ANPOCS – Associação Nacional de Pós-Graduação e Pesquisa em Ciências Sociais</conf-name>
                    <edition>44</edition>
                    <conf-date>2020</conf-date>
                    <conf-loc>São Paulo</conf-loc>
                    <source>Anais</source>
                    <publisher-loc>São Paulo</publisher-loc>
                    <publisher-name>FFLCH-USP</publisher-name>
                    <fpage>1</fpage>
                    <lpage>24</lpage>
                    <year>2020</year>

                </element-citation>
            </ref>
            <ref id="B11">

                <mixed-citation>CONGRESSO EM FOCO. Maia acusa Bolsonaro de comandar rede de <italic>fake news</italic>. 6 abr. 2020. Disponível em: https://congressoemfoco.uol.com.br/governo/maia-acusa-bolsonaro-de-comandar-fake-news-nas-redes-sociais/ Acesso em: 11 out. 2020.</mixed-citation>

                <element-citation publication-type="webpage">
                    <person-group person-group-type="author">
                        <collab>CONGRESSO EM FOCO</collab>
                    </person-group>
                    <source>Maia acusa Bolsonaro de comandar rede de <italic>fake news</italic></source>
                    <day>6</day>
                    <month>04</month>
                    <year>2020</year>
                    <comment>Disponível em: <ext-link ext-link-type="uri" xlink:href="https://congressoemfoco.uol.com.br/governo/maia-acusa-bolsonaro-de-comandar-fake-news-nas-redes-sociais/">https://congressoemfoco.uol.com.br/governo/maia-acusa-bolsonaro-de-comandar-fake-news-nas-redes-sociais/</ext-link></comment>
                    <date-in-citation content-type="access-date">11 out. 2020</date-in-citation>

                </element-citation>
            </ref>
            <ref id="B12">

                <mixed-citation>DENTITH, Matthew R. X. The Problem of Fake News. <italic>Public Reason</italic>, v. 8, n. 1-2, p. 65-79, 2017.</mixed-citation>

                <element-citation publication-type="journal">
                    <person-group person-group-type="author">
                        <name>
                            <surname>DENTITH</surname>
                            <given-names>Matthew R. X.</given-names>
                        </name>
                    </person-group>
                    <article-title>The Problem of Fake News</article-title>
                    <source>Public Reason</source>
                    <volume>8</volume>
                    <issue>1-2</issue>
                    <fpage>65</fpage>
                    <lpage>79</lpage>
                    <year>2017</year>

                </element-citation>
            </ref>
            <ref id="B13">

                <mixed-citation>DOURADO, Tatiana Maria Silva Galvão. <italic>Fake news</italic> na eleição presidencial de 2018 no Brasil. 2020. Tese (Doutorado em Comunicação e Culturas Contemporâneas) –Universidade Federal da Bahia, Salvador, 2020.</mixed-citation>

                <element-citation publication-type="thesis">
                    <person-group person-group-type="author">
                        <name>
                            <surname>DOURADO</surname>
                            <given-names>Tatiana Maria Silva Galvão</given-names>
                        </name>
                    </person-group>
                    <source><italic>Fake news</italic> na eleição presidencial de 2018 no Brasil</source>
                    <year>2020</year>
                    <comment>Tese (Doutorado em Comunicação e Culturas Contemporâneas)</comment>
                    <publisher-name>Universidade Federal da Bahia</publisher-name>
                    <publisher-loc>Salvador</publisher-loc>

                </element-citation>
            </ref>
            <ref id="B14">

                <mixed-citation>FOLHA DE S. PAULO. Ricupero diz ajudar FHC, esconder inflação e confessa não ter escrúpulo. 3 set. 1994. Disponível em: https://www1.folha.uol.com.br/fsp/1994/9/03/caderno_especial/22.html. Acesso em: 15 dez. 2020.</mixed-citation>

                <element-citation publication-type="webpage">
                    <person-group person-group-type="author">
                        <collab>FOLHA DE S. PAULO</collab>
                    </person-group>
                    <source>Ricupero diz ajudar FHC, esconder inflação e confessa não ter escrúpulo</source>
                    <day>3</day>
                    <month>09</month>
                    <year>1994</year>
                    <comment>Disponível em: <ext-link ext-link-type="uri" xlink:href="https://www1.folha.uol.com.br/fsp/1994/9/03/caderno_especial/22.html">https://www1.folha.uol.com.br/fsp/1994/9/03/caderno_especial/22.html</ext-link></comment>
                    <date-in-citation content-type="access-date">15 dez. 2020</date-in-citation>

                </element-citation>
            </ref>
            <ref id="B15">

                <mixed-citation>FUNDAÇÃO GETÚLIO VARGAS. DAPP Report: A semana nas redes, 11.2018. Disponível em: https://observa2018.dapp.fgv.br/wp-content/uploads/2018/11/01-11-Dapp-Report.pdf. Acesso em: 8 dez. 2020.</mixed-citation>

                <element-citation publication-type="webpage">
                    <person-group person-group-type="author">
                        <collab>FUNDAÇÃO GETÚLIO VARGAS</collab>
                    </person-group>
                    <source>DAPP Report: A semana nas redes, 11.2018</source>
                    <comment>Disponível em: <ext-link ext-link-type="uri" xlink:href="https://observa2018.dapp.fgv.br/wp-content/uploads/2018/11/01-11-Dapp-Report.pdf">https://observa2018.dapp.fgv.br/wp-content/uploads/2018/11/01-11-Dapp-Report.pdf</ext-link></comment>
                    <date-in-citation content-type="access-date">8 dez. 2020</date-in-citation>
                    <year>2018</year>

                </element-citation>
            </ref>
            <ref id="B16">

                <mixed-citation>GAGLIONI, Cesar. O que há sobre o Brasil nos documentos da Cambridge Analytica. <italic>Nexo Jornal</italic>, 6 jan. 2020. Disponível em: https://www.nexojornal.com.br/expresso/2020/01/06/O-que-há-sobre-o-Brasil-nos-documentos-da-Cambridge-Analytica. Acesso em: 11 out. 2020.</mixed-citation>

                <element-citation publication-type="journal">
                    <person-group person-group-type="author">
                        <name>
                            <surname>GAGLIONI</surname>
                            <given-names>Cesar</given-names>
                        </name>
                    </person-group>
                    <article-title>O que há sobre o Brasil nos documentos da Cambridge Analytica</article-title>
                    <source>Nexo Jornal</source>
                    <day>6</day>
                    <month>01</month>
                    <year>2020</year>
                    <comment>Disponível em: <ext-link ext-link-type="uri" xlink:href="https://www.nexojornal.com.br/expresso/2020/01/06/O-que-há-sobre-o-Brasil-nos-documentos-da-Cambridge-Analytica">https://www.nexojornal.com.br/expresso/2020/01/06/O-que-há-sobre-o-Brasil-nos-documentos-da-Cambridge-Analytica</ext-link></comment>
                    <date-in-citation content-type="access-date">11 out. 2020</date-in-citation>

                </element-citation>
            </ref>
            <ref id="B17">

                <mixed-citation>GELFERT, Axel. Fake news: a definition. <italic>Informal Logic</italic>, v. 38, n. 1, p. 84-117, 2018.</mixed-citation>

                <element-citation publication-type="journal">
                    <person-group person-group-type="author">
                        <name>
                            <surname>GELFERT</surname>
                            <given-names>Axel</given-names>
                        </name>
                    </person-group>
                    <article-title>Fake news: a definition</article-title>
                    <source>Informal Logic</source>
                    <volume>38</volume>
                    <issue>1</issue>
                    <fpage>84</fpage>
                    <lpage>117</lpage>
                    <year>2018</year>

                </element-citation>
            </ref>
            <ref id="B18">

                <mixed-citation>GIGLIETTO, Fabio; IANNELLI, Laura; ROSSI, Luca; VALERIANI, Augusto. “Fake” news is the invention of a liar: a new taxonomy for the study of misleading information within hybrid media system. <italic>Current Sociology</italic>, 2019.</mixed-citation>

                <element-citation publication-type="journal">
                    <person-group person-group-type="author">
                        <name>
                            <surname>GIGLIETTO</surname>
                            <given-names>Fabio</given-names>
                        </name>
                        <name>
                            <surname>IANNELLI</surname>
                            <given-names>Laura</given-names>
                        </name>
                        <name>
                            <surname>ROSSI</surname>
                            <given-names>Luca</given-names>
                        </name>
                        <name>
                            <surname>VALERIANI</surname>
                            <given-names>Augusto</given-names>
                        </name>
                    </person-group>
                    <article-title>“Fake” news is the invention of a liar: a new taxonomy for the study of misleading information within hybrid media system</article-title>
                    <source>Current Sociology</source>
                    <year>2019</year>

                </element-citation>
            </ref>
            <ref id="B19">

                <mixed-citation>HUBBARD, Sally. Fake news is a real antitrust problem. <italic>Competition Policy International</italic>, dez. 2017.</mixed-citation>

                <element-citation publication-type="journal">
                    <person-group person-group-type="author">
                        <name>
                            <surname>HUBBARD</surname>
                            <given-names>Sally</given-names>
                        </name>
                    </person-group>
                    <article-title>Fake news is a real antitrust problem</article-title>
                    <source>Competition Policy International</source>
                    <month>12</month>
                    <year>2017</year>

                </element-citation>
            </ref>
            <ref id="B20">

                <mixed-citation>LADEUR, Karl-Heinz. Por um novo direito das redes digitais: digitalização como objeto contratual, uso contratual de “meios sociais”, proteção de terceiros contra violações a direitos da personalidade por meio de Cyber Courts. Trad. Pedro Henrique Ribeiro. In: ABBOUD, Georges; NERY JR., Nelson; CAMPOS, Ricardo (Org.). <italic>Fake news e regulação</italic>. 2. ed. São Paulo: Revista dos Tribunais, p. 143-191, 2020.</mixed-citation>

                <element-citation publication-type="book">
                    <person-group person-group-type="author">
                        <name>
                            <surname>LADEUR</surname>
                            <given-names>Karl-Heinz</given-names>
                        </name>
                    </person-group>
                    <chapter-title>Por um novo direito das redes digitais: digitalização como objeto contratual, uso contratual de “meios sociais”, proteção de terceiros contra violações a direitos da personalidade por meio de Cyber Courts</chapter-title>
                    <person-group person-group-type="translator">
                        <name>
                            <surname>Ribeiro</surname>
                            <given-names>Pedro Henrique</given-names>
                        </name>
                    </person-group>
                    <person-group person-group-type="compiler">
                        <name>
                            <surname>ABBOUD</surname>
                            <given-names>Georges</given-names>
                        </name>
                        <name>
                            <surname>NERY</surname>
                            <given-names>Nelson</given-names>
                            <suffix>JR</suffix>
                        </name>
                        <name>
                            <surname>CAMPOS</surname>
                            <given-names>Ricardo</given-names>
                        </name>
                    </person-group>
                    <source>Fake news e regulação</source>
                    <edition>2. ed.</edition>
                    <publisher-loc>São Paulo</publisher-loc>
                    <publisher-name>Revista dos Tribunais</publisher-name>
                    <fpage>143</fpage>
                    <lpage>191</lpage>
                    <year>2020</year>

                </element-citation>
            </ref>
            <ref id="B21">

                <mixed-citation>LUHMANN, Niklas. <italic>Legitimação pelo procedimento</italic>. Brasília: Editora da Universidade de Brasília, 1980.</mixed-citation>

                <element-citation publication-type="book">
                    <person-group person-group-type="author">
                        <name>
                            <surname>LUHMANN</surname>
                            <given-names>Niklas</given-names>
                        </name>
                    </person-group>
                    <source>Legitimação pelo procedimento</source>
                    <publisher-loc>Brasília</publisher-loc>
                    <publisher-name>Editora da Universidade de Brasília</publisher-name>
                    <year>1980</year>

                </element-citation>
            </ref>
            <ref id="B22">

                <mixed-citation>______. <italic>A sociological theory of law</italic>. 2. ed. New York: Routledge, 2014a.</mixed-citation>

                <element-citation publication-type="book">
                    <person-group person-group-type="author">
                        <name>
                            <surname>LUHMANN</surname>
                            <given-names>Niklas</given-names>
                        </name>
                    </person-group>
                    <source>A sociological theory of law</source>
                    <edition>2. ed.</edition>
                    <publisher-loc>New York</publisher-loc>
                    <publisher-name>Routledge</publisher-name>
                    <year>2014a</year>

                </element-citation>
            </ref>
            <ref id="B23">

                <mixed-citation>______. <italic>La ciencia de la sociedad</italic>. México: Universidad Iberoamericana, 1996.</mixed-citation>

                <element-citation publication-type="book">
                    <person-group person-group-type="author">
                        <name>
                            <surname>LUHMANN</surname>
                            <given-names>Niklas</given-names>
                        </name>
                    </person-group>
                    <source>La ciencia de la sociedad</source>
                    <publisher-loc>México</publisher-loc>
                    <publisher-name>Universidad Iberoamericana</publisher-name>
                    <year>1996</year>

                </element-citation>
            </ref>
            <ref id="B24">

                <mixed-citation>______. <italic>La política como sistema</italic>. México: Universidad Iberoamericana, 2009.</mixed-citation>

                <element-citation publication-type="book">
                    <person-group person-group-type="author">
                        <name>
                            <surname>LUHMANN</surname>
                            <given-names>Niklas</given-names>
                        </name>
                    </person-group>
                    <source>La política como sistema</source>
                    <publisher-loc>México</publisher-loc>
                    <publisher-name>Universidad Iberoamericana</publisher-name>
                    <year>2009</year>

                </element-citation>
            </ref>
            <ref id="B25">

                <mixed-citation>______. <italic>Law as a social system</italic>. Oxford: Oxford University Press, 2004.</mixed-citation>

                <element-citation publication-type="book">
                    <person-group person-group-type="author">
                        <name>
                            <surname>LUHMANN</surname>
                            <given-names>Niklas</given-names>
                        </name>
                    </person-group>
                    <source>Law as a social system</source>
                    <publisher-loc>Oxford</publisher-loc>
                    <publisher-name>Oxford University Press</publisher-name>
                    <year>2004</year>

                </element-citation>
            </ref>
            <ref id="B26">

                <mixed-citation>______. <italic>Sociología política</italic>. Madrid: Trotta, 2014b.</mixed-citation>

                <element-citation publication-type="book">
                    <person-group person-group-type="author">
                        <name>
                            <surname>LUHMANN</surname>
                            <given-names>Niklas</given-names>
                        </name>
                    </person-group>
                    <source>Sociología política</source>
                    <publisher-loc>Madrid</publisher-loc>
                    <publisher-name>Trotta</publisher-name>
                    <year>2014b</year>

                </element-citation>
            </ref>
            <ref id="B27">

                <mixed-citation>______. <italic>The reality of the mass media</italic>. Stanford: Stanford University Press, 2000.</mixed-citation>

                <element-citation publication-type="book">
                    <person-group person-group-type="author">
                        <name>
                            <surname>LUHMANN</surname>
                            <given-names>Niklas</given-names>
                        </name>
                    </person-group>
                    <source>The reality of the mass media</source>
                    <publisher-loc>Stanford</publisher-loc>
                    <publisher-name>Stanford University Press</publisher-name>
                    <year>2000</year>

                </element-citation>
            </ref>
            <ref id="B28">

                <mixed-citation>______. <italic>Theory of society I</italic>. Stanford: Stanford University Press, 2012.</mixed-citation>

                <element-citation publication-type="book">
                    <person-group person-group-type="author">
                        <name>
                            <surname>LUHMANN</surname>
                            <given-names>Niklas</given-names>
                        </name>
                    </person-group>
                    <source>Theory of society I</source>
                    <publisher-loc>Stanford</publisher-loc>
                    <publisher-name>Stanford University Press</publisher-name>
                    <year>2012</year>

                </element-citation>
            </ref>
            <ref id="B29">

                <mixed-citation>______. <italic>Theory of society II</italic>. Stanford, Stanford University Press, 2013.</mixed-citation>

                <element-citation publication-type="book">
                    <person-group person-group-type="author">
                        <name>
                            <surname>LUHMANN</surname>
                            <given-names>Niklas</given-names>
                        </name>
                    </person-group>
                    <source>Theory of society II</source>
                    <publisher-loc>Stanford</publisher-loc>
                    <publisher-name>Stanford University Press</publisher-name>
                    <year>2013</year>

                </element-citation>
            </ref>
            <ref id="B30">

                <mixed-citation>MARCHETTI, Vitor. Electoral governance in Brazil. <italic>Brazilian Political Science Review</italic>, v. 6, p. 113-133, 2012.</mixed-citation>

                <element-citation publication-type="journal">
                    <person-group person-group-type="author">
                        <name>
                            <surname>MARCHETTI</surname>
                            <given-names>Vitor</given-names>
                        </name>
                    </person-group>
                    <article-title>Electoral governance in Brazil</article-title>
                    <source>Brazilian Political Science Review</source>
                    <volume>6</volume>
                    <fpage>113</fpage>
                    <lpage>133</lpage>
                    <year>2012</year>


                </element-citation>
            </ref>
            <ref id="B31">

                <mixed-citation>QUATTROCCIOCCHI, Walter; VICINI, Antonella. <italic>Liberi di crederci</italic>. Informazione, internet e post-verità. Torino: Codice Edizioni, 2018.</mixed-citation>

                <element-citation publication-type="book">
                    <person-group person-group-type="author">
                        <name>
                            <surname>QUATTROCCIOCCHI</surname>
                            <given-names>Walter</given-names>
                        </name>
                        <name>
                            <surname>VICINI</surname>
                            <given-names>Antonella</given-names>
                        </name>
                    </person-group>
                    <source>Liberi di crederci</source>
                    <chapter-title>Informazione, internet e post-verità</chapter-title>
                    <publisher-loc>Torino</publisher-loc>
                    <publisher-name>Codice Edizioni</publisher-name>
                    <year>2018</year>

                </element-citation>
            </ref>
            <ref id="B32">

                <mixed-citation>RAMOS, Carlos Eduardo Vieira. <italic>Direito das plataformas digitais:</italic> regulação privada da liberdade de expressão na internet: procedimento, legitimidade e constitucionalização. Curitiba: Juruá, 2021.</mixed-citation>

                <element-citation publication-type="book">
                    <person-group person-group-type="author">
                        <name>
                            <surname>RAMOS</surname>
                            <given-names>Carlos Eduardo Vieira</given-names>
                        </name>
                    </person-group>
                    <source><italic>Direito das plataformas digitais:</italic> regulação privada da liberdade de expressão na internet: procedimento, legitimidade e constitucionalização</source>
                    <publisher-loc>Curitiba</publisher-loc>
                    <publisher-name>Juruá</publisher-name>
                    <year>2021</year>

                </element-citation>
            </ref>
            <ref id="B33">

                <mixed-citation>REZENDE, Constança. Governo anunciou em 47 <italic>sites</italic> de notícias falsas em 38 dias, diz CPMI. UOL, 3 jun. 2020. Disponível em: https://noticias.uol.com.br/colunas/constanca-rezende/2020/06/03/governo-publicou-653-mil-anuncios-em-canais-de-noticias-falsas-avalia-cpmi.htm. Acesso em: 11 out. 2020.</mixed-citation>

                <element-citation publication-type="webpage">
                    <person-group person-group-type="author">
                        <name>
                            <surname>REZENDE</surname>
                            <given-names>Constança</given-names>
                        </name>
                    </person-group>
                    <source>Governo anunciou em 47 <italic>sites</italic> de notícias falsas em 38 dias, diz CPMI</source>
                    <publisher-name>UOL</publisher-name>
                    <day>3</day>
                    <month>06</month>
                    <year>2020</year>
                    <comment>Disponível em: <ext-link ext-link-type="uri" xlink:href="https://noticias.uol.com.br/colunas/constanca-rezende/2020/06/03/governo-publicou-653-mil-anuncios-em-canais-de-noticias-falsas-avalia-cpmi.htm">https://noticias.uol.com.br/colunas/constanca-rezende/2020/06/03/governo-publicou-653-mil-anuncios-em-canais-de-noticias-falsas-avalia-cpmi.htm</ext-link></comment>
                    <date-in-citation content-type="access-date">11 out. 2020</date-in-citation>

                </element-citation>
            </ref>
            <ref id="B34">

                <mixed-citation>SILVESTRE, Nathan Christian Coelho. <italic>Combate às fake news:</italic> as autoridades estatais face à desinformação na era digital e os impactos à liberdade de expressão. 2020. Trabalho de conclusão de curso (Graduação em Direito) – Universidade de São Paulo, São Paulo, 2020.</mixed-citation>

                <element-citation publication-type="thesis">
                    <person-group person-group-type="author">
                        <name>
                            <surname>SILVESTRE</surname>
                            <given-names>Nathan Christian Coelho</given-names>
                        </name>
                    </person-group>
                    <source><italic>Combate às fake news:</italic> as autoridades estatais face à desinformação na era digital e os impactos à liberdade de expressão</source>
                    <year>2020</year>
                    <comment>Trabalho de conclusão de curso (Graduação em Direito)</comment>
                    <publisher-name>Universidade de São Paulo</publisher-name>
                    <publisher-loc>São Paulo</publisher-loc>

                </element-citation>
            </ref>
            <ref id="B35">

                <mixed-citation>SIMIONI, Rafael Lazzarotto. Decisão, organização e risco: a forma da decisão jurídica para além da segurança e da legitimidade. <italic>Nomos</italic>, v. 37, n. 1, p. 259-279, 2017.</mixed-citation>

                <element-citation publication-type="journal">
                    <person-group person-group-type="author">
                        <name>
                            <surname>SIMIONI</surname>
                            <given-names>Rafael Lazzarotto</given-names>
                        </name>
                    </person-group>
                    <article-title>Decisão, organização e risco: a forma da decisão jurídica para além da segurança e da legitimidade</article-title>
                    <source>Nomos</source>
                    <volume>37</volume>
                    <issue>1</issue>
                    <fpage>259</fpage>
                    <lpage>279</lpage>
                    <year>2017</year>

                </element-citation>
            </ref>
            <ref id="B36">

                <mixed-citation>SOUSA SANTOS, Boaventura. As três ignorâncias: arrogante, indolente, malévola. <italic>Jornal Letras</italic>, 13-26 de março, 2019. Disponível em: http://alice.ces.uc.pt/en/index.php/homepage-posts/as-tres-ignorancias-arrogante-indolente-malevola-boaventura-de-sousa-santos-in-jl-13-a-26-de-marco-2019. Acesso em: 9 out. 2019.</mixed-citation>

                <element-citation publication-type="journal">
                    <person-group person-group-type="author">
                        <name>
                            <surname>SOUSA SANTOS</surname>
                            <given-names>Boaventura</given-names>
                        </name>
                    </person-group>
                    <article-title>As três ignorâncias: arrogante, indolente, malévola</article-title>
                    <source>Jornal Letras</source>
                    <day>13</day>
                    <month>03</month>
                    <year>2019</year>
                    <comment>Disponível em: <ext-link ext-link-type="uri" xlink:href="http://alice.ces.uc.pt/en/index.php/homepage-posts/as-tres-ignorancias-arrogante-indolente-malevola-boaventura-de-sousa-santos-in-jl-13-a-26-de-marco-2019">http://alice.ces.uc.pt/en/index.php/homepage-posts/as-tres-ignorancias-arrogante-indolente-malevola-boaventura-de-sousa-santos-in-jl-13-a-26-de-marco-2019</ext-link></comment>
                    <date-in-citation content-type="access-date">9 out. 2019</date-in-citation>

                </element-citation>
            </ref>
            <ref id="B37">

                <mixed-citation>SOUZA, Carlos Alfonso; VIOLA, Mario; LEMOS, Ronaldo. <italic>Brazil’s Internet Bill of Rights:</italic> a closer look. Rio de Janeiro: ITS, 2017.</mixed-citation>

                <element-citation publication-type="book">
                    <person-group person-group-type="author">
                        <name>
                            <surname>SOUZA</surname>
                            <given-names>Carlos Alfonso</given-names>
                        </name>
                        <name>
                            <surname>VIOLA</surname>
                            <given-names>Mario</given-names>
                        </name>
                        <name>
                            <surname>LEMOS</surname>
                            <given-names>Ronaldo</given-names>
                        </name>
                    </person-group>
                    <source><italic>Brazil’s Internet Bill of Rights:</italic> a closer look</source>
                    <publisher-loc>Rio de Janeiro</publisher-loc>
                    <publisher-name>ITS</publisher-name>
                    <year>2017</year>

                </element-citation>
            </ref>
            <ref id="B38">

                <mixed-citation>O’NEIL, Cathy. <italic>Algoritmos de destruição em massa</italic>. São Paulo: Rua do Sabão, 2020.</mixed-citation>

                <element-citation publication-type="book">
                    <person-group person-group-type="author">
                        <name>
                            <surname>O’NEIL</surname>
                            <given-names>Cathy</given-names>
                        </name>
                    </person-group>
                    <source>Algoritmos de destruição em massa</source>
                    <publisher-loc>São Paulo</publisher-loc>
                    <publisher-name>Rua do Sabão</publisher-name>
                    <year>2020</year>

                </element-citation>
            </ref>
            <ref id="B39">

                <mixed-citation>TEUBNER, Gunther. Substantive and reflexive elements in modern law. <italic>Law &amp; Society Review</italic>, v. 17, n. 2, p. 239-285, 1983.</mixed-citation>

                <element-citation publication-type="journal">
                    <person-group person-group-type="author">
                        <name>
                            <surname>TEUBNER</surname>
                            <given-names>Gunther</given-names>
                        </name>
                    </person-group>
                    <article-title>Substantive and reflexive elements in modern law</article-title>
                    <source>Law &amp; Society Review</source>
                    <volume>17</volume>
                    <issue>2</issue>
                    <fpage>239</fpage>
                    <lpage>285</lpage>
                    <year>1983</year>

                </element-citation>
            </ref>
            <ref id="B40">

                <mixed-citation>______. After legal instrumentalism? Strategic models of post-regulatory law. In: TEUBNER, Gunther (Ed.). <italic>Dilemmas of law in the welfare state</italic>. Berlin: de Gruyter, p. 299-325, 1986 [1984].</mixed-citation>

                <element-citation publication-type="book">
                    <person-group person-group-type="author">
                        <name>
                            <surname>TEUBNER</surname>
                            <given-names>Gunther</given-names>
                        </name>
                    </person-group>
                    <chapter-title>After legal instrumentalism? Strategic models of post-regulatory law</chapter-title>
                    <person-group person-group-type="editor">
                        <name>
                            <surname>TEUBNER</surname>
                            <given-names>Gunther</given-names>
                        </name>
                    </person-group>
                    <source>Dilemmas of law in the welfare state</source>
                    <publisher-loc>Berlin</publisher-loc>
                    <publisher-name>de Gruyter</publisher-name>
                    <fpage>299</fpage>
                    <lpage>325</lpage>
                    <year>1986</year>

                </element-citation>
            </ref>
            <ref id="B41">

                <mixed-citation>______. Social order from legislative noise? Autopoietic closure as a problem for legal regulation. In: TEUBNER, Gunther; FEBBRAJO, Alberto (Ed.). <italic>State, law, and economy as autopoietic systems:</italic> regulation and autonomy in a new perspective. Milano: Giuffrè, p. 609-649, 1992.</mixed-citation>

                <element-citation publication-type="book">
                    <person-group person-group-type="author">
                        <name>
                            <surname>TEUBNER</surname>
                            <given-names>Gunther</given-names>
                        </name>
                    </person-group>
                    <chapter-title>Social order from legislative noise? Autopoietic closure as a problem for legal regulation</chapter-title>
                    <person-group person-group-type="editor">
                        <name>
                            <surname>TEUBNER</surname>
                            <given-names>Gunther</given-names>
                        </name>
                        <name>
                            <surname>FEBBRAJO</surname>
                            <given-names>Alberto</given-names>
                        </name>
                    </person-group>
                    <source><italic>State, law, and economy as autopoietic systems:</italic> regulation and autonomy in a new perspective</source>
                    <publisher-loc>Milano</publisher-loc>
                    <publisher-name>Giuffrè</publisher-name>
                    <fpage>609</fpage>
                    <lpage>649</lpage>
                    <year>1992</year>

                </element-citation>
            </ref>
            <ref id="B42">

                <mixed-citation>VALENTE, Mariana Giorgetti. Liberdade de expressão, algoritmos e filtros-bolha. In: FARIA, José Eduardo. <italic>A liberdade de expressão e novas mídias</italic>. São Paulo: Perspectiva, p. 95-102, 2020.</mixed-citation>

                <element-citation publication-type="book">
                    <person-group person-group-type="author">
                        <name>
                            <surname>VALENTE</surname>
                            <given-names>Mariana Giorgetti</given-names>
                        </name>
                    </person-group>
                    <chapter-title>Liberdade de expressão, algoritmos e filtros-bolha</chapter-title>
                    <person-group person-group-type="author">
                        <name>
                            <surname>FARIA</surname>
                            <given-names>José Eduardo</given-names>
                        </name>
                    </person-group>
                    <source>A liberdade de expressão e novas mídias</source>
                    <publisher-loc>São Paulo</publisher-loc>
                    <publisher-name>Perspectiva</publisher-name>
                    <fpage>95</fpage>
                    <lpage>102</lpage>
                    <year>2020</year>

                </element-citation>
            </ref>
            <ref id="B43">

                <mixed-citation>VANDERSTRAETEN, Raf. Technical knowledge and instrumental activism. In: HOLZER, Boris; WERRON, Tobias; KASTNER, Fatima (Ed.). <italic>From globalization to world society:</italic> neo institutional and systems-theoretical perspectives. New York: Routledge, p. 177-196, 2015.</mixed-citation>

                <element-citation publication-type="book">
                    <person-group person-group-type="author">
                        <name>
                            <surname>VANDERSTRAETEN</surname>
                            <given-names>Raf</given-names>
                        </name>
                    </person-group>
                    <chapter-title>Technical knowledge and instrumental activism</chapter-title>
                    <person-group person-group-type="editor">
                        <name>
                            <surname>HOLZER</surname>
                            <given-names>Boris</given-names>
                        </name>
                        <name>
                            <surname>WERRON</surname>
                            <given-names>Tobias</given-names>
                        </name>
                        <name>
                            <surname>KASTNER</surname>
                            <given-names>Fatima</given-names>
                        </name>
                    </person-group>
                    <source><italic>From globalization to world society:</italic> neo institutional and systems-theoretical perspectives</source>
                    <publisher-loc>New York</publisher-loc>
                    <publisher-name>Routledge</publisher-name>
                    <fpage>177</fpage>
                    <lpage>196</lpage>
                    <year>2015</year>

                </element-citation>
            </ref>
            <ref id="B44">

                <mixed-citation>VESTING, Thomas. A mudança da esfera pública pela inteligência artificial. In: ABBOUD, Georges; NERY JR., Nelson; CAMPOS, Ricardo (Org.). <italic>Fake news e regulação</italic>. 2. ed. São Paulo: Revista dos Tribunais, p. 189-210, 2020.</mixed-citation>

                <element-citation publication-type="book">
                    <person-group person-group-type="author">
                        <name>
                            <surname>VESTING</surname>
                            <given-names>Thomas</given-names>
                        </name>
                    </person-group>
                    <chapter-title>A mudança da esfera pública pela inteligência artificial</chapter-title>
                    <person-group person-group-type="compiler">
                        <name>
                            <surname>ABBOUD</surname>
                            <given-names>Georges</given-names>
                        </name>
                        <name>
                            <surname>NERY</surname>
                            <given-names>Nelson</given-names>
                            <suffix>JR</suffix>
                        </name>
                        <name>
                            <surname>CAMPOS</surname>
                            <given-names>Ricardo</given-names>
                        </name>
                    </person-group>
                    <source>Fake news e regulação</source>
                    <edition>2. ed.</edition>
                    <publisher-loc>São Paulo</publisher-loc>
                    <publisher-name>Revista dos Tribunais</publisher-name>
                    <fpage>189</fpage>
                    <lpage>210</lpage>
                    <year>2020</year>

                </element-citation>
            </ref>
            <ref id="B45">

                <mixed-citation>WIETHÖLTER, Rudolf. Materialization and proceduralization in modern law. Trad. Iain Fraser. In: TEUBNER, Gunther (Ed.). <italic>Dilemmas of law in the Welfare State</italic>. Berlin: de Gruyter, p. 221-249, 1986.</mixed-citation>

                <element-citation publication-type="book">
                    <person-group person-group-type="author">
                        <name>
                            <surname>WIETHÖLTER</surname>
                            <given-names>Rudolf</given-names>
                        </name>
                    </person-group>
                    <chapter-title>Materialization and proceduralization in modern law</chapter-title>
                    <person-group person-group-type="translator">
                        <name>
                            <surname>Fraser</surname>
                            <given-names>Iain</given-names>
                        </name>
                    </person-group>
                    <person-group person-group-type="editor">
                        <name>
                            <surname>TEUBNER</surname>
                            <given-names>Gunther</given-names>
                        </name>
                    </person-group>
                    <source>Dilemmas of law in the Welfare State</source>
                    <publisher-loc>Berlin</publisher-loc>
                    <publisher-name>de Gruyter</publisher-name>
                    <fpage>221</fpage>
                    <lpage>249</lpage>
                    <year>1986</year>

                </element-citation>
            </ref>
            <ref id="B46">

                <mixed-citation>______. Proceduralization of the category of law. <italic>German Law Journal</italic>, v. 12, n. 1, p. 465-473, 2011.</mixed-citation>

                <element-citation publication-type="journal">
                    <person-group person-group-type="author">
                        <name>
                            <surname>WIETHÖLTER</surname>
                            <given-names>Rudolf</given-names>
                        </name>
                    </person-group>
                    <article-title>Proceduralization of the category of law</article-title>
                    <source>German Law Journal</source>
                    <volume>12</volume>
                    <issue>1</issue>
                    <fpage>465</fpage>
                    <lpage>473</lpage>
                    <year>2011</year>

                </element-citation>
            </ref>
            <ref id="B47">

                <mixed-citation>WILLKE, Helmut. Three types of legal structure: the conditional, the purposive and the relational program. In: TEUBNER, Gunther. <italic>Dilemmas of law in the Welfare State</italic>. Berlin: de Gruyter, p. 280-298, 1986.</mixed-citation>

                <element-citation publication-type="book">
                    <person-group person-group-type="author">
                        <name>
                            <surname>WILLKE</surname>
                            <given-names>Helmut</given-names>
                        </name>
                    </person-group>
                    <chapter-title>Three types of legal structure: the conditional, the purposive and the relational program</chapter-title>
                    <person-group person-group-type="author">
                        <name>
                            <surname>TEUBNER</surname>
                            <given-names>Gunther</given-names>
                        </name>
                    </person-group>
                    <source>Dilemmas of law in the Welfare State</source>
                    <publisher-loc>Berlin</publisher-loc>
                    <publisher-name>de Gruyter</publisher-name>
                    <fpage>280</fpage>
                    <lpage>298</lpage>
                    <year>1986</year>

                </element-citation>
            </ref>
            <ref id="B48">

                <mixed-citation>WORLD ECONOMIC FORUM. Digital Wildfires in a Hyperconnected World. 2013. Disponível em: http://reports.weforum.org/global-risks-2013/risk-case-1/digital-wildfires-in-a-hyperconnected-world/. Acesso em: 9 out. 2019.</mixed-citation>

                <element-citation publication-type="webpage">
                    <person-group person-group-type="author">
                        <collab>WORLD ECONOMIC FORUM</collab>
                    </person-group>
                    <source>Digital Wildfires in a Hyperconnected World</source>
                    <year>2013</year>
                    <comment>Disponível em: <ext-link ext-link-type="uri" xlink:href="http://reports.weforum.org/global-risks-2013/risk-case-1/digital-wildfires-in-a-hyperconnected-world/">http://reports.weforum.org/global-risks-2013/risk-case-1/digital-wildfires-in-a-hyperconnected-world/</ext-link></comment>
                    <date-in-citation content-type="access-date">9 out. 2019</date-in-citation>

                </element-citation>
            </ref>

        </ref-list>
    </back>
</article>
