Iniciar uma discussão sobre tecnologia com a afirmação de que os tempos em que vivemos são singulares é, decerto, uma fórmula bastante banalizada. Apesar do lugar-comum, a constatação não deixa de ser verdadeira: a evolução tecnológica provoca mudanças céleres e intensas em nossa sociedade, colocando em xeque estruturas institucionais, regras jurídicas e consensos sociais anteriormente válidos. Não por acaso, tais fenômenos costumam ser descritos como integrantes de uma “revolução”, de uma “disrupção” ou de uma “quebra de paradigmas”.

Esse processo de transformação está indubitavelmente relacionado ao acelerado desenvolvimento da inteligência artificial, tecnologia que há poucas décadas era compreendida apenas por uma seleta casta de cientistas e que agora vem migrando dos filmes de ficção científica em direção às prateleiras de supermercado. Nunca se falou tanto sobre IA, seja nas universidades, seja nas empresas, seja nas mesas de bar. E não é para menos: são significativos os avanços conquistados nos últimos anos, particularmente nos campos de machine learning e deep learning, como também inquestionável a presença cada vez mais pervasiva da IA no mundo dos negócios, no governo e no dia a dia das pessoas comuns.

Os principais vetores para essa evolução podem ser identificados. Ainda que alguns dos paradigmas e conceitos mais relevantes relacionados à IA existam há décadas, um salto mais recente veio tanto do incremento na capacidade de processamento de computadores quanto da maior disponibilidade daquilo que acaba sendo a matéria-prima de algumas das aplicações mais impactantes e promissoras dessa tecnologia, que são os dados pessoais necessários para o “treinamento” de diversos sistemas.

Ao mesmo tempo que o desenvolvimento tecnológico permite entrever importantes ganhos econômicos e benefícios sociais nos mais diversos campos da atividade humana, novas e urgentes questões se apresentam. Embora a inteligência artificial tenha inicialmente se desenvolvido, sobretudo, a partir de disciplinas das ciências exatas, as inovadoras possibilidades que se descortinam empurram o debate em direção a campos ainda pouco compreendidos, com implicações sensíveis e significativas para os seres humanos.

O cenário atual, com a efetiva e progressiva inserção de sistemas de IA em nosso cotidiano, inaugura uma nova etapa na qual as análises sobre o tema não podem mais considerar meramente perspectivas futuras de eficácia – visto que as implementações da tecnologia são concretas –, porém devem também levar em conta elementos que, antes, seriam considerados como laterais ou secundários, como os impactos da utilização de IA para os titulares de dados pessoais afetados, potenciais efeitos quanto à discriminação ou ao desequilíbrio de poder, entre outros.

Nesse contexto, as intensas discussões travadas quanto ao tema em arenas internacionais e no campo legislativo revelam as inquietações que permeiam o debate quanto a critérios regulatórios e éticos para o desenvolvimento e uso de IA, assim como a necessidade de melhor compreensão das condições que informam as capacidades cognitivas de agentes não humanos em comparação com as formas humanas de aquisição do conhecimento.

A partir de tal contexto, o presente Dossiê Temático busca contribuir para a discussão sobre IA, ética e epistemologia, reunindo, em um único volume, artigos nacionais e internacionais que abordam diferentes dimensões dessa problemática. Buscou-se reunir um conjunto diverso de textos capazes de propiciar reflexões teóricas e práticas que possam ajudar a informar o debate público sobre o tema. O elevado número de submissões recebidas para o Dossiê e a notável qualidade das contribuições refletem a grande atenção que o tema tem recebido da comunidade científica. Tornaram, também, extremamente desafiador o trabalho dos organizadores de selecionar artigos representativos das principais questões em debate!

O Dossiê conta com quatro artigos de autores internacionais. O primeiro, intitulado “Electronic democracy and digital justice: driving principles for AI regulation in the prism of the Human Rights”, de autoria do Professor Alessandro Mantelero, debruça-se sobre dois campos em que os impactos da IA são significativos: democracia eletrônica e justiça digital. Embora ambos os temas sejam regidos por instrumentos jurídicos tanto vinculantes como não vinculantes, os princípios que os orientam foram desenvolvidos em uma era pré-IA, o que aponta para a necessidade de que sejam reavaliados. O trabalho de Mantelero é relevante, dentre outros aspectos, por indicar a necessidade de uma integração mais equilibrada entre lei e ética na regulação de IA, tendo por pilar central os direitos humanos. Para o autor, uma contribuição efetiva para o debate sobre direitos humanos deve partir de uma adequada contextualização dos direitos e das liberdades fundamentais face à inteligência artificial.

Já o artigo “Ethical dimensions of the GDPR, AI regulation, and beyond”, de Hielke Hijmans e Charles Raab, traz contribuição atual e significativa ao analisar, sob a ótica do regulamento europeu de proteção de dados, as novas questões éticas relacionadas à privacidade e à proteção de dados associadas aos desenvolvimentos sociotécnicos que têm por base o uso extensivo e intensivo de dados. O artigo analisa, ainda, a proposta europeia de 2021 de regulamentação da IA, apresentando, ao fim, considerações acerca do papel que diferentes atores, como organizações privadas, comitês de ética e Autoridades de Proteção de Dados, podem desempenhar na tomada de decisões sobre ética em IA.

No artigo “Vigilância e relações de poder: o uso de tecnologias de reconhecimento facial e identificação biométrica a distância em espaço público e impactos na vida pública”, Ana Catarina Fontes e Christoph Lütge introduzem os conceitos de espaço público e vida pública para refletir sobre os impactos da implementação de tecnologias de vigilância intrusivas, como tecnologias de reconhecimento facial e identificação biométrica, muitas vezes introduzidas sob a justificativa de garantia da segurança e da ordem pública. As considerações dos autores tocam em questões éticas relacionadas com valores culturais e direitos adquiridos e problematizam tais tecnologias com base nos princípios de transparência, autonomia, proporcionalidade e equidade.

Fechando a área internacional do Dossiê, o artigo “Internet and the political campaigns. The perspective of the Italian Legislation”, de Ornella Spataro, aborda o tema da influência das mídias sociais sobre a esfera pública e sua compatibilidade com a teoria democrática liberal, principalmente por modificar diversos vetores do acesso dos atores políticos aos meios de comunicação que hoje assumem maior relevância. A partir daí, examina-se a reação do ordenamento italiano a essa situação, considerando, entre outras, a aplicação da legislação eleitoral, da legislação de proteção de dados e do regulador (no caso, a AGCom, Autoridade para as garantias nas comunicações), para identificar, ao cabo, a necessidade de maiores intervenções regulatórias.

Adentrando o terreno da produção científica nacional, o Dossiê apresenta dez artigos que abordam diferentes aspectos da discussão ética e epistemológica sobre a IA.

A partir da constatação de que as filosofias tradicionais e as ciências jurídicas clássicas não se prepararam para enfrentar os dilemas da contemporaneidade, o artigo “Prolegômenos a uma filosofia algorítmica futura que possa apresentar-se como fundamento para um cyberdireito”, de autoria de Mariah Brochado, lança uma provocação sobre a possibilidade de se pensar em uma filosofia algorítmica e em um cyberdireito, inspirados pelos desafios decorrentes do advento da revolução tecnológica e que passaram a ser recorrentes no cotidiano dos humanos, como o big data, a inteligência artificial, a rotina das redes sociais, as descobertas no campo da autonomia de máquinas e os desconfortos éticos surgidos destas e de outras experiências novas e insólitas, caracterizadas por sua radical diferença com relação ao mundo analógico.

Já o artigo “What is it like to be an artificial intelligence? Nagel’s view from nowhere and artificial intelligence as subject of Law”, de autoria de Sthéfano Bruno Santos Divino e Rodrigo Almeida Magalhães, toma como ponto de partida os aspectos epistemológicos e semânticos desenvolvidos por Thomas Nagel para interrogar: como é ser uma inteligência artificial? A partir de tal análise, os autores buscam avaliar se um ente inteligente artificialmente pode, ou não, ser considerado sujeito de direito, concluindo que, ainda que no estágio científico atual um ente inteligente artificialmente (ainda) não possa ser considerado sujeito de direito, sob pena de caracterização do instrumentalismo, a conquista de tal condição é, em tese, possível, superando-se a visão redutiva pautada no fisicalismo.

No artigo intitulado “Argumentação jurídica e aprendizado profundo”, os autores Orlando Luiz Zanon Junior e Guilherme Kirtschig apresentam, a partir das concepções vinculadas a diferentes paradigmas da ciência do Direito, um panorama da argumentação jurídica e sua importância na aplicação do Direito, para, em seguida, investigar a possibilidade de sua automatização, mediante uso da tecnologia de aprendizado profundo. O artigo apresenta interessante problematização do efetivo desempenho da argumentação jurídica por parte de sistemas de IA e sopesa suas exigências com as limitações inerentes ao aprendizado profundo, argumentando quanto à possibilidade de compatibilização entre ambos.

Conectando-se com o debate precedente sobre as formas pelas quais sistemas de IA chegam a decisões, os dois artigos seguintes abordam o tema da discriminação, que é hoje um dos aspectos mais debatidos da inteligência artificial. O artigo “Todos são iguais perante o algoritmo? Uma resposta cultural do direito à discriminação algorítmica”, de autoria de Alan Duarte e do Ramon de Vasconcelos Negócio, explora a forma pela qual algoritmos de aprendizado de máquina que operam em rede podem apresentar comportamentos discriminatórios, de modo a evidenciar uma semântica da discriminação que perpassa instituições e estruturas sociais, incorporando-se aos aspectos técnicos da programação e ensejando ameaças a direitos fundamentais. O artigo adota a noção de igualdade como não discriminação e parte da compreensão do Direito como uma semântica social para sugerir mecanismos de construção de um modelo de observação, identificação e busca de soluções voltadas ao combate da discriminação por algoritmos.

Já o artigo “Discriminação algorítmica e inclusão em sistemas de inteligência artificial – Uma reflexão sob a ótica dos direitos da criança no ambiente digital”, de Isabella Vieira Machado Henriques e de Inês Vitorino Sampaio, traz instigantes debates e reflexões sobre a discriminação algorítmica a partir da ótica dos direitos das crianças no ambiente digital, sobretudo em relação ao recorte de gênero, raça e vulnerabilidade econômica. As possíveis soluções para o problema identificadas pelo trabalho são ancoradas em uma discussão sobre direitos fundamentais, especialmente o direito à inclusão e à não discriminação e a sua incidência na infância, e na análise da relação entre os princípios éticos associados à inteligência artificial e os princípios e conceitos da proteção de dados pessoais.

O trabalho “A inteligência artificial no contexto atual: uma análise à luz das neurociências voltada para uma proposta de emolduramento ético e jurídico”, de Gabrielle Sarlet, também se volta para o exame de riscos associados às novas tecnologias. A autora propõe-se a examinar o uso irreflexivo ou abusivo de tecnologias como a IA para, a partir de uma visão das neurociências, apontar o novo sentido e o alcance das vulnerabilidades na sociedade informacional. A partir da investigação dos trajetos neurocientíficos voltados para o estudo da emocionalidade, a autora identifica gatilhos e riscos associados às novas tecnologias e explora algumas possibilidades de regulamentação capazes de reordenar a relação homem-máquina, de modo que esta possa se situar em uma harmonia ancorada em uma tessitura forjada por padrões éticos que reforçam o elemento humano como primordial.

Dois artigos tratam de aspectos concretos da aplicação de sistema de IA pelo Poder Judiciário. Um deles, o artigo “O uso da inteligência artificial na repercussão geral: desafios teóricos e éticos”, de autoria de Fausto Santos de Morais, traz uma contribuição bastante concreta ao debate, ao investigar a experiência do Supremo Tribunal Federal no desenvolvimento e uso do programa “Victor” para identificação de recursos e classificação de temas de repercussão geral. Dentre as diversas questões teóricas e éticas daí decorrentes, o artigo dedica atenção aos riscos de hipernormatização artificial com a sobrepadronização fática ou normativa, assim como à questão epistêmica sobre a automatização na aplicação da repercussão geral, sustentando a necessidade de ações práticas e normativas para contornar os problemas identificados.

Também em relação ao uso de IA no Poder Judiciário, o artigo “‘Sob o controle do usuário’: formação dos juízes brasileiros para o uso ético da IA no Judiciário”, de Eunice Prado, Luciane Corrêa Münch e Márcia Corrêa Ughini Villarroel, parte da consideração da concreta e crescente implementação de sistemas de IA pelo Poder Judiciário e do necessário controle desses sistemas pelo Magistrado, que, na condição de usuário dos referidos sistemas, é identificado como “juiz-usuário”. A partir de pesquisa empírica realizada com Magistrados e de considerações sobre a potencial proficiência destes no controle dos sistemas de IA, o artigo identifica a pertinência de aprimoramento de capacidades específicas destes usuários no uso de IA.

Dando sequência, um artigo do Dossiê é dedicado a explorar o tema da explicabilidade das tecnologias de IA, um debate imprescindível em um contexto em que a opacidade de sistemas decisórios baseados em IA vem sendo progressivamente problematizada. O artigo “Da ‘caixa-preta’ à ‘caixa de vidro’: o uso da explainable artificial intelligence (XAI) para reduzir a opacidade e enfrentar o enviesamento em modelos algorítmicos”, de Marco Antônio Sousa Alves e Otávio Morato de Andrade, também traz contribuições sobre a questão da explicabilidade, centrando suas atenções sobre a XAI (explainable artificial intelligence). Fazendo recurso às metáforas da “caixa preta” e da “caixa de vidro”, o artigo investiga o potencial da XAI para explicar decisões de modelos algorítmicos e combater o enviesamento dos sistemas de IA, sugerindo que a capacidade de “se explicar” seja um requisito para a adoção de sistemas de IA em searas mais sensíveis, como, por exemplo, o auxílio à tomada de decisão judicial.

Os três últimos artigos do Dossiê exploram o papel do ser humano face a sistemas de IA. Neles, trata-se de abordar aspectos da interação da IA com o ser humano presentes no próprio funcionamento do sistema de IA, algo que é por vezes identificado como o “elemento humano” ou o “human in the loop”, cuja introdução em mecanismos decisionais é debatida, por vezes, como critério para a legitimidade ou maior eficácia da decisão, além das situações nas quais o elemento humano é essencial para a própria viabilidade de um certo sistema de IA e suas consequências.

Dentro dessa temática, o Dossiê conta com um artigo de autoria dos próprios organizadores, Miriam Wimmer e Danilo Doneda, intitulado “‘Falhas de IA’ e a intervenção humana em decisões automatizadas: parâmetros para a legitimação pela humanização”. A partir da investigação de diferentes categorias de problemas que podem advir de decisões tomadas por sistemas de IA, o artigo se propõe a explorar os elementos que podem atrair a necessidade de introdução de parâmetros humanos em processos de decisão impulsionados por sistemas de inteligência artificial, concluindo que, em determinados casos, a necessidade de intervenção humana pode ser identificada não apenas com base em critérios de eficiência, mas também pode se constituir em um componente ético em si mesmo. Ao mesmo tempo, o artigo busca identificar determinados parâmetros capazes de mitigar os riscos associados ao “déficit de humanidade” e, assim, proporcionar que a intervenção humana seja modulada em diferentes níveis de intensidade, mantendo-se o atendimento aos requisitos éticos de decisões legítimas, confiáveis, justas e cognoscíveis, por seres humanos, em seus principais elementos.

Já o artigo “Microtrabalho e inteligência artificial: desafios à fruição da dignidade humana em meio à aprendizagem de máquina”, de Denise Pires Fincato e Julise Carolina Lemonje, aborda a relação entre a IA e as relações de trabalho sob uma ótica pouco explorada. O trabalho lança luz sobre o tema das plataformas de microtrabalho que ofertam serviços para o desenvolvimento e aperfeiçoamento da inteligência artificial e tece considerações quanto aos seus impactos sobre a concretização do princípio e o valor dignidade humana nesse contexto. O artigo chama, ainda, atenção para os riscos associados à instrumentalização e restrições de autonomia dos trabalhadores, que se veem dissociados do valor social do seu trabalho e desconhecem elementos essenciais da atividade desempenhada.

Por fim, o artigo “Os sistemas de armas autônomas e o direito internacional: uma análise da guerra e das implicações do uso da inteligência artificial”, de Gilmar Antonio Bedin, Aline Michele Pedron Leves e Laura Mallmann Marcht, aborda as significativas transformações da guerra no século XXI, com o desenvolvimento de tecnologias bélicas revolucionárias, e reflete sobre o grande desafio que a sociedade e o Direito Internacional terão para garantir a manutenção da paz mundial e evitar as significativas consequências que a utilização dos sistemas de armas autônomas poderia gerar, concluindo pela necessidade de um novo tratado internacional sobre o tema, baseado em princípios éticos e humanitários.

Assim, é com muita alegria que trazemos a público o presente Dossiê Temático, que, a partir de variados enfoques, evidencia aspectos importantes do debate contemporâneo sobre o tema. Gostaríamos de agradecer à equipe da Revista Direito Público pelo apoio ao longo do processo de editoração. Agradecemos, também, a todas as pessoas que submeteram seus trabalhos e aos pareceristas que, de maneira criteriosa, apresentaram críticas e sugestões quanto aos excelentes trabalhos recebidos.

Desejamos que a leitura do Dossiê contribua para a necessária reflexão sobre o tema e que suscite novas inquietações e debates!