“SOB CONTROLE DO USUÁRIO”: FORMAÇÃO DOS JUÍZES BRASILEIROS PARA O USO ÉTICO DA IA NO JUDICIÁRIO

Autores

DOI:

https://doi.org/10.11117/rdp.v18i100.6021

Palavras-chave:

Ética, inteligência artificial, magistratura, Princípios de Bangalore

Resumo

 

Este artigo investiga a capacitação dos juízes brasileiros para exercer controle ético sobre ferramentas de inteligência artificial (IA) aplicadas à atividade jurisdicional. O Judiciário brasileiro vem investindo fortemente no uso e desenvolvimento de ferramentas de IA, contando com 64 sistemas de IA em uso ou desenvolvimento nos diversos tribunais. A Resolução nº 332/2020, que trata da ética, transparência e governança na produção e no uso de IA no Judiciário, adotou, entre outros, o princípio do controle do usuário, que estabelece direitos e deveres ao usuário quanto ao controle ético da IA. Assim, cabe ao juiz, como usuário interno, exercer tal controle ao utilizar ferramenta de IA no desempenho da atividade jurisdicional. Porém, para fazê-lo, precisa conhecer o poder-dever que lhe cabe, e estar capacitado a exercê-lo. Utilizando-se de metodologia de pesquisa quantitativa do tipo survey, apurou-se que a grande maioria dos magistrados brasileiros desconhece os termos da Resolução nº 332/2020; não se considera preparada para exercer controle ou supervisão de ferramentas de IA, nem tampouco se qualificou para tanto nos últimos três anos. Considerando que já há ferramentas de IA em uso pelo Judiciário, conclui-se pela necessidade de refletir sobre a política até então adotada, sugerindo que os investimentos na área sejam também direcionados à inclusão ou ampliação da capacitação dos magistrados para exercer o controle esperado.

 

  

Downloads

Não há dados estatísticos.

Biografia do Autor

Eunice M. B. Prado, Escola Nacional de Formação e Aperfeiçoamento de Magistrados (Enfam).

Juíza de Direito do Tribunal de Justiça de Pernambuco. Mestranda no curso de Mestrado Profissional em Direito do PPGPD/Enfam - Escola Nacional de Formação e Aperfeiçoamento de Magistrados. Pós-graduada em Direito do Consumidor e Responsabilidade Civil. Integrou no CNJ o Grupo de Trabalho “Ética e Inteligência Artificial”, cujos estudos colaboraram para a Resolução nº 332/2020.
        

Luciane A. Corrêa Münch, Escola Nacional de Formação e Aperfeiçoamento de Magistrados (Enfam).

Desembargadora Federal do Tribunal Regional Federal da 4ª Região. Membro do corpo docente do PPGPD/Enfam - Escola Nacional de Formação e Aperfeiçoamento de Magistrados. Doutora em Direito pela Universidade de Genebra, Suíça. LLM Master of Laws pela LSE Law School, Reino Unido. Mestre em Direito pela PUCRS. Especialista em Direito Internacional e Bacharel em Ciências Jurídicas e Sociais pela UFRGS.    

Márcia A. Corrêa Ughini Villarroel, Instituto Federal do Rio Grande do Sul (IFRS).

Doutora em Psicologia e Educação pela Universidade de São Paulo (USP). Professora Permanente do Mestrado em Informática da Educação do Instituto Federal do Rio Grande do Sul (IFRS), Campus Porto Alegre.

  

Referências

ADORNO, Theodor W. Educação e emancipação. Rio de Janeiro: Paz e Terra, 1995.

BRASIL. Constituição da República Federativa do Brasil de 1988, de 5 de outubro de 1988. Disponível em: http://www.planalto.gov.br/ccivil_03/constituicao/constituicao.htm. Acesso em: 28 set. 2021.

COMISSÃO EUROPEIA PARA A EFICÁCIA DA JUSTIÇA (CEPEJ). Carta Europeia de Ética sobre o Uso da Inteligência Artificial em Sistemas Judiciais e seu ambiente. Disponível em: https://rm.coe.int/carta-etica-traduzida-para-portugues-revista/168093b7e0. Acesso em: 28 set. 2021.

CONSELHO NACIONAL DE JUSTIÇA (CNJ). Painel dá transparência a projetos de inteligência artificial no Judiciário. Notícias CNJ/Agência CNJ de Notícias, 23 dez. 2020. Disponível em: https://www.cnj.jus.br/painel-da-transparencia-a-projetos-de-inteligencia-artificial-no-judiciario/. Acesso em: 29 set. 2021.

_______. Justiça em Números 2021. Brasília: CNJ, 2021. Disponível em: https://www.cnj.jus.br/wp-content/uploads/2021/09/relatorio-justica-em-numeros2021-12.pdf. Acesso em: 29 set. 2021.

_______. Resolução nº 75, de 12 de maio de 2009. Disponível em: https://atos.cnj.jus.br/atos/detalhar/100. Acesso em: 28 set. 2021.

_______. Resolução nº 332, de 21 de agosto de 2020. Disponível em: https://atos.cnj.jus.br/atos/detalhar/3429. Acesso em: 28 set. 2021.

_______. Resolução nº 325, de 29 de junho de 2020. Disponível em: https://atos.cnj.jus.br/atos/detalhar/3365. Acesso em: 28 set. 2021.

CORTINA, Adela; MARTINEZ, Emílio. Ética. São Paulo: Loyola, 2005.

FUNDAÇÃO GETÚLIO VARGAS (FGV). Estudo da imagem do Judiciário brasileiro. AMB/FGV/Ipesp, 2019. Disponível em: https://www.amb.com.br/wp-content/uploads/2020/04/ESTUDO_DA_IMAGEM_DO_JUDICIARIO_BRASILEIRO_COMPLETO.pdf. Acesso em: 28 set. 2021.

_______. Inteligência artificial: tecnologia aplicada à gestão de conflitos no âmbito do Poder Judiciário. Coordenação Luis Felipe Salomão, 2020. Disponível em: https://ciapj.fgv.br/sites/ciapj.fgv.br/files/estudos_e_pesquisas_ia_1afase.pdf. Acesso em: 28 set. 2021.

IHDE, Don. Technics and Praxis. Dordrecht: D. Reidel Publishing Company, 1979.

KEHL, Danielle Leah; KESSLER, Samuel Ari. Algorithms in the criminal justice system: Assessing the use of risk assessments in sentencing, 2017. Disponível em: https://dash.harvard.edu/handle/1/33746041. Acesso em: 28 set. 2021.

MORLEY, Jessica et al. From what to how: an initial review of publicly available AI ethics tools, methods and research to translate principles into practices. Science and Engineering Ethics, v. 26, n. 4, p. 2141-2168, 2020. Disponível em: https://link.springer.com/article/10.1007/s11948-019-00165-5%23Sec2. Acesso em: 28 set. 2021.

ORGANIZAÇÃO DAS NAÇÕES UNIDAS (ONU). Comentários aos Princípios de Bangalore de Conduta Judicial/Escritório contra Drogas e Crime. Trad. Marlon da Silva Malha e Ariane Emílio Kloth. Brasília: Conselho da Justiça Federal, 2008. Tradução de: Commentary on The Bangalore Principles of Judicial Conduct. Disponível em: https://www.unodc.org/documents/lpo-brazil/Topics_corruption/Publicacoes/2008_Comentarios_aos_Principios_de_Bangalore.pdf. Acesso em: 28 set. 2021.

PEIXOTO, Fabiano Hartmann. Inteligência artificial e direito: convergência ética e estratégica. Coleção Direito, Racionalidade e Inteligência Artificial. 1. ed. Curitiba: Alteridade, 2020. 170 p.

QUESTIONPRO. Calculadora de amostra de pesquisa, 2021. Disponível em: https://www.questionpro.com/pt-br/mobile-diaries.html. Acesso em: 28 set. 2021.

TRIPATHI, Arun Kumar. Hermeneutics of technological culture, 2017. Disponível em: https://link.springer.com/content/pdf/10.1007/s00146-017-0717-4.pdf. Acesso em: 28 set. 2021.

Downloads

Publicado

2022-01-27

Como Citar

Prado, E. M. B., Münch, L. A. C., & Villarroel, M. A. C. U. (2022). “SOB CONTROLE DO USUÁRIO”: FORMAÇÃO DOS JUÍZES BRASILEIROS PARA O USO ÉTICO DA IA NO JUDICIÁRIO. Direito Público, 18(100). https://doi.org/10.11117/rdp.v18i100.6021