Discriminação Algorítmica e Inclusão em sistemas de Inteligência Artificial - Uma Reflexão sob a ótica dos Direitos da Criança no Ambiente Digital
DOI:
https://doi.org/10.11117/rdp.v18i100.5993Palavras-chave:
Discriminação, criança, inclusão, inteligência artificialResumo
O artigo trata de explorar e sistematizar o tema da discriminação algorítmica e da inclusão de grupos historicamente discriminados, sobretudo em relação ao recorte de gênero, raça e vulnerabilidade econômica, no grupo social das crianças, consideradas as múltiplas infâncias, em especial no Brasil. Por meio de revisão bibliográfica em articulação com a análise factual de casos notórios de discriminação por sistemas de Inteligência Artificial, contextualiza a discriminação algorítmica de maneira ampla e em relação a crianças. Com base em revisão bibliográfica e análise documental de legislações como a Constituição Federal e a Lei Geral de Proteção de Dados Pessoais (LGPD), além de cartas internacionais, aborda os direitos fundamentais, especialmente o direito à inclusão e à não discriminação, e a relação entre os princípios éticos associados à Inteligência Artificial e os princípios e conceitos da proteção de dados pessoais, em termos genéricos e no recorte específico das múltiplas infâncias. Por fim, aponta possíveis caminhos para a solução em relação à discriminação algorítmica que acomete pessoas adultas, mas impacta sobremaneira crianças, no sentido de que as múltiplas infâncias sejam incluídas no ciberespaço com a garantia de seus direitos humanos.
Downloads
Referências
ANGWIN, Julia; LARSON, Jeff; MATTU, Surya; KIRCHNER, Lauren. Machine Bias: There´s software used across the country to predict future criminals. And it´s biased against blacks. ProPublica. 2016. Disponível em: https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing Acesso em 17 set. 2021.
ANISTIA INTERNACIONAL; ACCESS NOW. Declaração de Toronto. Toronto: Anistia Internacional e Access Now, 2018. Disponível em: https://www.torontodeclaration.org/declaration-text/english/ Acesso em: 8 set. 2021.
BAUMAN, Zygmunt; LYON, David. Vigilância líquida. Rio de Janeiro: Zahar, 2013.
BIGONHA, Carolina. #TechforGood. In Comitê Gestor da Internet no Brasil (CGI). Inteligência Artificial em perspectiva. Panorama Setorial da Internet, n. 2, ano 10, 2018.
BUSTELO, Eduardo. El recreo de la infância: Argumentos para outros comienzos. Buenos Aires: Siglo Veintiuno Editores, 2007.
BURLE, Caroline; CORTIZ, Diogo. Mapeamento de princípios de inteligência artificial. São Paulo: CEWEB.BR, 2020 [livro eletrônico]. Disponível em: https://ceweb.br/media/docs/publicacoes/17/20200721143359/digital_mapeamento_principios_IA_portugues.pdf Acesso em: 27 ago. 2021.
CALO, Ryan. Artificial Intelligence Policy: A primer and roadmap. 2017. Disponível em: http://dx.doi.org/10.2139/ssrn.3015350 Acesso em: 15 set. 2021.
CENTRO REGIONAL DE ESTUDOS PARA O DESENVOLVIMENTO DA SOCIEDADE DA INFORMAÇÃO (CETIC.BR). Pesquisa Tic Kids Online Brasil 2019. São Paulo: CETIC.BR, 2019.
CORMEN, Thomas H. Algorithms Unlocked. Cambridge: MIT Press, 2013.
CORTIZ, Diogo. Inteligência Artificial: equidade, justiça e consequências. In Comitê Gestor da Internet no Brasil (CGI). Panorama Setorial da Internet, n. 1, ano 12, 2020.
DENHAM, Elizabeth. Protecting children online: update on progress of ICO code. A Blog by Elizabeth Denham, Information Commissioner, 2019. Disponível em https://ico.org.uk/about-the-ico/news-and-events/blog-protecting-children-online-update-on-progress-of-ico-code/ Acesso em: 10 set. 2021.
DONEDA, Danilo. Da privacidade à proteção de dados pessoais. São Paulo: Thomson Reuters Revista dos Tribunais, 2020.
DONEDA, Danilo; ALMEIDA, Virgilio. O que é a governança de algoritmos? Disponível em: https://politics.org.br/edicoes/o-que-%C3%A9-governan%C3%A7a-de-algoritmos Acesso em: 5 set. 2021.
DONEDA, Danilo Cesar Maganhoto; MENDES, Laura Schertel; SOUZA, Carlos Affonso Pereira de; ANDRADE, Norberto Nuno Gomes. Considerações iniciais sobre Inteligência Artificial, ética e autonomia pessoal. UNIFOR – Universidade de Fortaleza: Revista de Ciências Jurídicas Pensar, v. 23, n. 4, 2018. Disponível em: https://periodicos.unifor.br/rpen/article/view/8257/pdf# Acesso em: 3 set. 2021.
ECPAT INTERNATIONAL. Regional overview: Sexual exploitation of children in the middle east and north Africa. Bangkok: Ecpat International, 2020.
EUBANKS, Virginia. Automating Inequality: How high-tech tools profile, police, and punish the poor. Nova Iorque: Picador, 2019.
FERRARI, Isabela. Entrevista. In Comitê Gestor da Internet no Brasil (CGI). Panorama Setorial da Internet, n. 1, ano 12, 2020.
FUNDAÇÃO ABRINQ. Cenário da Infância e Adolescência no Brasil. São Paulo: Fundação Abrinq, 2021.
FRAZÃO, Ana. Discriminação algorítmica: o hiato entre quem programa e quem usa - A terceirização de processos decisórios por agentes públicos e privados. Parte IV. Jota, 2021. Disponível em: https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/discriminacao-algoritmica-o-hiato-entre-quem-programa-e-quem-usa-07072021 Acesso em: 20 set. 2021.
GARDNER, Howard. O verdadeiro, o belo e o bom redefinidos: novas diretrizes para a educação no século XXI. Rio de Janeiro: Rocco, 2012.
GETSCHKO, Demi. Inteligência Artificial e IoT. Fórum brasileiro de Internet das coisas. 2021. Disponível em https://www.youtube.com/watch?v=_17QAD7ujH4&t=3667s Acesso em 20 set. 2021.
GLOBAL ACTION PLAN. Global Action Plan joins forces with campaigners to demand Google and major tech firms end targeted ads to children, 2020. Disponível em: https://www.globalactionplan.org.uk/news/global-action-plan-joins-forces-with-campaigners-to-demand-google-and-major-tech-firms-end-targeted-ads-to-children Acesso em: 20 set. 2021.
GROTHER, Patrick; NGAN, Mei; HANAOKA, Kayee. Face recognition vendor test (FRVT) Part 3: Demographic effecs. National Institute of Standards and Technology. U. S. Department of Commerce. 2019. Disponível em: https://doi.org/10.6028/NIST.IR.8280 Acesso em 17 set. 2021.
HARARI, Yuval Noah. Homo Deus: uma breve história do amanhã. São Paulo: Companhia das Letras, 2016.
HENRIQUES, Isabella. Inteligência Artificial e a nova economia de dados: Reflexões na perspectiva da infância brasileira. In CANTARINI, Paola; GUERRA FILHO, Willis Santiago; KNOERR, Viviane Coêlho de Séllos. Direito e Inteligência Artificial: Fundamentos. Volume 2: Inteligência Artificial e Tutela de Direitos. Rio de Janeiro: Lumen Juris, 2021, pp. 111-144.
HENRIQUES, Isabella; PITA, Marina; HARTUNG, Pedro. A proteção de dados pessoais de crianças e adolescentes. In MENDES, Laura Schertel; DONEDA, Danilo; SARLET, Ingo Wolfgang; RODRIGUES JR., Otavio Luiz. Tratado de proteção de dados pessoais. Rio de Janeiro: Forense, 2021, pp. 199-225.
INTERNATIONAL TELECOMMUNICATION UNION (ITU). Measuring digital development: Facts and figures 2020. Genebra: ITU Publications. 2020. Disponível em: https://www.itu.int/en/ITU-D/Statistics/Documents/facts/FactsFigures2020.pdf Acesso em: 10 set 2021.
ITS; BERKMAN KLEIN CENTER; GLOBAL NETWORK OF INTERNET AND SOCIETY RESEARCH CENTERS. Artificial Intelligence & Inclusion. 2017. Disponível em: https://aiandinclusion.org/#home Acesso em: 20 set. 2021.
LESSIG, Lawrence. The law of the horse: what cyberlaw might teach. Harvard Law Review, v. 113, n. 2, 1999, pp. 501-546. Disponível em: https://cyber.harvard.edu/works/lessig/finalhls.pdf Acesso em: 7 set. 2021.
LI, Fei-Fei. Machine values are human values. New Work Summit by The New York Times. 2018. Disponível em: https://www.nytimes.com/video/admin/100000005753299/li-machine-values-are-human-values.html Acesso em: 21 set. 2021.
LIPOVETSKY, Gilles. A era do vazio: ensaios sobre o individualismo contemporâneo. Barueri: Manole, 2005.
MARINO, Eduardo e CHICARO, Marina Fragata. FMCSV, TJSP e Alana: Uma parceria promotora do desenvolvimento da primeira infância. In HENRIQUES, Isabella (org.). Primeira Infância no Sistema de Garantia de Direitos de Crianças e Adolescentes – Uma experiência a ser replicada. São Paulo: Instituto Alana, 2019.
MENDES, Laura; MATTIUZZO, Marcela. Discriminação Algorítmica: Conceito, Fundamento Legal e Tipologia. Brasília: Revista Direito Público, v. 16, n. 90, 2019. Disponível em: https://www.portaldeperiodicos.idp.edu.br/direitopublico/article/view/3766 Acesso em: 8 set. 2021.
MOREIRA, Adilson José. Tratado de direito antidiscriminatório. São Paulo: Editora Contracorrente, 2020.
MOREIRA, Teresa Coelho. Principais repercussões da utilização de sistemas de Inteligência Artificial por agentes empresariais no âmbito do Direito do trabalho. Algumas Questões. In FRAZÃO, Ana; MULHOLLAND, Caitlin. Inteligência Artificial e Direito – Ética, regulação e responsabilidade. São Paulo: Thomson Reuters Brasil, 2019, pp. 396-417.
MULHOLLAND, Caitlin; FRAJHOF, Isabella. Inteligência Artificial e a Lei Geral de Proteção de Dados Pessoais: Breves anotações sobre o Direito à explicação perante a tomada de decisões por meio de machine learning. In FRAZÃO, Ana; MULHOLLAND, Caitlin. Inteligência Artificial e Direito – Ética, regulação e responsabilidade. São Paulo: Thomson Reuters Brasil, 2019, pp. 265-290.
NEWMAN, Judith. Siri with love: A mother, her autistic son, and the kindness of machines. Londres: Quercus, 2016.
NWAKANMA, Nnenna. Entrevista. In Comitê Gestor da Internet no Brasil (CGI). Panorama Setorial da Internet, n. 1, ano 12, 2020.
OECD. Council Recommendation on Artificial Intelligence. 2019. Disponível em: https://legalinstruments.oecd.org/en/instruments/OECD-LEGAL-0449 Acesso em: 20 set. 2021.
O'NEIL, Cathy. Weapons of math destruction: How big data increases inequality and threatens democracy. Nova Iorque: Crown, 2016.
ORGANIZAÇÃO DAS NAÇÕES UNIDAS (ONU). Racial discrimination and emerging digital technologies: a human rights analysis. Relatório da Relatora Especial para formas contemporâneas de racismo, discriminação racial, xenofobia e intolerância relativa. 2020. Disponível em: https://undocs.org/en/A/HRC/44/57 Acesso em: 7 set. 2021.
ORGANIZAÇÃO DAS NAÇÕES UNIDAS (ONU). Comentário Geral n. 25 sobre os direitos da criança em relação ao ambiente digital. Comitê dos direitos da criança da ONU, 2021. Disponível em: https://criancaeconsumo.org.br/biblioteca/comentario-geral-n-25/ Acesso em 20 set. 2021.
ORGANIZATION FOR ECONOMIC CO-OPERATION AND DEVELOPMENT (OECD). O elevador social está quebrado? Como promover a mobilidade social. 2018. Disponível em https://www.oecd.org/brazil/social-mobililty-2018-BRA-PT.pdf Acesso em: 17 set. 2021.
PIAGET, Jean e INHELDER, Barbel. A psicologia da criança. Tradução de Octavio Mendes Cajado, 11a Edição. Rio de Janeiro: Difel, 2021.
RENDTORFF, Sara. Entrevista. In Comitê Gestor da Internet no Brasil (CGI). Inteligência Artificial em perspectiva.
SANTAELLA, Lucia. Desafios e dilemas da ética na inteligência artificial. In GUERRA FILHO, Willis Santiago; SANTAELLA, Lucia; KAUFMAN, Dora; CANTARINI, Paola. Direito e inteligência artificial: fundamentos. Volume 1: inteligência artificial, ética e direito. Rio de Janeiro: Lumen Juris, 2021, pp. 109-136.
SARLET, Ingo Wolfgang. Fundamentos constitucionais: O direito fundamental à proteção de dados. In MENDES, Laura Schertel; DONEDA, Danilo; SARLET, Ingo Wolfgang; RODRIGUES JR., Otavio Luiz. Tratado de proteção de dados pessoais. Rio de Janeiro: Forense, 2021, pp. 21-59.
SAS Institute – Artificial Intelligence – What It Is and Why It Matters. Disponível em: https://www.sas.com/en_us/insights/analytics/what-is-artificial-intelligence.html Acesso em: 5 set. 2021.
SILVA, Tarcízio. Linha do Tempo do Racismo Algorítmico. Blog do Tarcízio Silva. 2021. Disponível em: http://https://tarciziosilva.com.br/blog/posts/racismo-algoritmico-linha-do-tempo Acesso em: 4 set. 2021.
SOUZA, Carlos Affonso Pereira de; OLIVEIRA, Jordan Vinícius de. Sobre os ombros de robôs? A Inteligência Artificial entre fascínios e desilusões. In FRAZÃO, Ana; MULHOLLAND, Caitlin. Inteligência Artificial e Direito – Ética, regulação e responsabilidade. São Paulo: Thomson Reuters Brasil, 2019, pp. 65-81.
THE ALAN TURING INSTITUTE. Frequently asked questions. Disponível em: https://www.turing.ac.uk/about-us/frequently-asked-questions Acesso em: 5 set 2021.
TURNER, Jacob. Robot rules: Regulating Artificial Intelligence. Nova Iorque: Palgrave Macmillan, 2019.
UC BERKELEY HUMAN RIGHTS CENTER RESEARCH TEAM. Memorandum on Artificial Intelligence and Child Rights. 2019. Disponível em: https://www.unicef.org/innovation/reports/memoAIchildrights Acesso em: 17 set. 2021.
UNITED NATIONS CHILDREN´S FUND (UNICEF). The Case for Better Governance of Children’s Data: A Manifesto. 2021. Disponível em: https://www.unicef.org/globalinsight/reports/better-governance-childrens-data-manifesto Acesso em: 20 set. 2021.
UNITED NATIONS CHILDREN´S FUND (UNICEF). Policy guidance on AI for children. 2020. Disponível em: https://www.unicef.org/globalinsight/media/1171/file/UNICEF-Global-Insight-policy-guidance-AI-children-draft-1.0-2020.pdf Acesso em: 5 set 2021.
UNITED NATIONS CHILDREN´S FUND (UNICEF). Children in a digital world – The state of the world’s children. 2017. Disponível em: https://www.unicef.org/media/48601/file Acesso em: 3 set 2021.
WEST, Sarah Myers; WHITTAKER, Meredith; CRAWFORD, Kate. Discriminating Systems: Gender, Race and Power in AI. Nova Iorque: New York University, AI Now Institute, 2019. Disponível em: https://ainowinstitute.org/discriminatingsystems.pdf Acesso em: 8 set. 2021.
WIMMER, Miriam. Responsabilidade de agentes empresariais por ilícitos administrativos praticados por sistemas de inteligência artificial. In FRAZÃO, Ana; MULHOLLAND, Caitlin. Inteligência Artificial e Direito – Ética, regulação e responsabilidade. São Paulo: Thomson Reuters Brasil, 2019, pp. 373-395.
ZUBOFF, Shoshana. The age of surveillance capitalism: The fight for a human future at the new frontier of power. Nova Iorque: Public Affairs, 2020.
Downloads
Publicado
Como Citar
Edição
Seção
Licença
Copyright (c) 2022 Direito Público
Este trabalho está licenciado sob uma licença Creative Commons Attribution-NonCommercial 4.0 International License.
O(s)/A(s) autores(as) dos manuscritos submetidos concorda(m) com as regras a seguir:
1) Todos os autores e autoras participaram do trabalho, são responsáveis pelas ideias e conceitos nele emitidos e atestam sua conformidade com os princípios éticos exigidos.
2) Todos os autores e autoras concordam com a forma final do trabalho e em ceder os direitos para publicação nos canais de publicação da Escola de Direito do IDP.
3) Todos os autores e autoras informam que o manuscrito é de sua autoria e assumem a responsabilidade pelo trabalho, declarando que a obra a ser publicada não infringe quaisquer direitos de propriedade intelectual de terceiros.
3.1) Em caso de submissão simultânea, além da reprovação imediata do artigo e comunicação ao(s) respectivo(s) periódico(s), a Revista Direito Público se reserva o direito de não receber novas submissões de todos os autores implicados pelo prazo de 2 (dois) anos, contado a partir da data de ciência do fato.
4) Todos os autores e autoras autoriza(m) a edição de seu trabalho e cede(m) à Escola de Direito do IDP os direitos de autor para reproduzir, editar e publicar ou veicular o citado trabalho em qualquer forma midiática, resguardada a autoria, em particular sob forma digital, em arquivo eletrônico online na Internet, bem como armazená-los em seu repositório de acordo com o desenvolvimento do processo editorial. Esta concessão não terá caráter oneroso para a Escola de Direito do IDP, não havendo remuneração sob qualquer modalidade pela utilização do referido material, tendo este o caráter de colaboração científica.
