A discriminação algorítmica de gênero nas relações de consumo
DOI:
https://doi.org/10.11117/rdp.v22i115.8433Keywords:
Discriminação Algorítmica de Gênero, Relações de Consumo, Vulnerabilidade, Responsabilidade Social CorporativaAbstract
Abstract: With the use of technologies based on Artificial Intelligence, the position of women as consumers is further weakened due to the manipulation of their choices, discriminatory targeting, and the severe opacity in the dissemination of biased algorithms—exacerbating gender inequality in digital consumer relations. In this context, the present study discusses the structure of sexist algorithmic discrimination, as well as the lack of female representation within the technological environment of digital platforms. It suggests, as a consequence, that corporate social responsibility may serve as an important tool in mitigating these risks. To this end, the study adopts a deductive approach, with an exploratory qualitative methodology of a theoretical and bibliographic nature.
Keywords: Algorithmic Gender Discrimination; Consumer Relations. Vulnerability; Corporate Social Responsibility
Downloads
References
ABRAS. Mulheres compram mais por impulso emocional que os homens, revela estudo. 13 mar. 2013. Disponível em: https://www.abras.com.br/clipping/geral/34705/mulheres-compram-mais-por-impulso-emocional-que-os-homens-revela-estudo. Acesso em: 22 de abril de 2024.
ALVES, Diana Margarida. O comportamento do consumidor em contexto digital. The Trends Hub, n. 4, 2024.
ALVES, Marco Antônio Sousa; DE ANDRADE, Otávio Morato. Da “caixa-preta” à “caixa de vidro”: o uso da explainable artificial intelligence (XAI) para reduzir a opacidade e enfrentar o enviesamento em modelos algorítmicos. Direito Público, v. 18, n. 100, pág 349-373, 2021.
ANITTA se revolta com significado de 'patroa' em dicionário do Google. Estadão. 09 de setembro de 2020. Disponível em https://www.estadao.com.br/emais/gente/anitta-se-revolta-com-significado-de-patroa-em-dicionario-do-google/ Acesso em 07 jan 2024.
ATIYAH, Abbas Gatea; FARIS, NimetAllah Nasser; REXHEPI, GADAF; Qasim, Alaa Jabbar. Integrating ideal characteristics of Chat-GPT mechanisms into the metaverse: knowledge, transparency, and ethics. In: International Multi-Disciplinary Conference - Integrated Sciences and Technologies. Beyond reality: navigating the power of metaverse and its applications. Cham: Springer, 2023. p. 131-141.
BAKER, Stacey Menzel. Vulnerability and Resilience in Natural Disasters: A Marketing and Public Policy Perspective. Journal of Public Policy & Marketing, [s.l.], v. 28, n. 1, Spring, 2009, p. 118.
BEAUVOIR, Simone de. O segundo sexo. Fatos e mitos. São Paulo: Difusão Européia do Livro, 1970
BENJAMIN, Antonio Herman V.; MARQUES, Claudia Lima; BESSA, Leonardo Roscoe. Manual de direito do consumidor. 9. ed. (5. ed. do e-book) São Paulo: Revista dos Tribunais, Thomson Reuters Brasil, 2021., p. 113
BESSENDORF, Anna. From Cradle to Cane: The Cost of Being a Female Consumer. A Study of Gender Pricing in New York City. New York City Department of Consumer Affairs, 2015. Disponível em: <http://www1.nyc.gov/assets/dca/downloads/pdf/partners/Study-of-Gender-Pricing-in-NYC.pdf>. Acesso em: 5 de maio de 2024.
BORGES, Gustavo Silveira; FILÓ, Maurício Da Cunha Savino. Inteligência artificial, gênero e direitos humanos: o caso Amazon. Revista Justiça do Direito, v. 35, n. 3, p. 218-243, 2021.
BRASIL. Lei nº 14.611, de 3 de julho de 2023. Dispõe sobre a igualdade salarial e de critérios remuneratórios entre mulheres e homens; e altera a Consolidação das Leis do Trabalho, aprovada pelo Decreto-Lei nº 5.452, de 1º de maio de 1943. Diário Oficial da União, Brasília, 3 jul. 2023. Disponível em: https://www.planalto.gov.br/ccivil_03/_Ato2023-2026/2023/Lei/L14611.htm. Acesso em: 27 nov. 2024.
BRASIL. Lei Nº 8.078, de 11 de setembro de 1990. Dispõe sobre a proteção do consumidor e dá outras providências. Brasília, DF: Diário Oficial da União, 1990.
BRASIL. Ministério da Justiça e Segurança Pública. Decolar.com é multada por prática de geo pricing e geo blocking: decisão inédita do Departamento de Proteção e Defesa do Consumidor (DPDC), 2018. Disponível em: https://www.gov.br/mj/pt-br/assuntos/noticias/collective-nitf-content-51. Acesso em: 23 de abril de 2024.
CALIFORNIA. Código Civil. Seção 51.6. Disponível em: <https://codes.findlaw.com/ca/civil-code/civ-sect-51-6/> Acesso em: 30 abr. 2024.
CARROLL, Archie B. The pyramid of corporate social responsibility: Toward the moral management of organizational stakeholders. Business horizons, v. 34, n. 4, p. 39-48, 1991.
CONSELHO DE DIREITOS HUMANOS (ONU). Resolução 53/29: New and emerging digital technologies and human rights. Assembleia Geral, Sessão 53, 19 jun.–14 jul. 2023. Aprovada em 14 jul. 2023. Publicado em 18 jul. 2023. Original em inglês. Disponível em: https://digitallibrary.un.org/record/4020206?ln=fr&v=pdf. Acesso em: 22 nov. 2024.
CORTEZ, Tereza Rebeca Pinto. Da vulnerabilidade à hipervulnerabilidade dos consumidores: uma análise acerca do rol não taxativo do inciso iv, artigo 39, do código de defesa do consumidor. Revista FIDES, v. 11, n. 1, 2020.
COZMAN, Fabio Gagliardi; KAUFMAN, Dora. Viés no aprendizado de máquina em sistemas de inteligência artificial: a diversidade de origens e os caminhos de mitigação. Revista USP, n. 135, p. 195-210, 2022.
DA SILVA, Carlos Mendes Monteiro; MARTINS, Luana Maria; MARQUES FILHO, Elvis Gomes. O consumidor digital pode ser considerado um sujeito hipervulnerável?. Ciências Sociais Aplicadas em Revista, v. 22, n. 42, p. 17-31, 2022
DE FONSECA, Maria Ana Cabral Sacadura Alexandre. Do consumidor médio: reflexões em torno do conceito. 2012. Dissertação (Mestrado) – Universidade Católica Portuguesa, Lisboa, 2012.
DE OLIVEIRA, Sérgio Luis Ignácio. Desmistificando o marketing. São Paulo: Novatec Editora, 2007.
DOVE. Keep Beauty Real. Disponível em: https://www.dove.com/br/historias-Dove/campanhas/keep-beauty-real.html. Acesso em: 09 jul. 2024.
FEDERICI, S. . Calibã e a bruxa: mulheres, corpo e acumulação primitiva.Tradução: coletivo Sycorax. São Paulo: Elefante. 2017, p.34.
FERNANDEZ, Brena Paula Magno; SILVA, Lara Pinheiro e. PINK TAX: Por que as mulheres pagam mais do que os homens pelos mesmos serviços? Um estudo exploratório nas cinco maiores regiões metropolitanas do Brasil. Revista Katálysis, v. 27, p. e93288, 2024.
Folha de São Paulo. Efeito Cinderela faz gasto com filha ser até 30% maior que com filho, 2016. Disponível em: https://www1.folha.uol.com.br/mercado/2016/05/1768928-efeito-cinderela-faz-gasto-com-filha-ser-ate-30-maior-que-com-filho.shtml. Acesso em: 30 abr. 2024.
FORBES BRASIL. Decisões de compras ainda apresentam grande disparidade de gênero, diz estudo. Disponível em: <https://forbes.com.br/negocios/2018/02/decisoes-de-compras-ainda-apresentam-grande-disparidade-de-genero-diz-estudo/> Acesso em: 30 abr. 2024.
GOFFEY, Andrew. Algorithm. In: FULLER, Matthew (org.) Software Studies: A Lexicon. Cambridge: MIT Press, 2008, p. 16.
GONÇALVES, Carlos Roberto. Direito civil brasileiro: responsabilidade civil. 5ª Ed. Volume 4 São Paulo: Saraiva, 2010 p. 502
GOVERNO FEDERAL. Mulheres recebem 19,4% a menos que os homens, aponta 1º Relatório de Transparência Salarial. 2024. Disponível em: https://www.gov.br/mulheres/pt-br/central-de-conteudos/noticias/2024/marco/mulheres-recebem-19-4-a-menos-que-os-homens-aponta-1o-relatorio-de-transparencia-salarial. Acesso em: 27 nov. 2024.
HAMLIN, Cynthia; PETERS, Gabriel. Consumindo como uma garota: subjetivação e empoderamento na publicidade voltada para mulheres. Lua Nova: Revista de Cultura e Política, p. 167-202, 2018.
HARVEY, David. A produção capitalista do espaço. São Paulo: Annablume, 2005.
HELDER, Darlan; OLIVEIRA, Luciana de. ChatGPT: conheça o robô conversador que viralizou por ter resposta para (quase) tudo. G1, 08 dez. 2022. Disponível em: https://g1.globo.com/tecnologia/noticia/2022/12/08/chatgpt-conheca-o-robo-conversador-que-viralizou-por-ter-resposta-para-quase-tudo.ghtml. Acesso em: 26 nov. 2024.
HOFFMANN-RIEM, Wolfgang. Teoria geral do direito digital: transformação digital desafios para o direito. Editora Forense, 2020.
IBGE. Estatísticas de Gênero: Ocupação das mulheres é menor em lares com crianças de até três anos. 2013. Disponível em: https://agenciadenoticias.ibge.gov.br/agencia-sala-de-imprensa/2013-agencia-de-noticias/releases/30172-estatisticas-de-genero-ocupacao-das-mulheres-e-menor-em-lares-com-criancas-de-ate-tres-anos. Acesso em: 27 nov. 2024.
IPSOS. SeeHer and Ipsos showcases: positive depictions of females in advertising lead to superior business outcomes. Ipsos, 2022. Disponível em: https://www.ipsos.com/en-ca/news-polls/SeeHer-and-Ipsos-showcases-positive-depictions-of-females-in-advertising-lead-to-superior-business-outcomes. Acesso em: 30 abr. 2024.
LOPES, André. Brasil lidera uso de IA generativa entre as grandes economias, aponta pesquisa. Exame, 4 out. 2024. Disponível em: https://exame.com/inteligencia-artificial/brasil-lidera-uso-de-ia-generativa-entre-as-grandes-economias-aponta-pesquisa/. Acesso em: 28 nov. 2024.
MANN, Ian. Engenharia Social. Trad.Editora Longarina. São Paulo: Blucher, 2011
MARQUES, Claudia Lima. Contratos no Código de Defesa do Consumidor. 9ª ed. São Paulo: RT, 2019.
MEIRELES, Adriana Veloso. Algoritmos e autonomia: relações de poder e resistência no capitalismo de vigilância. Opinião Pública, v. 27, p. 28-50, 2021.
MENDES, Laura. MATIUZZO, Marcela. FUJIMOTO, Mônica Tiemy. Discriminação algorítmicas luz da lei geral de proteção de dados pessoais: In.: Tratado de Proteção de Dados Pessoais. Rio de Janeiro: Forense, 2021, p. 430.
NOBLE, Safiya Umoja. Algoritmos de Opressão: como o Google fomenta e lucra com o racismo. Santo André: editora Rua do Sabão, 2021, posição 107. Kindle.
O`NEIL, Cathy. Algoritmos de destruição em massa: como o big data aumenta a desigualdade e ameaça à democracia. Santo André, SP: ed. Rua do Sabão, 2020.
ONU Mulheres. Estudo: Empoderamento Econômico. Disponível em: https://www.onumulheres.org.br/areas-tematicas/empoderamento-economico/estudo/#:~:text=De%20acordo%20com%20dados%20do,mulheres%20negras%20%C3%A9%20ainda%20maior. Acesso em: 30 abril de 2024.
ONU Mulheres. Relatório traz novos dados sobre percepção dos direitos humanos e desigualdade de gênero no Brasil. Publicado em 19 jan. 2024. Disponível em: https://www.onumulheres.org.br/noticias/relatorio-traz-novos-dados-sobre-percepcao-dos-direitos-humanos-e-desigualdade-de-genero-no-brasil/. Acesso em: 27 nov. 2024.
PORTUGAL. Decreto-Lei n.º 57/2008, de 26 de março de 2008. Estabelece o regime aplicável às práticas comerciais desleais das empresas nas relações com os consumidores, ocorridas antes, durante ou após uma transação comercial relativa a um bem ou serviço, transpondo para a ordem jurídica interna a Diretiva n.º 2005/29/CE, do Parlamento Europeu e do Conselho, de 11 de maio de 2005. Diário da República, 1ª Série, n.º 62, 26 mar. 2008.
RAMADAS, Lucas Sérvio Gonçalves. Os padrões obscuros “dark patterns” no e-commerce brasileiro. 2023. Dissertação (Mestrado em Direito Econômico e Desenvolvimento) – Instituto Brasileiro de Ensino, Desenvolvimento e Pesquisa (IDP), Brasília, 2023.
SANTIN, Douglas Roberto Winkel. A hipervulnerabilidade digital do consumidor diante do comércio eletrônico, da inteligência artificial e da internet das coisas. Revista da Defensoria Pública do Estado do Rio Grande do Sul, v. 2, n. 33, p. 22-43, 2023.
SANTOS, Hugo Diogo. O impacto das motivações para a responsabilidade social corporativa na ligação à marca e no comportamento do consumidor. 2023. Dissertação (Mestrado) - Universidade de Coimbra, Coimbra, 2023. Disponível em: https://estudogeral.uc.pt. Acesso em: 9 jul. 2024.
RIBEIRO, Luiz Gustavo Gonçalves; SAMPAIO, José Adércio Leite. Responsabilidade Social Corporativa: entre os sentidos e o sem sentido. Veredas do Direito, v. 20, p. e202513, 2023, p.5.
SILVA, Cecília Alberton Coutinho; RUARO, Regina Linden. Cookies e behavioral advertising: uma análise do dever de informação e a relação com a LGPD. Revista Brasileira de Direitos Fundamentais & Justiça, v. 17, n. 47, p. 153-172, 2022.
SOUSA, Francisca Rozangela Lopes de. Práticas de responsabilidade social corporativa e sua relação com o comportamento do consumidor. 2023. Dissertação (Mestrado em Administração) – Universidade Federal de Campina Grande, Unidade Acadêmica de Administração e Contabilidade, Campina Grande, 2023. Disponível em: http://dspace.sti.ufcg.edu.br:8080/xmlui/handle/riufcg/29426. Acesso em: 15 de maio de 2024.
SOUSA, Francisco Cavalcante de; RABELLO DE LIMA, Gabriela. Racismo algorítmico em plataformas de inteligência artificial generativa. In: MARANHÃO, Juliano (Org.). Facetas jurídicas da inteligência artificial generativa. São Paulo: Legal Grounds Institute, 2023. p. 181-200. ISBN 978-65-981979-1-9.
SPC BRASIL. 65% das mulheres já mudaram seus hábitos de compra por causa das redes sociais, diz SPC Brasil. Disponível em: https://site.cndl.org.br/65-das-mulheres-ja-mudaram-seus-habitos-de-compra-por-causa-das-redes-sociais-diz-spc-brasil/. Acesso em: 22 de abril de 2024.
SRNICEK, Nick. Platform capitalism. Cambridge: Polity Press, 2017. p. 6-7. Oxford, Inglaterra.
UNIÃO EUROPEIA. Diretiva n.º 2005/29/CE, do Parlamento Europeu e do Conselho, de 11 de maio de 2005. Relativa às práticas comerciais desleais das empresas nas relações com os consumidores. Jornal Oficial da União Europeia, 11 maio 2005.
VERBICARO, Dennis. Algoritmos de consumo: Discriminação, determinismo e solução online de conflitos na era da inteligência artificial. São Paulo: RT, 2023.
VERBICARO, Dennis; DE ALCÂNTARA, Ana Beatriz Quintas Santiago. A percepção do sexismo face à cultura do consumo e a hipervulnerabilidade da mulher no âmbito do assédio discriminatório de gênero. Revista Pensamento Jurídico, v. 11, n. 1, 2017.
VERBICARO, Dennis; MENDES DE NOVOA, N. S. (2024). O falso empoderamento do consumidor no sistema de avaliação de plataformas digitais: um estudo da inteligência artificial sob a perspectiva da vulnerabilidade algorítmica. Relações Eletrônicas de Consumo, Editora Foco, p. 121-145.
VERBICARO, Dennis; VIEIRA, Janaína. A nova dimensão da proteção do consumidor digital diante do acesso a dados pessoais no ciberespaço. Revista de Direito do Consumidor, v. 134, p. 195-226, 2021.
ZUBOFF, Shoshana. Big Other: capitalismo de vigilância e perspectivas para uma civilização de informação. In: BRUNO, Fernanda et al. (Org.). Tecnopolíticas da vigilância:perspectivas da margem. São Paulo: Boitempo, 2018.
ZUBOFF, Shoshana. Um Capitalismo de Vigilância. Le Monde Diplomatique, Edição 138, p. 1. 2019.
Published
How to Cite
Issue
Section
License
Copyright (c) 2025 Direito Público
This work is licensed under a Creative Commons Attribution-NonCommercial 4.0 International License.
O(s)/A(s) autores(as) dos manuscritos submetidos concorda(m) com as regras a seguir:
1) Todos os autores e autoras participaram do trabalho, são responsáveis pelas ideias e conceitos nele emitidos e atestam sua conformidade com os princípios éticos exigidos.
2) Todos os autores e autoras concordam com a forma final do trabalho e em ceder os direitos para publicação nos canais de publicação da Escola de Direito do IDP.
3) Todos os autores e autoras informam que o manuscrito é de sua autoria e assumem a responsabilidade pelo trabalho, declarando que a obra a ser publicada não infringe quaisquer direitos de propriedade intelectual de terceiros.
3.1) Em caso de submissão simultânea, além da reprovação imediata do artigo e comunicação ao(s) respectivo(s) periódico(s), a Revista Direito Público se reserva o direito de não receber novas submissões de todos os autores implicados pelo prazo de 2 (dois) anos, contado a partir da data de ciência do fato.
4) Todos os autores e autoras autoriza(m) a edição de seu trabalho e cede(m) à Escola de Direito do IDP os direitos de autor para reproduzir, editar e publicar ou veicular o citado trabalho em qualquer forma midiática, resguardada a autoria, em particular sob forma digital, em arquivo eletrônico online na Internet, bem como armazená-los em seu repositório de acordo com o desenvolvimento do processo editorial. Esta concessão não terá caráter oneroso para a Escola de Direito do IDP, não havendo remuneração sob qualquer modalidade pela utilização do referido material, tendo este o caráter de colaboração científica.
