A desigualdade de gênero no Brasil e no mundo persiste como um obstáculo estrutural, imbuído nas engrenagens sociais. Logo, mesmo que no último século as mulheres tenham conquistado uma crescente de direitos, quantitativamente e qualitativamente a igualdade em diversos setores permanece como desafio, meta a ser alcançada mediante a derrubada de muitas barreiras.

Tratando-se apenas de mercado de trabalho e representação, em março de 2024 foi divulgado o Relatório Nacional de Transparência Salarial e de Critérios Remuneratórios, deflagrando as ineficácias da aplicação da Lei nº 14.611 (Brasil, 2023), implementada para garantir igualdade salarial entre homens e mulheres. A pesquisa revelou que as mulheres recebem, em média, 19,4% a menos que os homens, com uma disparidade ainda maior em cargos de liderança (25,2%) (Governo Federal, 2024). Essa desigualdade também é refletida na sub-representação feminina no mercado de trabalho, com as mulheres, mesmo sendo a maioria mais escolarizada, ocupando 46,8% das posições de professores no ensino superior e apenas 13,3% das matrículas em cursos de Ciências Exatas (IBGE, 2013), campos estereotipados como masculinos.

Diante da realidade expressa em números, foi realizada pesquisa pela Ipsos Brasil, a pedido da ONU Mulheres (2024), que constatou que a redução no apoio ao feminismo e ao protagonismo feminino permanece um obstáculo significativo para a igualdade de gênero, especialmente entre indivíduos de baixa renda e menor escolaridade. Além disso, embora os entrevistados tenham reconhecido o papel central do Estado na garantia dos direitos humanos, há uma falha na capacidade de atribuir ao setor privado a responsabilidade nesse processo, o que evidencia uma lacuna importante na percepção pública sobre a responsabilidade corporativa relacionada a igualdade de gênero e os direitos humanos das mulheres.

Nesse Ínterim, sistemas de Inteligência Artificial (IA) são vendidos como solução imparcial capaz de eliminar a discriminação e o erro em processos decisórios e de análise, tornando a vida cotidiana mais fácil, simples e rápida ao simular o processo cognitivo humano sem vieses. Porém, mesmo que esse “mito da neutralidade” venha continuamente sendo provado como falso a partir de casos concretos, que evidenciam a reprodução de padrões racistas, machistas, entre outras formas de discriminação, ele ainda é utilizado como silenciador de debates quanto a reprodução de discriminações sociais em modelos digitais (Sousa, 2023).

Esse cenário é visível a partir da análise da adesão em números, o CHAT GPT, por exemplo, programa computacional de inteligência artificial generativa, lançado ao público em novembro de 2022, teve adesão de mais de um milhão de consumidores em menos de uma semana (Helder e Oliveira, 2022). No Brasil, líder entre os países estudados, 57% dos brasileiros afirmaram já ter utilizado a IA generativa, seja para fins pessoais ou profissionais, dos quais apenas 23% alegam confiar totalmente nos resultados produzidos pela IA (Lpes, 2024).

É máxima de experiência que avanço tecnológico, em especial da Inteligência Artificial, seja como produto ou campo de estudo, tem transformado, de maneira exponencial, as dinâmicas da vida contemporânea e as formas pelas quais as pessoas compreendem e interagem com o mundo ao seu redor.

Com cada vez mais adeptos diretos ou indiretos dessa tecnologia, a opacidade do processo decisório trilhado por esses algoritmos torna-se preocupação relevante. Especialmente quando cientes que qualquer sistema de inteligência artificial é passível de falhas ao correlacionar dados, seja por mau uso do consumidor ao empregar determinado comando ou por condições do próprio modelo, e mesmo quando a conclusão (output) é aparentemente correta, o processo decisório pode ter partido de premissa equivocada que posteriormente pode favorecer a incorreção (Alves e De Andrade, 2021).

Essa dificuldade em compreender o processo decisório, relacionada à falta de transparência ou opacidade, é chamada de “fenômeno da caixa-preta”. Atiyah et al (2023) resumem a partir da sucessão de eventos essa ocorrência em “modelos complexos de IA, interpretabilidade limitada, opacidade na tomada de decisões, desafios na depuração e detecção de vieses, preocupações éticas, e implicações regulatórias e legais”, e destacam que apenas mediante a interpretabilidade mediante a capacidade de análise, mensuração compreensão por humanos é possível garantir um padrão ético e de respeito aos direitos individuais e coletivos. O que depende do envolvimento ativo do setor privado.

Alves e De Andrade (2021) expõem que os algoritmos variam em transparência, com a complexidade aumentando em tecnologias avançadas como deep learning, dificultando a interpretação humana. Essa opacidade pode amplificar preconceitos inseridos nos dados, gerando discriminações injustas com consequências sociais graves, especialmente quando usados para decisões críticas.

Nesse sentido, a resolução A/HRC/RES/53/29 (2023), adotada pelo Conselho de Direitos Humanos da ONU (2023), já reconhece que há riscos embutidos nas tecnologias digitais emergentes contra a proteção e promoção dos direitos humanos, incluído o direito à não discriminação. O Conselho apontou que a falta de regulamentação adequada e a utilização de sistemas de inteligência artificial sem a devida transparência e responsabilidade podem perpetuar práticas discriminatórias, tornando especialmente difícil para as mulheres e outros grupos vulneráveis acessarem e se beneficiarem de forma igualitária das novas tecnologias.

Em outras palavras, no panorama vigente, com a introdução de tecnologias baseadas em Inteligência Artificial nas várias esferas da vida pública e privada, há a intensificação de uma nova forma de vulnerabilidade, percebida nas relações de consumo de forma mais intensa em prejuízo de grupos tradicionalmente marginalizados, em especial sexo feminino (Verbicaro, 2023). Em um contexto no qual a manipulação das escolhas da consumidora, mascarada pela falta de transparência e representação tornam-se fatores críticos, aprofundando ainda mais as desigualdades de gênero existentes.

Assim, a realidade digital, inegavelmente, intensificou o abismo informacional entre as partes da relação de consumo, permeada por novos fenômenos; como a manipulação e o excesso de informações, que não apenas afetam, mas que são desenhadas para interferir na liberdade de escolha do consumidor. Dessa forma, a questão central é qualidade e a clareza das informações, que tem papel relevante sobre a decisão do consumidor sobre seus hábitos de consumo. Presumindo-se que o fornecedor mantém sua posição de controle ao ser o detentor das informações sobre sua produção, bem ou serviço (Benjamin et al, 2021, p.113).

Como agravante, esse abismo informacional no entrelace ao tratamento de dados pessoais estabelece uma estrutura de manipulação comportamental por modelos algorítmicos, eivados de padrões, por vezes, sexistas.

Nesse contexto, destaca-se que a vulnerabilidade da consumidora, que pode ser desproporcionalmente afetada pelas novas tecnologias, escalando padrões de desigualdade de gênero e discriminação.

Assim, o artigo está dividido em quatro seções principais, partindo-se do diagnóstico sobre o agravamento da vulnerabilidade da mulher consumidora para entender a estruturação da discriminação algorítmica sexista e, em continuidade, observar como a responsabilidade social corporativa poderá ser um mecanismo de mitigação desses riscos.

Foi adotado o método dedutivo, com pesquisa exploratória qualitativa de natureza teórico-bibliográfica.

A vulnerabilidade do consumidor se subdivide em quatro espécies principais: vulnerabilidade técnica, jurídica, fática e informacional (Marques, 2019, p.310-315). De forma breve, o reconhecimento da vulnerabilidade, particularmente no âmbito socioeconômico, revela-se na manifestação de uma assimetria de poder entre o consumidor e o fornecedor, na qual este último emerge como o agente dominante, que dita as normativas do mercado de consumo. Como detentor do conhecimento especializado, o fornecedor compreende as minúcias técnicas e potenciais vicissitudes inerentes aos produtos ou serviços transacionados. Tal cenário acarreta um desequilíbrio nas relações de consumo, no qual, frequentemente, o consumidor se encontra numa posição de subordinação, incumbido de suportar o desbalanço resultante dessa disparidade.

Para além das definições tradicionais da doutrina, Verbicaro e Vieira (2021, p. 195-226) sustentam que emergiram nas últimas décadas três novos tipos de vulnerabilidade: a vulnerabilidade algorítmica, comportamental e situacional.

As referidas vulnerabilidades se encontram intrinsecamente ligadas a uma mudança de contexto socioeconômico, na qual o acelerado processo de globalização e o avanço tecnológico imprimem uma nova dinâmica.

E nesse cenário está uma realidade na qual o digital, à primeira vista, se projeta como uma esfera paralela ao analógico, porém, contrariamente a essa percepção, entrelaça-se de forma crescente com o tecido cotidiano, fundindo-se indissociavelmente. Assim, há alterações em toda estruturação da relação de consumo tradicional para criação de uma nova forma de consumir, novas figuras de consumidor e de fornecedor, havendo até dificuldade em identificar o responsável por reveses que possam surgir a partir dessa troca desigual.

Como fato gerador desse contexto está o Capitalismo de Plataforma, entendido como a atual fase da globalização, marcada pelo predomínio do digital sobre o analógico. Nesse paradigma, a autoridade e influência convergem para aqueles que detêm o domínio tecnológico, bem como o controle sobre os dados individuais e da própria internet. Essa dinâmica é fortalecida pelo uso dos dispositivos móveis no cotidiano, os quais amplificam a fluidez transacional sob o pretexto da facilitação da relação de consumo, o que por sua vez agiganta a produção de lucros e movimenta a economia de consumo (Srnicek, 2017, p.6-7).

Desse modo, além dos benefícios publicizados orgulhosamente pelos fornecedores, esse tipo de plataforma, corriqueiramente, coleta, utiliza-se, vende e manipula dados pessoais de seus usuários, aproveitando-se da abismal vantagem informacional para dominar mais ainda o consumidor e converter o agravamento de vulnerabilidades em produto e receita (Verbicaro e Nóvoa, 2024).

Outro aspecto marcante desse modelo é a propensão à predominância de empresas economicamente dominantes em vários setores essenciais, o que também facilita a emergência de "monopólios algorítmicos”, controlados por fornecedores ultrapoderosos, mediante a apropriação da infraestrutura digital. Por meio dessa aquisição, tais fornecedores são capazes de coletar dados no espaço cibernético e, mediante análise especializada, influenciar de maneira mais eficaz o comportamento e os padrões de consumo de determinados consumidores ou grupos de consumidores.

Shoshana Zuboff (2018) chama atenção para esse conjunto de circunstâncias e seus impactos, nomeando de “capitalismo de vigilância” a mudança do centro de poder e a transformação social advinda da posse e utilização da big data (um grande volume de dados variados processados em velocidade inumana), coletados a partir da interação “cidadão digital” com o espaço virtual, para fins mercadológicos e de controle do indivíduo e massas, sem qualquer limitação de fronteiras. A autora define:

Nesses termos, para Meireles (2021, p. 28-50), o capitalismo de vigilância está intrinsecamente ligado a facilitação de extração de dados no ciberespaço, somada à difusão de algoritmos inteligentes com intensa capacidade de predição e manipulação, o que abriria espaço para exploração do estado emocional do consumidor. Esse monitoramento algorítmico se fortalece através da utilização do marketing, propaganda e dark patterns4 como forma de controle social e normalizar dinâmicas, práticas e comportamentos (Ramadas, 2023).

Em consequência de todo o tecido, o conceito de “vulnerabilidade informacional” não é mais suficiente para abranger a complexidade dos novos métodos de subjugação criados no domínio virtual, emergindo a “vulnerabilidade algorítmica” como instrumento de entendimento mais aproximado do impacto dos algoritmos e seus produtos (IoT, machine learning, reconhecimento de padrões personalização de conteúdo) na relação consumidor-fornecedor. Nesse sentido, explicam Verbicaro e Vieira (2021):

Assim, a escassez ou o excesso de informações representam apenas uma das vias para a obtenção de dados pessoais do consumidor, não sendo, contudo, o único elemento catalisador dessa "nova vulnerabilidade". No epicentro dessa questão encontra-se a maneira como os dados são utilizados, compartilhados e a finalidade para a qual são empregados após sua captura.

No contexto discutido, a vulnerabilidade algorítmica se evidencia em situações como o ocorrido em 2018, no qual o Departamento de Proteção e Defesa do Consumidor

(DPDC) impôs uma penalidade à empresa Decolar.com. A sanção foi imposta devido à sua prática de ajustar os preços de passagens aéreas e hospedagens com base na localização do consumidor, presumindo sua capacidade financeira com base no bairro ou cidade. Isso resultava na oferta do mesmo serviço a preços distintos, dependendo da localização do consumidor, utilizando-se dos dados do consumidor para oferecer uma desvantagem, sem que este estivesse ciente dessa abordagem (Brasil, 2018).

Apesar da existência de uma determinada "proteção" consagrada nos dispositivos do artigo 6º, inciso III, do Código de Defesa do Consumidor, bem como no artigo 6º, incisos I e VI, da Lei Geral de Proteção de Dados, não se verifica uma adaptação efetiva das plataformas, que se beneficiam da dificuldade das autoridades reguladoras em supervisionar os sistemas de inteligência artificial, para manter as vantagens a partir da discrepância relacional (Verbicaro e Nóvoa, 2024).

A vulnerabilidade comportamental, de outra monta, redefine as noções tradicionais de liberdade, ao virar os holofotes para a criação de ferramentas capazes de induzir a tomada de decisão do consumidor, em clara contradição do princípio da livre escolha, que rege o ordenamento consumerista. Essas plataformas se utilizam de técnicas avançadas de engenharia social5, se utilizando de vieses cognitivos para criar uma sensação de urgência ou vazio que necessita de imediato preenchimento no consumidor, o influenciando a consumir determinado produto e serviço mesmo sem ter a real necessidade do consumido.

A título de demonstração, Ramada (2023) cita o ajuste de preços de produtos, em que são criadas “promoções relâmpago”, até mesmo com contagem regressiva, para estimular o sentimento de pressa, convencendo o consumidor a comprar/contratar imediatamente sob a suposição de estar obtendo uma vantagem, quando na verdade, a contraprestação seria a impossibilidade de racionalização de aspectos como a necessidade, valor, obrigações advindas da contratação, entre outros aspectos relevantes da compra. Além disso, o autor também menciona a propaganda direcionada, manifesta no “aparecimento” de anúncios de determinado produto ou serviço com preço “exclusivo” após a pesquisa do mesmo em plataformas digitais.

A vulnerabilidade situacional oferece uma perspectiva adicional sobre tais abusos, especialmente quando os fornecedores se valem da dependência do consumidor em relação às novas tecnologias para restringir o exercício da liberdade de escolha. Cotidianamente, fornecedores recorrem ao sistema de cookies , coleta de dados pessoais traduzindo-se em padrões e preferências (de consumo, políticas, religiosas, etc) de determinado usuário, para formação de bancos de dados (big data) para diversos fins, entre eles a construção da publicidade direcionada ou publicidade comportamental (Silva e Ruaro, 2022). Torna-se, então, mais frequente os consumidores se encontrarem em situações nas quais são coagidos a consentir com termos de uso extensos sem um real entendimento, resultando na autorização involuntária para a coleta e uso de seus dados pessoais.

Outro conceito fundamental é a diferenciação entre vulnerabilidade e a hipervulnerabilidade do consumidor, termo muito explorado na doutrina e jurisprudência, interpretado como implicitamente contido na determinação do art. 39, IV do CDC. Para essa caracterização consideramos o constructo jurídico “consumidor médio”, conceito inserido no ordenamento consumerista português a partir da internalização de disposições da Diretiva n.º 2005/29/CE do Parlamento Europeu, no qual o termo aparece pela primeira vez. O uso do termo na jurisdição europeia se assemelha ao uso do conceito de “homem médio”, muito citado no campo da responsabilidade civil (Gonçalves, 2010, p.502).

Paradoxalmente, se para o direito português ação ou omissão praticada é considerada abusiva quando capaz de lesar essa figura de consumidor que possui um nível razoável de conhecimento e discernimento em relação aos produtos e serviços que adquire (consumidor médio) (De Fonseca, 2018), no ordenamento brasileiro todo consumidor é vulnerável, ensejando a intervenção estatal e judicial em favor do lado mais fraco.

Nesse sentido, entende-se que a hipervulnerabilidade do consumidor se dá quando a vulnerabilidade apresentada pelo “consumidor médio” (seja o consumidor descrito no artigo 2° do CDC, o bystander, grupo ou pessoas indeterminadas), tido como vulnerável durante qualquer fase inserida na cadeia de consumo, é agravada devido a características personalíssimas da pessoa ou grupo, sendo esse mais suscetível a ter seus direitos violados.

Sobre o tema, Cortez (2020) leciona que: “a hipervulnerabilidade [...] surge com a possibilidade de variar quanto ao modo como se apresenta em relação a cada consumidor, em face de suas características pessoais e suas condições econômicas, sociais ou intelectuais.” também destacando o caráter não taxativo, inciso IV, do CDC, atraindo sua aplicação sempre que o consumidor for o elo mais fraco por condições físicas, psíquicas ou sociais.

Na era digital, é observado o agravamento das vulnerabilidades tradicionais e criação de novas formas de vulnerabilizar o consumidor a uma velocidade que a sociedade e o direito têm dificuldade de acompanhar. Como descreve Hoffmann-Riem (2020), o digital já está inserido no cotidiano, entrelaçado na realidade experimentada pela humanidade, e transformando continuamente os indivíduos em “inconscientes digitais”, ampliando, sem que o consumidor perceba, o controle do mercado sobre as preferências individuais. Para desenvolver esse conceito, o autor aglutina os termos life (vida) e online (ato de se conectar a internet) para criar o neologismo onlife, na busca de desenhar a simbiose entre o mundo cibernético e o mundo físico.

Na mesma medida, o ciberespaço se entrelaça com as trocas experimentadas pelo homo economicus, moldado por meio de decisões deterministas “pré-programadas” para atender um padrão de comportamento e percepção de identidade que favoreça o mercado capitalista, o que tem efeito ativo na psicologia e na autoimagem do indivíduo, e afeta diretamente a capacidade de pensamento crítico e o entendimento de todo o organismo social sobre as noções clássicas de liberdade, autonomia e responsabilidade.

Diante desse contexto, existem autores que defendem a hipervulnerabilidade do consumidor sempre que investido em relação eletrônica de consumo (Da Silva et al, 2022; Santin, 2023), já que é inegável o alargamento da vulnerabilidade nesse tipo de troca. Todavia, desconsidera-se o fato do onlife ser expressão do ambiente real, e que a vida humana atual está indissoluvelmente ligada aos avanços tecnológicos, que exponencialmente se inserem nas mais diversas dinâmicas sociais. Desse modo, tal extensão jurídica poderia pôr em risco o instituto da “hipervulnerabilidade”, mediante sua banalização.

Por inferência, se a maioria das interações comerciais em áreas altamente desenvolvidas globalmente ocorre por meio, mediação ou facilitação de plataformas digitais, e esse fato é tido como tendência a se intensificar ao longo do tempo no mundo, todo, ou praticamente todo consumidor seria considerado hipervulnerável, dando fim ao entendimento de que grupos ou pessoas específicas necessitam de proteção intensificada quando atributos particulares acarretam no posicionamento desses consumidores como alvos preferenciais de práticas desleais. Nesse sentido, a busca por maior proteção do consumidor pode resultar no esvaziamento da defesa do hipervulnerável.

Nos termos do ordenamento consumerista brasileiro continua incerto como tratar da elevação drástica da vulnerabilidade do consumidor no ambiente digital, e, mais ainda, garantir tratamento especializado para os hipervulneráveis em comparação ao “consumidor digital médio”, o que revela a desconfiança sobre a capacidade do CDC, produzido no século passado, de acompanhar as práticas abusivas que se reinventam sincronizadas com a reinvenção constante e contínua do ciberespaço.

No contexto capitalista, em que o sistema só é capaz de se manter enquanto em superávit (Harvey, 2005), a economia de produção em massa, pós-revolução industrial, cria a necessidade de formação de mercado antes mesmo da disponibilização de um bem ou serviço. De forma que, encontrem-se maneiras de a sociedade de consumo absorver essa produção e garantir o giro do capital e a consequente manutenção da estrutura do sistema (De Oliveira, 2007).

O comércio eletrônico cresceu significativamente no Brasil e no mundo, impulsionado pela expansão da internet, os fornecedores não se contentam mais em apenas se apropriar e reproduzir estigmas inteligentemente para produzir mais lucro, a vantagem competitiva reside na habilidade de identificar e direcionar habilmente características pessoais, visando à criação e ampliação de vulnerabilidades capazes de potencializar ganhos financeiros em larga escala (Micklitz et al, 2021, p.19).

Dessa forma, é montada uma noção de “coisa de mulher”, o que não é uma noção atual, mas construída por séculos de precedentes culturais, religiosos e legais. Assim, enquanto os homens se destacavam em posições de poder e nas esferas pública, privada e até na vida particular, a função desempenhada pela mulher nessa divisão de gênero é normalmente a de submissão ou inferioridade ao masculino, sendo vista como “o outro gênero”, que existe apenas para servir ou para preencher as idealizações de um homem (Beauvoir, 1970), o que engloba “atitudes femininas”, padrões de consumo, a imagem física, forma de se expressar, atividades a serem performadas dentro do espectro esperado para o gênero.

Para Baker (2009, p.118), a vulnerabilidade é aspecto fluido que depende do contexto situacional específico avaliado, sendo característica dinâmica. Nos termos do CDC a vulnerabilidade é regra, em que basta o reconhecimento da relação de consumo para sua aplicação no processo hermenêutico. Entretanto, a hipervulnerabilidade atrai a análise do contexto situacional, principalmente tendo como tema as mulheres na relação de consumo.

A figura da mulher com a vulnerabilidade agravada é destacada quando do consumo de produtos voltados especificamente para figura feminina (explícita ou implicitamente), em que se alicerça na apropriação das formas tradicionais de dominação patriarcal pelo mercado, desde o papel de cuidado, centralizado na figura feminina, a idealização da mulher, os estereótipos de gênero e as pressões estéticas permeiam a esfera pessoal e profissional, até mesmo na indústria pornográfica. Tais dinâmicas moldam as relações interpessoais e laborais, exercendo influência em todas as esferas da vida, inclusive na participação das mulheres na geração de riqueza e em seu poder de compra.

A construção da participação da mulher no mercado de consumo é nichada, a padronização do consumo feminino e da própria noção do que é ser mulher, ou ser menina, é construído desde o nascimento, com a propagação de dizeres como “meninos usam azul e meninas usam rosa”, o que significa mais do que uma separação da paleta de cores, iniciando a divisão desigual de papéis a serem performados na sociedade.

Segundo a ONU Mulheres, a mulher brasileira tem um rendimento médio real 30% inferior à média masculina, simultaneamente, desde a tenra idade, ser mulher é mais caro. De acordo com a Associação Brasileira de Profissionais de Educação Financeira, pais com filhas meninas gastam, os mesmos 30%, a mais do que se tivessem filhos meninos (Folha de São Paulo, 2016).

São diversos os fatores que formam essa realidade, entre elas, destacam-se a aplicação do “imposto rosa” (pink tax), no qual produtos que tenham como público-alvo e consumidor final pessoas do sexo feminino são oferecidos pelo mercado por valores desproporcionalmente superiores ao mesmo serviço mas com destinação final o consumidor homem.

Em pesquisa realizada pelo New York City Department of Consumer Affairs (NYDCA), em 2015, analisou 400 tipos de mercadorias comercializadas por estabelecimentos varejistas, o Departamento de Assuntos do Consumidor novaiorquino concluiu que 42% das mercadorias destinadas ao segmento feminino foram auferidas com valores superiores em comparação com seus homólogos masculinos, sem qualquer razão aparente (Bessendorf, 2015).

A cobrança majorada por produtos e serviços destinados a mulheres, a primeira vista idênticos ao vendido a homens foi alvo, em 1995, de proibição expressa no código civil do Estado da Califórnia, sendo a inclusão desse dispositivo no código se autodenominado de “Lei de Revogação do Imposto de Gênero”6. Semelhante a essa legislação, o art. 6°, II do CDC garante a igualdade de contratação, em que se inclui a proibição de oferta por preços diferentes de um mesmo bem ou serviço.

Entretanto, em que se pese a vigência do dispositivo legal, para Fernandez e Silva (2024), o grande sucesso dessa prática está na capacidade dos fornecedores, por meio de estratégias de marketing, convencerem a consumidora de que existe efetivamente uma especialização daquele produto para o público feminino que, mesmo inexistindo, seria a justificativa para a diferença de preços.

No plano midiático há uma naturalização da associação dessa condição de exploração da mulher com a feminilidade. Em estudo recente da IPSOS (2022), revelouse que das 5 mil campanhas publicitárias analisadas, 88% delas, em que contêm pessoas representadas, há imagem da mulher. Entretanto, essa mesma mulher é representada majoritariamente em papéis convencionais, como esposa ou mãe de, por exemplo (56,7%), e é apresentada significativamente mais em ambientes domésticos (59,8%), como cozinha e banheiro, em comparação ao local de trabalho (14,6%). Dos números que restam, a mulher foi sub-representação como dona de um negócio (2,5%), profissional na área de ciência e tecnologia (3,4%) ou como profissional em geral (17,5%).

Essas narrativas que perpetuam as disparidades de gênero, embebidas em várias instituições tradicionais da vida social, como a família, resultam em diferenciação nos padrões de consumo com base no gênero, como evidenciado por uma pesquisa da Statista Global Consumer Survey, que aponta que 81% das decisões de compra de bens de consumo diários são tomadas por mulheres (Forbes Brasil, 2018), o que justifica em partes o grande interesse do mercado no sexo feminino. Sendo a expectativa mercadológica reforçada de forma cíclica por manchetes que perpetuam estereótipos como esta da Associação Brasileira de Supermercados- ABRAS (2013) : “Mulheres compram mais por impulso emocional que os homens, revela estudo”, em que se utiliza de um viés de confirmação para reforçar expectativas prévias (preconceitos) e evita-se tratar da raíz do problema elencado.

Nesse sentido, a discriminação feminina na linguagem pré-contratual, como Verbicaro e De Alcântara (2017) denominam as estratégias publicitárias somadas as novas técnicas de convencimento, tem duas faces, uma passiva que se revela na representação da mulher em posições estereotipadas, sexualizadas, em que se performam o ideal de comportamento e beleza construído socialmente e pelo próprio mercado de consumo; outra ativa, em que a mulher é consumidor e tem seu livre arbítrio e comportamento moldado para atender as necessidades de escoamento de produção do capital.

Assim, a mulher é incentivada pelos fornecedores a ser e a consumir de forma estereotipada, formando nichos de preferências cada vez menos individualizadas que favorecem apenas o mercado. As mulheres, nessa realidade, têm seu corpo como principal elemento de sua exploração (Federici, 2017, p.34), em que são influenciadas a buscar um ideal de perfeição a todos os custos, o que só se intensifica quando inserida no mundo digital.

De acordo com pesquisa realizada em 2016, pela Confederação Nacional de Dirigentes de Lojistas e SPC Brasil, 64,8% das mulheres admitem já ter mudado seu padrão de compras devido às redes sociais. Na mesma pesquisa, 58% das entrevistadas declararam que acreditam que as propagandas não retratam a mulher real, suas atitudes e quem são, tendo como principais justificativas das entrevistadas a questão estética (pele, corpo, cabelo “perfeitos”), a hipersexualização da imagem feminina e a construção da imagem de família feliz e perfeita, tendo a mulher como centro.

Assim, o “feminismo de mercadoria”7, por meio do “femvertising”8 surgiu como uma rota alternativa para a estereotipação da mulher no meio publicitário, entretanto, é fundamental destacar o sucesso do mercado em se apropriar da luta política desenvolvida e a remoldar para formar um novo nicho de consumidores fortalecendo o sistema de acumulação e afastando a face de subversão em prol da submissão ao produto.

Nesses termos, em que se pese a percepção da mulher contemporânea de uma preliminar desatualização da forma de ser representada, o que deveria levar a uma desconexão com o ideal sendo vendido, a sofisticação dos novos métodos de convencimento se demonstra mais eficaz. Portanto, seja por meio das práticas convencionais ou da apropriação da emancipação feminina como um produto a ser comercializado, o principal beneficiário permanece o mercado, personificado na figura do fornecedor.

Verifica-se então a incessante alimentação das expectativas sociais em relação à figura feminina e dos produtos que a indústria promove para atingir esse padrão, intensificando cada vez mais o ideal da mulher idealizada e o consumo desenfreado como meio de alcançar tal objetivo.

Quando se observa o uso da inteligência artificial entrelaçado ao consumo, como nova prática abusiva, a discriminação algorítmica pode ser classificada em: 1) discriminação por erro estatístico; 2) discriminação por uso de dados sensíveis; 3) discriminação por generalização injusta (generalização em grupos com reprodução de preconceitos e estereótipos); 4) discriminação limitadora de exercício de direitos (limitação entre a informação empregada e a realização de um direito) (Mendes et al, 2021, p.430).

Verbicaro (2023) aponta diversos casos práticos de discriminação algorítmica, indicando a reprodução de padrões sexistas e misóginos, os quais divergem da dita neutralidade algorítmica pela projeção de valores e preconceitos, agravados quando se analisa uma relação opaca. Noble (2021) exemplifica:

Em outro destaque, os resultados relacionados com meninas negras, indoasiáticas, latinas e brancas revelam a forma como a sua identidade é comercializada e sexualizada (Noble, 2021). Em 2020, a cantora Anitta viralizou ao postar um vídeo questionando a definição do Google da palavra “patroa” como mulher do patrão ou dona de casa enquanto a palavra “patrão” significava empregador, proprietário ou chefe de estabelecimento, chefe de repartição pública (Anitta, 2020). É fato, portanto, que algoritmos, como os de busca, perpetuam narrativas específicas que refletem distribuições historicamente desiguais embutidas em códigos de programação.

No campo da programação dos modelos algorítmicos, vieses muitas vezes acabam sendo repetidos, possuindo potencial de dano massivo. Em 2014, por exemplo, a Amazon desenvolveu uma IA de recrutamento, o intuito era criar um programa capaz de filtrar candidatos inadequados e destacar os melhores currículos e qualificações.

Contudo, identificou-se um problema significativo: a IA concluiu que, como a maioria dos desenvolvedores de software bem-sucedidos eram homens, os melhores candidatos também seriam homens, e, consequentemente, a IA penalizava currículos que mencionavam a palavra "feminino" e desvalorizava diplomas de faculdades exclusivas para mulheres (Borges e Filó, 2021).

Tal situação, por seu claro caráter discriminatório, prejudicou diretamente as candidatas, mas também teve impacto negativo para a empresa, em sua imagem perante os consumidores, e, também, ao desclassificar empregadas bem qualificadas, prejudicando ambas as partes envolvidas em diferentes medidas.

O ‘Neil (2020) aduz que um algoritmo processa um parâmetro de números e gera uma probabilidade. É um método para solução de problemas que depende de inequívocas instruções, regras logicamente encadeadas e informações iniciais. O conceito de Turing entende o algoritmo como um processo efetivo para resolver um problema por um conjunto de instruções inseridas na máquina (Goffey, 2008, p.16).

O processamento é realizado por modelos, com a representação abstrata de algum processo para prever respostas em situações variadas. Os modelos são formados por entradas, saídas e avaliação. Em sentido metafórico, as entradas – inputs – do modelo são informações sobre os ingredientes. Já as saídas, ou outputs, são o que e como decidir cozinhar. A avaliação dar-se-á no quanto comer e quão saudável a comida era. As atualizações e ajustes fazem dele um modelo dinâmico. No entanto, nenhum modelo consegue incluir toda complexidade do mundo real ou as nuances da comunicação humana. Os pontos cegos refletem o julgamento e a prioridade de seus criadores. Assim, apesar da reputação de imparcialidade, os modelos reproduzem objetivos e ideologias (O’Neil, 2020).

Assim, um modelo de previsão construído a partir de dados incompletos, defeituosos ou generalizados geram suposições tóxicas, raramente testadas, assentando-se em dados que parecem confirmá-las ou fortalecê-las. Significa um modelo de previsão desleixado. Opera como inúmeros modelos algoritmos programados e utilizados cotidianamente, sem atualizações e ajustes que o tornem um modelo dinâmico.

Kozman e Kaufman ressaltam que a discriminação algorítmica pode partir de diversos viéses no processo construtivo da IA. Como exemplo, a utilização do homem, e aqui acrescentamos o homem branco europeu, como sinônimo de neutralidade ou “padrão”, sem a aplicação de dados desagregados por gênero, criando vieses na geração de dados. Mas, esse desvio pode surgir também de viés prévio nas escolhas dos desenvolvedores, viés na base de dados utilizada, viés no processo de rotulagem dos dados ou mesmo viés nos dados de treinamento dos algoritmos (Cozman e Kaufman, 2022, p. 195-210). No mesmo sentido, observa-se a crescente reprodução de modelos sexistas que exacerbam a hipervulnerabilidade da consumidora no contexto em discussão.

Dessa forma, os algoritmos e seus produtos devem ser precisos e justos, sem marcas de vieses discriminatórios. É essencial aplicar práticas que evidenciem a accountability, intimamente relacionada ao princípio da conscientização, por meio do reconhecimento do impacto potencial da tecnologia e a criação de mecanismos para reparação de danos individuais ou coletivos. Além disso, é importante atentar para o princípio da auditabilidade, que se refere à capacidade de terceiros avaliarem o método, garantindo maior segurança a todo o processo. Portanto, segundo o princípio da explicabilidade, não basta apenas conhecer o processo de formação da decisão, mas também compreendê-lo por completo.

Entende-se, então, que apenas a regulação externa não é suficiente, devendo o próprio mercado deve reordenar suas políticas baseadas no capitalismo predatório para observância de limites éticos na relação consumerista. Tal reconfiguração é percebida na incorporação da responsabilidade social corporativa, conforme será observado no tópico a seguir.

A legalidade, apesar de indispensável, deixa de ser limite suficiente para agregar o status ético nas interações consumidor-empresa, de forma que o consumidor demonstra estar cada vez mais preocupado com os impactos do setor econômico na vida social, e isso impacta diretamente na forma de consumir, principalmente com o crescimento do consumo digital (Alves, 2024). Desse modo, a atuação ética, transparente e preventiva na identificação e solução dos problemas é uma estratégia de diferenciação e fidelização, o que, inclusive, poderá estabelecer um entrelace consumidora-fornecedor baseado no consumo identitário.

Carroll, subdivide a responsabilidade social corporativa (RSC) em camadas de uma pirâmide, incluindo as responsabilidades econômicas, legais, éticas e filantrópicas, e reforça que o esperado de uma empresa é que elas sejam lucrativas, obedeçam à lei, sejam éticas e sejam bons cidadãos corporativos (Carroll, 1991, p.39-48). Assim, a RSC é um meio de reduzir os efeitos negativos da atividade empresarial na sociedade, criando uma cultura empresarial pautada em mecanismos de cobrança responsável pelos parceiros, a partir de esforços preventivos, na retratação humanizada e na solução de conflitos (Verbicaro, 2023).

É fato que as práticas de Responsabilidade Social Corporativa influenciam positivamente na imagem da marca, na confiança do cliente e no valor percebido em relação ao produto consumido. Nesse sentido, a RSC, quando fundada em valores, preocupação e responsabilização frente aos stakeholders e as motivações estratégicas, já se provou efetiva como potencializador do “marketing boca-a-boca” , que consiste na indicação entre clientes (Sousa, 2023). Logo, verifica-se que os consumidores também consideram as motivações da empresa, de forma que, motivações consideradas egoístas, vinculadas apenas a geração de lucro e vantagens para o próprio agente econômico, não culminam no mesmo efeito de aprovação.

Desse modo, para que as práticas de RSC entreguem resultados às empresas, é necessário convencer e influenciar as atitudes dos consumidores, convertendo-as em comportamentos de compra. Dessa forma, os gestores devem também aprimorar as estratégias de comunicação, para que o público em geral tenha acesso a suas ações de RSC e as intenções por detrás das práticas e aperfeiçoamentos, para, ao agregar as expectativas sociais dos clientes as práticas empresariais, aumentar seus níveis de indicação e intenções de compra.

Tratando-se da consumidora no cenário algorítmico atual, a marca de produtos de beleza e higiene pessoal DOVE, demonstrou pioneirismo ao criar campanha denominada “A beleza na era da inteligência artificial”, que trata dos padrões irreais disseminados, cada vez mais, por algoritmos capazes de gerar imagens e seus impactos e influências especialmente sobre a figura feminina.

A empresa, além de disseminar informação sobre as consequências da expansão e do mau uso dessa nova tecnologia, reafirmou um compromisso de manter a “beleza real” em suas ações publicitárias. Para tanto, fundou iniciativa global que visa transformar os padrões de beleza presentes nas imagens de mulheres geradas por inteligência artificial, a partir da utilização comandos mais específicos, a campanha obteve representações mais diversas e autênticas, e, a partir disso, criou e divulgou manual para que a sociedade civil pudesse obter resultados semelhantes.

Iniciativas como essa, entretanto, ainda são muito incipientes, não havendo muitos exemplos semelhantes de tentativas de aplicação de práticas de RSC frente às constantes mudanças e implementações da inteligência artificial e os impactos atestados na sociedade, em especial na consumidora. Desse modo, a conscientização dos stakeholders quanto a relevância do tema é central para que traga ao centro a discussão tecida, possibilitando uma sistematização da RSC mediante um ideal relativamente definido de comportamento ético que seja capaz de beneficiar todas as partes interessadas.

Mais ainda, no domínio digital, especialmente quanto à proteção do consumidor frente à facilitação de abusos através de novas tecnologias, é imperativa a antecipação de riscos e a adoção de medidas mitigadoras. A transparência e a integridade das informações são essenciais, devendo a responsabilidade ser considerada desde a coleta de dados pessoais até a condução das campanhas de marketing nas plataformas digitais.

Cientes de que a RSC, embora fundamental, raramente se desenvolve de forma autônoma, exigindo um impulso que incentive sua adoção e integração às práticas empresariais. Retoma-se a indispensabilidade da participação do setor público e civil na regulação, fiscalização e implementação de políticas que promovam a literacia digital, aliada a mecanismos normativos capazes de disciplinar a exploração responsável do ambiente digital, novas tecnologias e suas ferramentas.

Percebe-se que o consumo entrelaçado de modelos algorítmicos, por vezes, eivados de padrões estruturais sexistas agravam a condição da vulnerabilidade da consumidora. É fato que a aplicação sistemática e dialogada das normas de defesa do consumidor, com Lei Geral de Proteção de Dados, aduz pelo estabelecimento de uma estrutura informacional e de transparência para garantir a identificação e correção de padrões enviesados.

Como exemplo, o próprio artigo 12 do CDC aduz a responsabilidade pelo fato em caso de ausência de informação que ocasionará o defeito. Ainda, em vários outros momentos do código, a informação é exacerbada, tanto na esfera contratual, como pré-contratual, como se pode atentar na análise da oferta, a partir do artigo 30 do CDC. De outro modo, a LGPD exalta a informação quando admite o direito de explicação e revisão por decisões automatizadas.

No entanto, reflete-se sobre a aplicação da lei em si como único mitigador da vulnerabilidade em discussão. Será que a imposição legal, na responsabilização por danos, é o mecanismo ideal para proteção da consumidora mulher nos casos de discriminação algorítmica?

Não se diminui a necessidade de tipos legais que buscam prevenir e proteger o consumidor, especialmente em categorias e contextos de maior fragilidade ou a fundamental ação em vista de promover a literacia digital e movimentar a opinião pública em direção a emergência do tema debatido. Porém, essa estruturação, para que seja efetiva, deverá estar em sintonia com uma mudança do próprio mercado, em destaque no incentivo da responsabilidade social corporativa. Ela perpassa pela configuração de uma relação dialética entre gestor empresarial e os stakeholders (dono da empresa, acionistas, empregados, fornecedores, clientes, financiadores, governo, comunidade, mídia e ONGs). A relação deixa de ser vista sob uma perspectiva puramente econômica para focar na própria qualidade dessas relações, sob uma perspectiva legal e sobretudo ética, pautando-se no comportamento organizacional que prioriza o gerenciamento dos diversos atores que compõem a relação na mediação de interesses que, porventura, apresentam-se como antagônicos (Verbicaro, 2023).

Há, consequentemente, uma inevitável aproximação entre a economia e a ética. Cria-se uma rede de confiança em razão da construção de um ambiente mais transparente através de um sistema de governança predeterminada (Verbicaro, 2023). A consequência também será percebida na configuração dos modelos algoritmos uma vez que a imputação de limites éticos priorizará a transparência algorítmica, o que, inevitavelmente, reduzirá vieses discriminatórios diante da construção de uma rede baseada no direito à informação, na transparência, na segurança e prevenção, direitos básicos da consumidora, aduzidos no artigo 6º do CDC.