TODOS SÃO IGUAIS PERANTE O ALGORITMO? UMA RESPOSTA CULTURAL DO DIREITO À DISCRIMINAÇÃO ALGORÍTMICA

Abstract

São cada vez mais notórios os casos em que algoritmos de aprendizado de máquina que operam em rede apresentam comportamentos discriminatórios, de modo a evidenciar uma semântica da discriminação que perpassa instituições e estruturas sociais, incorpora-se aos aspectos técnicos da programação e ameaça direitos fundamentais. Evidencia-se, nesse sentido, a importância de se discutir, no âmbito das ciências sociais, sobretudo do Direito, como se construir um modelo de observação, identificação e busca de soluções capaz de lidar com o problema da discriminação perpetrada por algoritmos de aprendizado de máquina, os quais operam majoritariamente por meio da internet. Para solucionar esse problema, o trabalho apresenta, em um primeiro momento, a igualdade compreendida como não discriminação. Questiona-se, em seguida, por meio da análise do funcionamento dos algoritmos, como esses sistemas com capacidade de aprendizado tratam – e como isso ocorre – grupos de maneira desfavorável. Por fim, partindo da compreensão do Direito como uma semântica social, como cultura imbricada nas mais variadas relações sociais, e não apenas nas instituições formais, apresentam-se mecanismos de construção de um modelo de observação, identificação e busca de soluções voltada ao combate da discriminação por algoritmos. A partir de uma pesquisa essencialmente bibliográfica e do método hipotético-dedutivo, conclui-se que a normatividade do Direito está na comunidade de usuários e nas práticas dos programadores, o que revela a importância de impregnar a semântica jurídica da igualdade na seleção e formação de programadores, como possibilidades de solução do problema posto.