A inteligência artificial (IA) está, de maneira crescente, conquistando nossa realidade e moldando a forma como as sociedades e suas instituições são mantidas, organizadas e controladas, abrangendo ferramentas de reconhecimento facial, veículos autônomos, mecanismos de busca, ferramentas de tradução e programas que preveem a evolução dos preços nas bolsas de valores. Em comparação com tecnologias convencionais, a IA ocupa posição de destaque em termos de sua capacidade de interpretação e reação a dados, que (para fins de IA) são documentados, gerados e armazenados em dispositivos eletrônicos; os dados começam a se comunicar uns com os outros e a gerar o que chamamos de big data. Nesse sentido, podemos apropriadamente descrever a IA como uma constelação de diferentes processos e tecnologias (KAYE, 2017; COWLS et. al., 2019), conduzindo a uma substituição incremental das ações humanas pelo processamento automatizado de dados. Ainda que a IA claramente ofereça grandes vantagens para a humanidade, a exemplo de ferramentas diagnósticas mais precisas e medidas aprimoradas para combater o crime e limitar o terrorismo, os críticos apontam para os riscos que podem acompanhar essa revolução tecnológica. A Carta Aberta sobre IA de 2015, assinada por grandes cientistas e empresários, gerou um intenso debate sobre como regular a IA e como evitar potenciais armadilhas decorrentes da má gestão dessa tecnologia (SPARKES, 2015). Nesse contexto, Stephen Hawking se referiu à IA como potencialmente o pior evento da história humana, apto a anunciar o fim da humanidade (CELLAN-JONES, 2014), enquanto outras profecias sobre a tecnologia relacionada à IA soam tão ameaçadoras quanto os avisos dados na obra 1984, de Orwell, ou no livro Admirável Mundo Novo, de Huxley.

As incertezas que acompanham este período de mudança tecnológica requerem um intenso debate sobre como orientar o desenvolvimento futuro da IA, bem como sua ética e governança; esses debates suscitam novas questões sobre o desenho de estruturas éticas e legislação em todo o mundo (FLORIDI et. al., 2018; RUSSEL, 2015). Embora a IA certamente contribua para a realização de vários objetivos sociais e ambientais, como os Objetivos de Desenvolvimento Social da Organização das Nações Unidas (ONU), ainda existe o risco de conflito entre os fundamentos normativos de nossa civilização e o uso concreto da IA. Assim, legisladores e especialistas em ética em todo o mundo começaram a desenvolver normas e padrões legais para lidar com casos potenciais de uso indevido de IA e para regulamentar o assunto. Estes incluem, por exemplo, a Declaração de Montreal para IA Responsável; os Princípios de Asilomar para IA; os princípios da AI4People para ética em IA (FLORIDI et. al, 2018); os relatórios dos dois Grupos de Especialistas de Alto Nível sobre relatórios de IA, tratando sobre ética (HLEG, 2019) bem como sobre governança de IA (FLORIDI et. al, 2018; COWLS e FLORIDI, 2019); o Comitê de Inteligência Artificial da Câmara dos Lordes do Reino Unido; o Regulamento Geral de Proteção de Dados europeu – RGPD; e o Código de Ética Alemão para Direção Automatizada e Conectada; que envolvem aspectos importantes de questões éticas relacionadas à IA.

Afora o Relatório da ONU sobre Inteligência Artificial e suas implicações para os direitos humanos, ainda não foi articulada uma codificação legal ou ética adaptada à aplicação da IA ​​no contexto dos direitos humanos. Os direitos humanos, no entanto, desempenham um papel essencial no contexto da governança da IA, visto que são considerados normas fundamentais da civilização ocidental e desempenham um papel cada vez maior, em geral, no direito internacional (SIMMA e PULKOWSKI, 2006).

Para além dos deveres éticos dos Estados e de organizações internacionais, como a ONU, na salvaguarda e proteção dos direitos humanos, o foco dos direitos humanos tem, de maneira mais proeminente após a formulação dos Princípios de Ruggie (ONU, 2011)5, gravitado em direção à sua aplicação pelas empresas. Dadas as crescentes obrigações e deveres das empresas como responsáveis pela tutela dos direitos humanos (JÄGERS, 2000; WETTSTEIN, 2009; RUGGIE, 2013; MUCHLINSKY, 2002), este artigo lança luz sobre as responsabilidades dos atores corporativos para a aplicação e realização dos padrões de direitos humanos no contexto da IA. Quais são as implicações das obrigações de direitos humanos para as empresas que desenvolvem e usam IA?

Em um sentido mais amplo, nosso artigo tem como objetivo conectar o discurso sobre a ética da IA ​​ao discurso sobre as obrigações de direitos humanos dos tomadores de decisão corporativos. Em nossa opinião, ambos os discursos não representam pontos de vista concorrentes ou exclusivos, mas se complementam e enriquecem à medida que integram os domínios mais amplos da ética empresarial e da ética da tecnologia.

Abordar a IA a partir de uma perspectiva de direitos humanos requer uma breve descrição do conceito de direitos humanos. No pensamento ocidental, os direitos humanos são considerados a norma suprema da lei e constituem a base da maioria dos sistemas jurídicos. De acordo com a maior parte dos especialistas em direito internacional (SIMMA e PULKOWSKI, 2006; GARDBAUM, 2008), os direitos humanos não são meramente uma enumeração dos direitos individuais, mas formam um regime independente. O pilar integrante deste regime é uma antropologia baseada na autodeterminação e autonomia do ser humano (KANT, 1998).

De acordo com esse entendimento, os direitos humanos obrigam o Estado e outras organizações sociais a observar certos princípios e procedimentos no trato com subalternos; esses princípios abrangem, por exemplo, a adesão estrita ao princípio do Estado de Direito e o direito a um julgamento justo. Ao mesmo tempo, a filosofia dos direitos humanos compreende a liberdade como condição básica do ser humano, concluindo que restrições a essa liberdade devem servir ao bem comum, e não à vontade de um monarca ou tirano. Esse conceito corresponde em grande parte à noção defendida por Isaiah Berlin (1969), que definiu a liberdade como “a ausência de obstáculos às escolhas e atividades possíveis”, e que contribuiu para a compreensão dos direitos humanos como “pretensões” (claims) que limitam o poder do Estado (HOHFELD, 1917).

Nessas circunstâncias, as intervenções na autonomia do indivíduo só são legítimas se forem baseadas no consentimento do indivíduo em questão ou se a liberdade de um indivíduo entrar em conflito com o interesse de outros. A transferência de bens ou a efetivação de um tratamento médico - uma intervenção na integridade inviolável do corpo - só são lícitas se gozarem do consentimento explícito do indivíduo, ressalvadas algumas isenções necessárias, como as emergências. A principal exceção que permite restringir a liberdade de uma pessoa exige que tal restrição sirva para prevenir danos a terceiros. De acordo com o princípio do dano, que forma a base dos direitos humanos enquanto pretensões que explicitamente vinculam instituições e terceiros, “o único propósito pelo qual o poder pode ser legitimamente exercido sobre qualquer membro de uma comunidade civilizada, contra sua vontade, é prevenir danos a outros” (MILL, 1859).

Como resultado, as incursões do Estado, limitando a liberdade dos indivíduos, enfrentam restrições substanciais e só são legítimas em casos de colisão de normas. Desse modo, a regulação do trânsito, na medida em que constitui uma limitação à liberdade individual, serve para minimizar os acidentes de trânsito, em última análise decorrentes da tarefa do Estado de proteger a vida humana.

No entanto, de acordo com o princípio da proporcionalidade, a interferência do Estado deve ser proporcional ao dano evitado. Essa noção deriva da alta prioridade concedida à ideia de igualdade perante a lei, que decorre da ideia aristotélica de “justiça corretiva” (AMBROSI, 2007; POJMAN, 1996),  implicando que o dano gerado por um regulamento ou por um ato do Estado deve ser proporcional ao dano evitado. Um aspecto importante deste termo é o conceito weberiano de Augenmaß (WEBER, 1919)  - um senso de proporção ou de “bom senso” - que deve nortear as ações políticas e os legisladores (ZUCCA, 2007; HARBO, 2010; CRAIG e DE BRUCA, 2015).  Prender uma criança por roubar uma maçã ou confiscar a carteira de motorista de uma pessoa após ela ter excedido o limite de velocidade em 5 km/h seriam exemplos de interferência desproporcional nas liberdades dos indivíduos.

No entanto, há casos em que o princípio da proporcionalidade não é aplicável, uma vez que não é possível derrogar determinados tipos de direitos humanos. De acordo com a corrente majoritária dos especialistas em direitos humanos, a própria natureza dos direitos humanos veda determinadas ações, como tortura, escravidão, estupro ou comportamento extremamente humilhante, ainda que sirvam a outros direitos fundamentais (ONU, 2004).

A partir dessa perspectiva, derivamos algumas consequências básicas de direitos humanos para a regulamentação da IA:

Os direitos humanos, entretanto, vão além de uma natureza puramente defensiva, para influenciar os objetivos das organizações sociais, como na forma de “objetivos estatais” ou imperativos (KUSZLER, 2007). O Estado, como autoridade normativa máxima, e as organizações internacionais enfrentam, assim, a tarefa de garantir a observância dos direitos humanos em bases materiais e econômicas. O Pacto Internacional sobre Direitos Sociais, Econômicos e Culturais, por exemplo, contém o princípio de implementação progressiva (progressive realization), que insta os Estados a adotar “políticas e técnicas para alcançar um desenvolvimento econômico, social e cultural estável [...]” (ONU, 1966, Artigo 6.2). Por fim, a noção de direitos humanos e a ideia de que os seres humanos nascem livres e iguais requerem que a participação seja ancorada no processo político. Essa noção é, grosso modo, equivalente ao princípio lockeano de governo, sustentado pelo “consentimento dos governados” mencionado na Declaração de Independência dos Estados Unidos.

Devido ao papel crescente das empresas no direito internacional na esteira da globalização, John Ruggie (2013) leciona que as empresas se tornaram parte do discurso dos direitos humanos (ZERK, 2006:19). O Pacto Global da ONU, a Declaração da OIT sobre Princípios e Direitos Fundamentais no Trabalho, a Lei de Escravidão Moderna e Tráfico Humano do Reino Unido, bem como os Princípios Orientadores da ONU sobre Negócios e Direitos Humanos (United Nations Guiding Principles ou UNGPs) influenciaram amplamente esse desenvolvimento. Os UNGPs, de acordo com Ruggie, estabelecem que as empresas devem “identificar e avaliar qualquer impacto adverso real ou potencial sobre os direitos humanos com o qual possam estar envolvidas, seja por meio de suas próprias atividades, seja como resultado de relações comerciais”. Portanto, chama-se a atenção para as responsabilidades das empresas em relação às mencionadas pretensões (claims) em um contexto internacional (ONU, 2011).

A discussão da relação entre direitos humanos e IA requer um exame das propriedades e peculiaridades da IA. O que torna a IA diferente de outras tecnologias, como veículos tradicionais, smartphones ou usinas nucleares? Por que, afinal, precisamos de uma ética sob medida para IA? A definição mais próxima do nosso entendimento de IA é dada pelo Dicionário Merriam-Webster, que define inteligência artificial como a capacidade de uma máquina imitar o comportamento humano inteligente. A rigor, a palavra “inteligente” não se refere à máquina, mas sim ao fato de que se a tarefa da solução de IA tivesse sido resolvida por um ser humano, o modo de realizar a tarefa teria sido chamado de inteligente (KAYE, 2017).  A comparação à inteligência humana refere-se, portanto, em primeira instância, ao resultado (output) de uma ação, e não ao input ou ao processo de tomada de decisão das máquinas (MCCARTHY, 1959).  Quanto a esse ponto, a Carta Aberta sobre IA (RUSSEL et. al., 2015) se refere às noções estatísticas e econômicas de inteligência. Esse entendimento tem uma implicação importante para os direitos humanos, uma vez que a IA - não sendo uma entidade ontológica - não pode ser considerada um ator independente ou potencial perpetrador de violações de direitos humanos, pelo menos não ainda. Ao invés, as obrigações de conformidade com os direitos humanos relacionadas às soluções de IA permanecem no domínio da responsabilidade humana, e buscam vincular os Estados-nação, empresas ou organizações não governamentais (ONGs) que utilizem tais tecnologias.

Com base nessa conceituação de IA, as violações dos direitos humanos podem ter origem em diferentes impulsos e inclinações. Ao imitar o comportamento inteligente, a IA combina grandes quantidades de dados com processamento iterativo rápido e algoritmos inteligentes, permitindo que o software aprenda automaticamente a partir de padrões ou características dos dados. Nesse sentido, a IA utiliza redes neurais para evitar a necessidade de coleta e interpretação de dados, podendo, portanto, chegar a conclusões não previstas por humanos, uma vez que estes não participam da definição dos objetivos e dos outputs da IA (KAYE, 2017). Nesse sentido, a característica especial da IA ​​é que alguns de seus processos são executados automaticamente e, nesses casos, os humanos não podem intervir diretamente; seus resultados também não podem ser previstos ex ante, resultando em consequências não previstas.

Essas características suscitam questões mais gerais quanto à sua conformidade com os direitos humanos, a saber, se a IA, na medida em que consiste na transferência da agência humana para uma máquina, acarreta um conflito intrínseco com a ideia de autodeterminação moral. Caso não exista um conflito intrínseco, permanecem dúvidas sobre as maneiras como certas características e aspectos da IA ​​podem afetar os direitos humanos. As perguntas a seguir lançam luz sobre alguns desses problemas:

Na primeira parte de nossa análise, abordamos a questão de saber se existe um conflito intrínseco entre o uso de IA e os direitos humanos. Isso requer um esclarecimento quanto ao termo “intrínseco” aqui utilizado. Em geral, podemos distinguir entre atos que conflitam de maneira intrínseca com os direitos humanos e atos que representam um conflito fortuito com os direitos humanos (BRANNON e JAWORSKI, 2015; MUELLER, 2018). Em nossa opinião, um ato é intrinsecamente contrário aos direitos humanos se constituir uma violação dos direitos humanos independentemente das circunstâncias. Um exemplo paradigmático é a escravidão, que coloca em xeque a natureza dos direitos humanos e da autodeterminação, independentemente de suas circunstâncias e causas exatas (cfr. Artigo 4, Pacto Internacional sobre Direitos Civis e Políticos). A construção de uma estrada pode ser um exemplo para ilustrar a diferença entre limites intrínsecos e fortuitos. Normalmente, não há nada de errado em construir estradas. Se, no entanto, o governo constrói a estrada com trabalho forçado ou pela expropriação de tribos indígenas, há uma clara violação dos direitos humanos. Casos desse tipo constituem violações de direitos humanos por motivos fortuitos, pois sua avaliação ética não depende da ação em si, mas de suas circunstâncias.

O uso de IA constitui uma violação intrínseca dos direitos humanos, justificando assim uma proibição universal? A razão pela qual abordamos esta questão um tanto teórica deve-se à rejeição geral do uso de IA por alguns especialistas em ética e entidades religiosas, postulando a existência de um conflito intransponível entre a autodeterminação moral e o uso de IA. Uma linha de argumento frequente é que o uso da IA representa um conflito com a autonomia humana, porque mesmo decisões graves podem ser tomadas pela IA, entrando assim em conflito direto com o próprio significado dos direitos humanos e conduzindo à alienação (WOGU, 2018). Na declaração de princípios da Convenção de Inteligência Artificial da igreja Southern Baptist (“An Evangelical Statement of Principles”), a igreja se posicionou contra a atribuição de um nível de identidade humana, valor, dignidade ou agência moral à IA (ERLC, 2019).

Para analisar se essa afirmação é válida, nos referimos a um dos exemplos mais controversos, a saber, o uso de IA para sopesar decisões de vida ou morte. Na direção autônoma, como em outras aplicações, ações como dirigir o veículo ou desacelerar, originalmente realizadas por humanos, são cada vez mais gerenciadas por processos mecânicos e automáticos. Além disso, as soluções de software podem intervir, em caso de acidente, para minimizar o número de vítimas. No caso de um acidente inevitável, se o carro tiver que escolher entre atingir um dos dois indivíduos que atravessam uma rua, o carro autônomo passa a ser a entidade responsável pela decisão de qual alvo atingir. Além das considerações gerais relativas à prestação de contas e responsabilidade, a permissibilidade da automação em tais casos é importante para a perspectiva de direitos humanos,6 vez que se refere à questão de saber se a IA pode tomar decisões que envolvem a vida ou a morte de pessoas. Isso, por sua vez, se conecta ao debate mais amplo sobre a relação entre dignidade humana e automatização. Uma posição deontológica estrita indicaria que sopesar vidas não pode ser legítimo, com base no pressuposto de que entra em conflito com a ideia de dignidade humana, que estabelece que os seres humanos não devem ser tratados como objetos; ao passo que considerações utilitárias incitariam o programador a escolher a alternativa com menos vítimas.

Do nosso ponto de vista, entretanto, um argumento prático e outro teórico depõem contra a alegação de que o uso de IA em tais casos constitui uma violação intrínseca dos direitos humanos. Na prática, a decisão de um determinado motorista geralmente não resulta de um processo de pensamento bem elaborado, mas sim de uma reação inconsciente ou de pânico. Portanto, é questionável se o ato realmente envolve um momento de ação humana. Depois de atingirem um certo nível de desenvolvimento, os processos sensoriais e mecânicos podem ser superiores às reações humanas, pois podem reagir muito mais rapidamente do que qualquer cérebro humano - mesmo em crise. Do ponto de vista teórico, o conceito rawlsiano de um véu de ignorância (RAWLS, 1971) oferece uma saída para o dilema, ao demonstrar que o princípio do consentimento pode se harmonizar com a maximização do direito à vida. Se imaginarmos o cenário concreto de um acidente inevitável que envolve a morte do motorista ou a morte de um grupo de pessoas (WALLACH e ALLEN, 2008) e, além disso, assumimos que todos os indivíduos desejam primeiro salvar suas próprias vidas; decorre que as partes envolvidas não seriam capazes de chegar a um consenso unânime. Devido ao alto valor da vida, também é questionável se um indivíduo estaria disposto a desistir de sua vida pelo bem dos outros, apesar dos achados empíricos (DI NUCCI, 2013). Obviamente, sem sacrificar o princípio do consentimento unânime, a perspectiva de se chegar a um acordo nesta situação concreta está fadada ao fracasso. Embora a aplicação de uma decisão baseada na vontade - hipotética - da maioria seja possível, de acordo com algumas teorias amplamente utilitárias, tal possibilidade permanece controversa (GOODALL, 2014; AWAD et al, 2018).

A única maneira de resolver essa situação de impasse é mudar o foco do caso individual para uma regra geral. Dada a premissa de que indivíduos anônimos não sabem sua posição com antecedência e devem concordar ex ante quanto a um procedimento (RAWLS, 1971)  sobre como lidar com o uso de IA em situações inevitáveis, eles provavelmente concordarão com princípios abstratos e imparciais. O fato de os indivíduos não terem consciência de seu papel exato no cenário estabelece um ambiente propício à imparcialidade, garantindo “que ninguém tenha vantagens ou desvantagens na escolha dos princípios pelo resultado do acaso natural ou pela contingência das circunstâncias sociais” (RAWLS, 1971). Com base nisso, indivíduos razoáveis podem propor um regulamento segundo o qual um carro deve ser programado para minimizar o número de vítimas em situações de dilema inevitáveis, visto que a probabilidade geral de ser atropelado ou morto em um carro autônomo diminui com a redução do número de vítimas. A regra deve, portanto, implicar que o maior grupo de pessoas é sempre salvo, após ponderar as decisões, independentemente de sua condição de motoristas, pedestres ou outras características pessoais. Tal regra está de acordo com o princípio da dignidade humana, que afirma que todos os indivíduos envolvidos devem ter oportunidades iguais de vida. Elevar a questão da programação de acidentes inevitáveis ao nível de participação social parece ser mais significativo, pois a formulação da regra tem impacto sobre todos os indivíduos que participam do tráfego rodoviário. A escolha exata dos mecanismos e a decisão sobre a aplicação da randomização nos casos em que o carro deve decidir entre dois grupos do mesmo tamanho é, em última análise, uma questão de consentimento social e democrático. Isso implica que as empresas são incapazes de formular suas próprias interpretações das estruturas de direitos humanos para tais instâncias e precisam se referir às estruturas jurídicas abrangentes ou às decisões dos tribunais constitucionais. Além disso, a programação deve distinguir entre situações que envolvem pessoas anônimas e situações em que as pessoas se conhecem para evitar danos extremos (veja-se a Regra 3). Portanto, a decisão final, talvez na forma de uma decisão parlamentar e finalmente na sua implementação pelas empresas, deve cumprir os seguintes critérios:

O princípio da “meta-autonomia”, que se refere à decisão de delegar decisões específicas às máquinas (FLORIDI et. al, 2018),  não é um conceito muito novo, uma vez que já delegamos voluntariamente a liberdade a organizações e normas coletivas no sentido de um “consentimento dos governados”. É possível traçar paralelos entre o supramencionado exemplo de direção autônoma e a noção de delegar liberdades pessoais a organizações sociais, a elaboração de um testamento, ou considerações quanto a danos colaterais em conflitos armados. Nesse sentido, o exemplo também leva a uma conclusão relacionada à relação geral entre a agência humana e a IA. A transferência da decisão para o veículo autônomo na situação concreta do sinistro não representa conflito com a agência humana, desde que seja com base em recurso a princípios gerais legitimados pelo consentimento democrático e assente em regras racionais e abstratas, as quais tenham sido estabelecidas em um discurso aberto.

Nesta seção, examinamos a direção em que o desenvolvimento e a pesquisa de IA por empresas devem seguir a partir de uma perspectiva de direitos humanos. Pretendemos vincular o debate existente sobre o princípio da beneficência nas regulamentações da IA ​​às implicações socioeconômicas dos direitos humanos. Embora os direitos humanos sejam classicamente definidos como pretensões (claims) face ao Estado, pretendemos lançar luz sobre as implicações mais amplas dos direitos humanos para a implementação das normas de direitos humanos (human rights standards), bem como suas implicações para os fatores socioeconômicos que podem estar ligados aos direitos humanos (RAWLS, 1971; BANCO MUNDIAL, 2012).  

A ideia de que o uso de tecnologias científicas deve servir ao bem maior decorre do critério de beneficência da IA, que está presente em diferentes marcos regulatórios e diretrizes éticas. Nesse sentido, os critérios de Pequim sobre Inteligência Artificial são bastante representativos quanto à opinião de que “a IA deve ser projetada e desenvolvida para promover o progresso da sociedade e da civilização humana [...]” (BAAI, 2019).

A ideia de beneficência, no sentido de que o desenvolvimento econômico e científico deve contribuir para o atingimento de objetivos normativos, se enquadra na estrutura dos Objetivos de Desenvolvimento Sustentável – ODS das Nações Unidas, que abrangem uma ampla gama de objetivos sociais e ambientais, como o de “acabar com a pobreza em todas as suas formas, em todos os lugares”. Usar os ODS como um proxy para os direitos humanos pode ser um tanto problemático, pois há um debate em andamento atualmente sobre a relação exata entre as duas estruturas.7 No entanto, argumentamos que alguns desses objetivos correspondem aos direitos socioeconômicos enumerados no Pacto Internacional sobre Direitos Econômicos, Sociais e Culturais, tais como o direito a um padrão de vida adequado, o direito à educação ou o direito à saúde (ONU, 2008b). A Agenda 2030 para o Desenvolvimento Sustentável apontou que os ODS das Nações Unidas “buscam realizar os direitos humanos de todos” e se referiu aos direitos socioeconômicos da Declaração dos Direitos Humanos das Nações Unidas (ONU, 2015). Na próxima seção, ilustramos, portanto, como as empresas podem vincular suas estratégias de IA à realização dessas questões socialmente importantes e como integrar a realização dos direitos humanos consagrados em tratados internacionais em abordagens corporativas relacionadas à IA.

Na seção a seguir, discutiremos os casos em que o uso de IA pode entrar em conflito com os direitos humanos. Os casos aqui descritos são exemplificativos e não representam uma lista exaustiva.

Em contraste com a seção acima, discutimos aqui não o que a IA deveria fazer, mas, sim, o que não deveria ser feito em termos de direitos humanos. Para facilitar a compreensão dos aspectos individuais do que significa estar em conformidade com os direitos humanos, nos orientamos para diversas situações, abordando áreas problemáticas específicas da IA. Os aspectos centrais são a conformidade com os direitos humanos do input e do output de soluções de IA, o tipo de uso e as intenções do ator (Tabela 1).

Neste artigo, examinamos as responsabilidades dos atores corporativos para a aplicação e concretização dos padrões de direitos humanos no contexto da inteligência artificial. Em geral, descobrimos que o uso de IA - mesmo em decisões de vida ou morte - não entra, em princípio, em conflito com o princípio da autodeterminação moral. No entanto, o tratamento da IA precisa ser baseado em considerações mais amplas de direitos humanos. A aplicação geral da IA em situações irreversíveis e de escolhas difíceis, por exemplo, precisa obedecer a regras universais e abstratas, que podem evoluir a partir de um discurso aberto e democrático.

Em uma etapa posterior, delineamos os desafios para as empresas em relação às condutas de direitos humanos impostas pela inteligência artificial. De acordo com o critério de beneficência, que decorre da ética de IA, a IA tem como objetivo beneficiar os seres humanos e atingir o bem comum. Esta ideia pode estar ligada à realização progressiva dos direitos humanos, em linha com o Pacto Internacional sobre Direitos Econômicos Sociais e Culturais, bem como com a estrutura dos Objetivos de Desenvolvimento Social da ONU. Encontramos muitos casos que mostram que o uso de IA pode levar à realização dos direitos humanos, especialmente quando se trata de saúde, combate à pobreza e educação, e que as empresas podem desempenhar um papel positivo no oferecimento de soluções de IA que abordem questões relevantes de direitos humanos.

Em outros contextos, em que as ações das empresas podem entrar em conflito com os direitos humanos, torna-se necessário o estabelecimento de mecanismos de governança quanto aos casos de uso de IA, com vistas a prevenir as violações dos direitos humanos. No caso do input de dados, a aplicação de IA geralmente não é problemática, desde que todas as partes envolvidas consintam com as condições de seu uso e desde que o uso esteja em conformidade com os padrões éticos e legais. O princípio do consentimento, entretanto, pode ser questionado, dada a assimetria de poder entre a empresa e o consumidor. Isso se aplica especificamente à interação entre empresas e autoridades públicas. Outra área de potenciais violações dos direitos humanos se encontra nos vieses que levam à discriminação ilícita. Aqui, as empresas precisam aderir a padrões de qualidade e elucidar, com transparência, a tomada de decisões corporativas e os riscos de violações dos direitos humanos que resultam do uso de IA. Além disso, o uso de IA é questionável em alguns casos e ambientes, especialmente quando se trata da participação dos cidadãos ou da transferência de poderes de decisão com consequências impactantes. Para prevenir as violações ao direito de opinião, as empresas precisam desenvolver medidas preventivas e construir uma infraestrutura interna voltada a remediar as violações dos direitos humanos. Por fim, a última questão relacionada à IA e aos direitos humanos diz respeito aos atores que usam a IA para violar os direitos humanos. Em contraste com os mecanismos anteriores de enforcement, as vantagens da IA são que os seus resultados são mais confiáveis e mais rápidos. Contudo, o enforcement de direitos humanos face a atores estatais representa um grande desafio a empresas que atuam internacionalmente, uma vez que o direito internacional tem progressivamente enfatizado as responsabilidades corporativas.

Ao avaliar esses aspectos da discussão sobre IA e direitos humanos, constatamos que os tomadores de decisões corporativas são confrontados com desafios complexos, que incluem a transparência, problemas de qualidade de dados e o gerenciamento da cadeia logística. O input e o output da IA, os usuários e a forma como as tecnologias são utilizadas ensejam possibilidades regulatórias completamente distintas e, portanto, requerem medidas adequadas à situação.