De tempos a tempos, as publicações jurídicas imitam os movimentos de um pêndulo. Oscilam; ora assumem a forma de poemas de amor, ora de obituários. Quando surge um novo fenómeno que pode ter alguma importância para o direito, uma primeira fase de grande interesse pelo assunto é seguida de uma segunda, de desilusão e desencanto. Passado o fascínio, a parábola termina com a constatação de que a novidade não era assim tão nova ou, pelo menos, não era assim tão interessante que justificasse os esforços desenvolvidos pelos estudiosos para a compreender e conceitualizar (normalmente com a ocultação de um cadáver). Se nos quisermos cingir ao campo de estudo “Direito e novas tecnologias”, foi assim com a contratação telemática, tem sido assim, em tempos mais recentes, com as bitcoins e as NFTs; quem sabe se não será também assim com a inteligência artificial, tema “à la page” do debate político e científico contemporâneo.Talvez não.

A inteligência artificial parece ter tantas declinações e ramificações que afeta quase todos os domínios da existência humana. Não só, evidentemente, o domínio das comunicações, mas também o dos cuidados de saúde e, por último, o dos transportes.

E, como qualquer nova tecnologia, embora possa trazer benefícios para o bemestar individual e coletivo, pode também ser uma fonte de (novos) danos. De entre os muitos sectores que poderiam ser referidos, fiquemos no domínio dos transportes. No início, era o automóvel. Substituiu as carruagens. Alterou a dinâmica dos transportes; apresentou-se, e/ou foi apresentado, como um artefato potencialmente produtor de danos (e, de facto, a história e as estatísticas testemunham que o foi e - infelizmente - ainda o é).

A lei foi chamada a regulamentá-la (Calabresi; Al Mureden, 2021). Foi ditada uma disciplina ad hoc. Hoje em dia, permanecendo no nosso direito nacional, a matéria é regulada por um conjunto de diferentes documentos normativos, gerais e especiais, nomeadamente o artigo 2054º do Código Civil, o Código da Estrada e o direito dos seguros. As aeronaves e os navios encontram a sua regulamentação no código do sector e num grande número de convenções internacionais (La Torre, 2019, pp. 487-518; La Torre, 2012, pp. 553-575).

Trata-se de conjuntos de regras que, de uma forma mais ou menos eficaz, mais ou menos razoável, resistiram ao teste do tempo; de tal forma que, apesar de terem sido elaboradas há quase um século, ainda as encontramos presentes nos nossos códigos e, até há pouco tempo, nunca ninguém tinha pensado em questioná-las.

Isto é, até hoje. Carro, avião, navio: meios de transporte que antes eram objeto de domínio humano, embora exercido de forma diferente, começaram, graças ao progresso técnico, a “autonomizar-se”, e parece que, uma vez aperfeiçoadas certas tecnologias, a intervenção humana pode vir a ser totalmente dispensada.

Numa fórmula: é a inteligência artificial, e os juristas não podem fazer nada contra ela.O Direito, porém, tem como função paradigmática a de orientar a conduta humana. Confrontado com “coisas” que simulam, de alguma forma, as suas atividades mentais e os seus comportamentos, o legislador viu-se desprevenido, e os juristas, teóricos e práticos, com ele.

As grandes empresas tecnológicas, que operam e dominam, à escala mundial, o sector digital, estão maioritariamente sediadas nos Estados Unidos (Wu, 2021). O contexto norte-americano, no qual, por complexas razões históricas e socioeconómicas, desde logo a de crescerem num ambiente permeado por um capitalismo “laissez-faire”, encontraram terreno fértil para nascerem e se desenvolverem, a ponto de “ditarem a lei” nos mais diversos sectores da moderna economia de mercado (Nivarra, 2010, p. 6 ss).

Se olharmos para leste, a partir das margens do Atlântico, o cenário é diferente, mas apenas no que se refere a quem controla estas tecnologias. O desenvolvimento destas empresas, e das tecnologias inovadoras que concebem, está aqui sob o controlo estrito da política estatal, que o orienta para a maximização do bem-estar coletivo.

Enquanto os Estados Unidos e a China iniciaram esta nova corrida ao desenvolvimento tecnológico, a Europa ficou a assistir. Pelo menos até os últimos anos, período em que as instituições supranacionais começaram a dar origem a iniciativas políticas que produziram documentos de soft law e, mais recentemente, regulamentos setoriais muito detalhados, destinados a regular vários aspectos do fenómeno digital. Basta pensar no RGPD, no que diz respeito à proteção dos dados pessoais, bem como na Diretiva 2019/770 relativa à prestação de serviços digitais, que aborda a questão das trocas entre bens/dados. Mas não faltaram outras intervenções: o tema dos contratos digitais peer-to-peer foi regulamentado, sob as duas formas de facilitação e direção pelo operador da plataforma.

Outra medida importante é o Regulamento 2019/1150 sobre “Equidade e transparência para os utilizadores empresariais de serviços de corretagem em linha”, que visa regulamentar as plataformas digitais. Também. O Regulamento 2022/2065 (Lei dos Serviços Digitais), que visa regular o mercado único dos serviços digitais; o Regulamento 2022/1925 (Lei do Mercado Digital), que visa garantir a equidade e a disputabilidade desses mesmos mercados; o Regulamento 2022/868 (Lei dos Dados), que trata da governação europeia do mercado de dados.

E, por último, a muito recente chamada AI Act, destinada a regulamentar a colocação no mercado de produtos que incorporam tecnologias de inteligência artificial (Quarta; Smorto, 2024; Gentili, 2024, p. 1043 ss.).

No entanto, apesar desta torrente de regulamentações, ainda que animada pela intenção de colocar a União Europeia, pelo menos do ponto de vista regulamentar, na vanguarda no que respeita à emergência destes novos fenómenos, basta ao observador externo constatar que, sobretudo no que se refere à inteligência artificial, falta uma regulamentação global da matéria. Em particular, o legislador supranacional tem demonstrado, pelo menos até a data, um desinteresse pela regulação da responsabilidade que pode resultar da utilização de tais tecnologias (Smorto, 2024, p. 213). Esta situação tem tido como consequência, por um lado, inibir o investimento por parte das empresas do sector, que ficam impedidas de conhecer os efeitos das suas ações no caso de uma tecnologia de IA por elas comercializada vir a causar danos; por outro lado, tem como consequência inibir o investimento por parte dos particulares, cuja confiança na utilização de tais tecnologias dificilmente se desenvolverá, uma vez que não saberiam de que forma e contra quem dirigir eventuais pedidos de indemnização no caso de virem a sofrer danos.

O problema necessita de uma solução; uma solução que seja normativamente justificada. Uma primeira análise do material doutrinário escrutinado revela uma série de questões, que serão aqui resumidas.

Ao fazê-lo, é necessário fazer uma “caveat”: os algoritmos estão hoje presentes em todos os sectores da nossa vida quotidiana. Falta-lhes uma regulamentação orgânica, não obstante as recentes intervenções comunitárias sobre o assunto (Albanese, 2023, p. 559 ss.).

Uma disciplina para os definir, para regular as suas diversas aplicações e para fazer face às consequências do seu uso nocivo. Centrando-nos neste último perfil, procedemos à análise das posições que têm surgido na doutrina sobre o tema.

Foram isoladas quatro, que, consoante a abordagem do problema da responsabilidade por danos algorítmicos, podem ser assim designadas

Se não consegue controlar um fenómeno, tente regulá-lo. Este parece ser o caminho que a União Europeia decidiu seguir em matéria de Inteligência Artificial. Percebendo que não está em condições de competir com as grandes empresas privadas americanas ou com as empresas públicas chinesas dominantes no sector, a estratégia europeia, como já foi referido acima, tem sido a de prosseguir a adopção de legislação de vanguarda na área, que possa servir de base para uma futura regulamentação à escala global. A lei da inteligência artificial – c d. Lei da IA – trata de regular a colocação no mercado de produtos que utilizam tecnologias de inteligência artificial, estabelecendo uma série de obrigações para determinadas categorias de sujeitos (fornecedor, ou sujeito que exerce atividades similares; utilizador primário), e distinguindo os produtos que a incorporam de acordo com diferentes níveis de risco (Gentili, 2024, pp. 1043-1051). A introdução de alguns produtos – aqueles c. e. em alto risco - é – salvo algumas exceções – proibido (art. 5º); a introdução de outros é permitida se tal risco for considerado, de acordo com determinados critérios estabelecidos pelo mesmo documento regulamentar, como «aceitável» (art. 6.º e seguintes); uma última categoria é representada por aqueles produtos cuja colocação no mercado não deve gerar problemas e, por isso, são classificados como ‘de baixo risco’ (art. 50.º e seguintes). Não sendo este o local para uma análise detalhada do quadro legislativo, para o que aqui interessa bastará observar o seguinte. Ou seja, a Lei da IA, bem como as demais disposições de carácter europeu-unitário mencionadas no primeiro §, enquadram-se perfeitamente na lógica — de natureza ordoliberal — da União Europeia, orientada para a construção, o reforço e a expansão do mercado único, sem nada prever em termos de proteção dos indivíduos e da comunidade contra o poder excessivo das grandes “corporações” digitais. Os remédios aí previstos, na verdade, prosseguem uma finalidade eminentemente reguladora de tais poderes privados, prevendo intervenções corretivas – de “imposição pública” – sobre os seus modos de utilização, quando esta seja considerada excessivamente danosa. A dimensão sancionatória surge, assim, apenas em relação àqueles comportamentos que possam dificultar o jogo concorrencial dos atores privados no contexto do mercado único. Nenhuma referência à possibilidade de um indivíduo, ou de uma comunidade, tomar medidas de responsabilidade perante os fornecedores (ou operadores) de tecnologias de IA cuja utilização causou danos.

Os dois documentos normativos sobre responsabilidade civil por inteligência artificial inserem-se neste quadro regulatório e, embora não tenham sido aprovados em versão final, passaremos a analisá-los.

O primeiro é o projeto de regulamento sobre responsabilidade civil presente na Resolução do Parlamento Europeu de 2020, e que, de acordo com a classificação que propusemos no primeiro §, podemos remontar à tese do reformismo moderado. Neste projeto, a categoria de dano algorítmico (regras de responsabilidade) está ancorada aos níveis de risco relacionados com a colocação no mercado de produtos que incorporam IA (regras de permissão), de acordo com dois critérios de atribuição diferentes: o objetivo, onde o dano foi causado por um sistema de alto risco; a falha se foi produzida por um sistema de baixo risco. A resolução – que antecede a Lei da IA – introduz então uma espécie de canalização da responsabilidade, identificando a figura do “implantador” – c. e. operador –, na dupla variante ‘front-end’, a pessoa que beneficia da utilização da IA; back-end, onde é responsável por controlar e monitorizar o mesmo (e a menos que se aplique a responsabilidade do fabricante) - o sujeito contra o qual podem ser exercidas quaisquer futuras reivindicações de indemnização. A resolução trata de regular, em caso de dano causado por múltiplos lesores, as relações internas entre estes últimos; estabelece limites para o montante da indemnização; regula os prazos de prescrição para o exercício da ação; prevê algumas isenções em caso de danos causados por um sistema de IA de baixo risco.

A proposta apresentou certamente aspetos positivos: introdução de uma disciplina geral para a responsabilidade dos algoritmos gerais (incluindo a inteligência artificial); a canalização de responsabilidades, de forma a facilitar a posição do lesado; avançou numa perspectiva de coordenação com os restantes documentos normativos que regem o fenómeno, potenciando a função reguladora da instituição. Por outro lado, porém, limitou o exercício da ação de responsabilidade por danos patrimoniais à única lesão de bens específicos, e por danos não patrimoniais à única hipótese de a lesão ter resultado numa perda patrimonial significativa para a vítima. Assim, a referência à culpa em caso de dano causado por um sistema que não seja de alto risco é desconcertante. Num domínio como o das novas tecnologias, a referência à diligência normal como regra de conduta a que o operador deve aderir parece implicar uma redução da proteção do lesado. Na verdade, a parte lesiva apenas necessitaria de cumprir as regras estabelecidas na legislação europeia sobre a segurança dos produtos, bem como a – ainda em curso na altura, agora aprovada – da lei da IA (no caso da IA não de alto risco) para ficar isenta de responsabilidade.

A esta Resolução seguiu-se a proposta relativa à adaptação das regras de responsabilidade civil extracontratual à inteligência artificial em 2022. Esta medida enquadra-se também nas diretrizes de "política" da União Europeia, nomeadamente a de reforço e expansão do mercado único. Só que, ao contrário das duas propostas acima analisadas, nesta última o caminho que se tentou foi o da harmonização mínima (e a escolha do instrumento da diretiva em vez do regulamento – como foi o caso, aliás, da Lei da IA – é um indício significativo disso). Ao contrário da resolução de 2017 e, em parte, da resolução de 2020, o legislador europeu não interveio na categoria da responsabilidade, nomeadamente redefinindo os seus elementos constitutivos, nem ditando regras analíticas relativas aos critérios de imputação, ao montante da indemnização, ao prazo de prescrição e a eventuais relações internas em caso de infração plurissubjetiva. Em estrita observância do princípio da subsidiariedade, que rege qualquer intervenção regulatória supranacional, a proposta de diretiva em causa tem por missão — com a reserva, porém, de ser integrada por intervenções mais amplas — facilitar a posição processual do lesado, estabelecendo, por um lado, algumas obrigações de transparência (divulgação e conservação) para determinadas categorias de sujeitos (fornecedor; sujeito similar; utilizador) que podem exercer alguma função de controlo relativamente ao sistema de inteligência artificial, diferenciando também aqui entre sistemas de alto e baixo risco, bem como as condições que regem a apresentação do pedido de indemnização (art. 5.º). E, em segundo lugar, estabelecendo algumas presunções «jure tantum», em caso de violação da referida obrigação (art. 3.º, n.º 5), e introduzindo outras presunções relativamente à prova da culpa (art. 4.º). Este último aplica-se quando: i) o autor demonstrou, ou o juiz presumiu, nos termos do art. 3, que o arguido, ou uma pessoa sob a sua responsabilidade, «não cumpriu um dever de cuidado previsto no direito da União ou no direito nacional e que visa diretamente proteger contra o dano ocorrido»; (ii) pode-se razoavelmente presumir, nas circunstâncias do caso, que a conduta negligente influenciou o resultado produzido pelo sistema de IA, ou a sua incapacidade de o produzir; e (iii) se o autor demonstrar que o dano foi causado pela produção ou pela omissão da sua produção. No que respeita aos sistemas de baixo risco, esta presunção aplica-se apenas quando o juiz tenha considerado que o ónus da prova de que o autor dispõe é excessivamente oneroso (art. 5.º, n.º 5). Em relação aos sistemas de alto risco, esta presunção não se aplica quando o réu demonstra que o autor tinha provas e conhecimentos suficientes para demonstrar a existência do elemento acima referido. No caso de uma queixa apresentada contra uma pessoa que utilizou o sistema de IA no decurso de uma atividade não profissional, a presunção aplica-se apenas quando o arguido interferiu nas condições de funcionamento do sistema, ou quando estava em condições de determinar as condições de funcionamento, e omitiu fazê-lo.

É o propósito que inspira a proposta em discussão que suscita algumas dúvidas. A diretiva visa, de facto, regular dois aspectos, diríamos, marginais do fenómeno da "responsabilidade", sem ditar regras quanto aos aspectos que mais o caracterizam, presumivelmente para respeitar o princípio da subsidiariedade e não se colocar em conflito aberto com as tradições jurídicas dos Estados-membros individuais. Qualquer que seja a razão de ser de tal escolha, que não foi adoptada pelo legislador europeu, o que dela teria resultado seria ter vinte e sete — este é o número de Estados-Membros — regimes de responsabilidade diferentes em termos de pressupostos e disciplina, unidos pela simples referência a algumas obrigações que pesam sobre certos sujeitos (as mesmas indicadas pela Lei AI: eis o único, ínfimo, indício de alguma vontade de harmonização regulamentar), e a operação de algumas presunções, que podem, no entanto, ser refutadas pelo arguido, em relação à prova da culpa. Mesmo a opção por utilizar este elemento como critério de imputação da infração, em relação a tipos de danos causados por tecnologias altamente sofisticadas, de regras desenvolvidas em contextos empresariais complexos, não convence. Com efeito, dadas as constantes referências à regulamentação europeia e nacional pertinente nesta matéria, e mesmo tendo em conta a referida presunção, o sujeito a quem se dirige a ação de responsabilidade poderá ter facilidade em provar a sua própria diligência, bastando-lhe demonstrar que cumpriu as regras e os padrões de conduta constantes das disposições legislativas do setor. Esta «fraqueza» presente na proposta de diretiva também não parece poder ser reduzida simplesmente considerando que a mesma foi concebida para funcionar em conjunto com a nova diretiva relativa à responsabilidade do produtor, devidamente revista para se aplicar também a crimes causados pela inteligência artificial.

Como tem sido sublinhado em muitos trabalhos sobre o assunto, esta última foi concebida para operar num sector específico (o dos bens de consumo), tarefa que desempenhou satisfatoriamente ao longo das décadas da sua existência, e a sua função seria desvirtuada se fosse transformada numa disciplina geral, com o risco de determinar – ainda que animada pelas melhores intenções – disfunções, tanto de ordem organizativa como “sistemática”, certamente não apreciáveis (Albanese, 2024, pp.15-17).

O legislador europeu, contudo, considerou apropriado não implementar esta última iniciativa, deixando esta lacuna de responsabilidade em vigor no caso de o dano ter sido causado por um sistema que utiliza tecnologias de IA, deixando a sua possível sancionabilidade à implementação de recursos públicos. Quanto à proteção de situações individuais, a única solução praticável neste momento continua a ser recorrer às regras previstas nos vários sistemas jurídicos nacionais, com todas as questões críticas acima destacadas.

Em conclusão – mas esta é obviamente uma conclusão interlocutória – pode dizer-se o seguinte: a questão da responsabilidade algorítmica tem sido objeto de atenção tanto da doutrina como do legislador (em particular, supranacional). Embora, numa perspectiva geral, a orientação doutrinal dominante tenha defendido a não necessidade de uma intervenção reguladora (perspectiva muito difundida entre os estudiosos do direito civil), considerações diferentes – e, a nosso ver, mais partilháveis – foram apresentadas por estudiosos que abordaram a questão de um ponto de vista mais especializado. Segundo estes últimos, aliás, e estas são opiniões partilhadas tanto pelos estudiosos do direito automóvel como pelos estudiosos do direito aeronáutico, precisamente pela particularidade da tecnologia em causa, seria oportuno que o legislador interviesse regulando a matéria com soluções "ad hoc". E isto para, por um lado, não desvirtuar as normas vigentes sobre a matéria e, por outro, evitar que a regulamentação do fenómeno fique a cargo das decisões dos juízes caso a caso. Esta última solução produziria incerteza quanto à regra a seguir e imprevisibilidade quanto à solução individual que poderia ser dada em cada caso concreto, com o consequente comprometimento da função tanto dissuasiva como sancionatória das regras de responsabilidade civil.

Então, o que fazer? Na opinião do escritor, podem imaginar-se duas soluções, uma a ser seguida a curto prazo, outra a longo (demasiado longo?). A primeira é - pelo menos em teoria - muito simples. Enquanto se aguarda que as instituições supranacionais elaborem regulamentos específicos sobre a matéria, coerentes com outras disposições legislativas existentes e regulando aspetos diversos dos relativos ao dano, os legisladores nacionais individuais, especialmente o italiano, poderiam proceder da seguinte forma. Isto é, tendo em conta o conhecimento adquirido no domínio científico relevante, as propostas doutrinárias e a jurisprudência emergente sobre danos provenientes de dispositivos de inteligência artificial, elaborando, com base na legislação vigente, um regime que distinga a única regra de responsabilidade aplicável (por exemplo, a das atividades perigosas; a da responsabilidade subsidiária; ou da coisa em custódia) em função do tipo de tecnologia que, em termos concretos, causou o dano (se um sistema de alto ou baixo risco; se um agente de software cognitivo ou um robô que é uma mera ferramenta operacional – se se desejar, distinguindo também em função de o lesado ser um profissional ou um consumidor). Trata-se de uma solução mínima, que, evidentemente, não resolve o problema de uma vez por todas, mas que, no entanto, é candidata a desempenhar um papel diretivo na conduta dos indivíduos, tanto no que se refere à dos cidadãos-utilizadores não profissionais do direito, que estariam em condições de conhecer ex ante o tipo de sanção em que poderiam incorrer caso a utilização de determinado tipo de tecnologia acabasse por causar danos a terceiros. Talvez para os juízes, que seriam informados sobre qual a regra a aplicar consoante o caso prejudicial que fossem chamados a julgar.

A segunda forma é um pouco mais complexa, mas, ainda assim, não é impossível (nem muito “ficção científica”) (Bem-Shahar; Porat, 2016, pp. 627-688; J. Mayer, 2022). Mas para o vislumbrar, é necessário alterar o ponto de observação, deixando de considerar os sistemas de IA como “mecanismos produtores de danos” e imaginandoos – também – como ferramentas para os prevenir, ou pelo menos para compreender a dinâmica da sua causalidade.

A proposta seria a seguinte, a implementar em duas fases. Inicialmente, não se opondo às novas tecnologias, mas sim tornando-as funcionais para garantir os direitos e interesses das partes, utilizando algoritmos de IA e o Big Data que os alimenta, de forma a reconstruir a sequência causal que levou à ocorrência do evento lesivo. Posteriormente, ao utilizar estas tecnologias num contexto regulatório, implementando uma espécie de “codificação contextual” através da qual se constroem regras de responsabilidade “personalizadas”; regras, isto é, capazes de se adaptar ao evento danoso individual, orientando "ex ante" as ações dos indivíduos individualmente e, ao mesmo tempo, oferecendo ao juiz critérios para avaliar "ex post" a sua conformidade, ou não, com as mesmas. A ferramenta para implementar tais estratégias é a microdiretiva, ou seja, um tipo de regra gerada automaticamente por uma máquina inteligente e desenhada sobre o perfil comportamental do sujeito destinatário, que, ao combinar o complexo das suas interações na Internet com dados comportamentais recolhidos fora do universo digital, recolhidos através da utilização de dispositivos de monitorização contínua, é capaz de elaborar (e reelaborar) a regra perfeita em função da situação específica a regular (A. J. Casey e A. Niblett, 2017, pp. 1401-1448; A. J. Casey e A. Niblett, 2019, pp. 333-35).

Enquanto se aguarda a criação de um código global de responsabilidade algorítmica – ainda que (parcialmente) algorítmico – onde se concorde que a ciência jurídica não é uma ciência neutra que exerce funções meramente cognitivas, mas uma ciência politicamente comprometida, cuja função é – também – elaborar modelos teóricos com função diretiva, cabe aos intérpretes a tarefa de preparar instrumentos e desenvolver categorias que permitam, por um lado, uma correta compreensão dos fenómenos observados e que, por outro, sejam de alguma utilidade tanto para os futuros legisladores como para os operadores práticos. Evitar a falácia da "familiaridade" que, ao levar-nos a recorrer a esquemas e categorias conhecidas para interpretar novos fenómenos, torna invisíveis para nós as suas novas características, impedindo assim, efetivamente, a sua correta compreensão.

Lembrando que um dos propósitos que o direito é chamado a atingir – seja na forma de uma recodificação, ainda que parcial, seja na de uma reconceitualização de cunho sapiencial – é proteger os sujeitos mais fracos e vulneráveis, e não fortalecer a posição daqueles que já detêm o poder.