Mariana Carneiro
Jurista e Mestre em Direito da União Europeia pela Escola de Direito da Universidade do Minho, com foco em Proteção de Dados, Regulação de Inteligência Artificial e Direitos Fundamentais
O Problema do Ónus da Prova Diante dos Vieses da Inteligência Artificial é a obra de sua autoria. Obra publicada pelo Grupo Almedina.
Consulte a sua obra neste link
A crescente utilização de sistemas de Inteligência Artificial tem transformado profundamente a nossa realidade, nomeadamente através da automatização de decisões de elevada complexidade e impacto na vida dos cidadãos. A promessa inicial era a de uma tecnologia que inauguraria uma era de pura eficiência, precisão e imparcialidade. Porém, a ilusão da objetividade algorítmica dissipou-se rapidamente. Na prática, estes sistemas demonstraram ter uma capacidade alarmante para interiorizar, reproduzir e amplificar os preconceitos e as desigualdades estruturais que marcam a sociedade, revestindo as suas decisões de uma perigosa aura de neutralidade.
Um dos exemplos mais polémicos e ilustrativos desta realidade ocorreu com o lançamento do Apple Card. O programador David Heinemeier Hansson denunciou publicamente que o algoritmo responsável pela análise de crédito lhe havia atribuído um limite financeiro vinte vezes superior ao da sua esposa. Este tratamento amplamente diferenciado ocorreu apesar de o casal partilhar contas bancárias e entregar declarações fiscais conjuntas. O cofundador da Apple, Steve Wozniak, relatou uma experiência idêntica. Quando confrontados com as queixas de uma evidente discriminação de género, os representantes do cartão viram-se perante um impasse. Garantiam que o sistema não avaliava a variável do género, mas admitiam a sua incapacidade para explicar a lógica do processo decisório.
Esta impossibilidade de justificar uma decisão automatizada não resulta de uma mera ocultação deliberada por parte das empresas, mas sim de uma caraterística estrutural destes sistemas. A natureza intricada das redes neuronais profundas que alimentam estes algoritmos cria um fenómeno conhecido como efeito de “caixa negra”, obscurecendo completamente a lógica interna que dita os resultados. Quando a complexidade técnica transcende a capacidade cognitiva humana e o processo decisório se torna impenetrável até para os próprios criadores, o cidadão depara-se com um obstáculo intransponível. Surge, então, a questão central que desafia o atual quadro jurídico europeu: como pode um indivíduo defender-se de uma decisão automatizada desfavorável e discriminatória quando o próprio algoritmo é inescrutável?
Crise processual: o colapso do ónus da prova
O Direito da União Europeia, através das suas diretivas antidiscriminatórias, consagra um mecanismo processual pensado precisamente para reequilibrar a balança entre as partes num litígio: a inversão do ónus da prova. Em teoria, basta que a vítima apresente indícios credíveis e suficientes de que sofreu um tratamento discriminatório para que o encargo probatório se transfira para o demandado. A partir desse momento, caberia à parte que detém o sistema demonstrar que a sua decisão foi justa.
No entanto, no contexto da discriminação algorítmica, este mecanismo protetor depara-se com um obstáculo fatal: a opacidade e a complexidade técnica dos sistemas geram uma profunda assimetria informacional entre os detentores destas tecnologias e os cidadãos. A exigência de reunir indícios iniciais torna-se numa verdadeira barreira probatória para o lesado, que não tem acesso nem capacidade para auditar lógicas de decisão impenetráveis.
Este desafio agrava-se exponencialmente quando lidamos com o uso de variáveis substitutas e, consequentemente, discriminação indireta. Os sistemas de Inteligência Artificial raramente utilizam categorias protegidas de forma direta, como a etnia ou o género. Em vez disso, baseiam-se em dados aparentemente neutros que acabam por funcionar como espelhos dessas mesmas caraterísticas.
Otimismo regulatório vs. Realidade probatória
O quadro jurídico europeu tem tentado responder a estes desafios através de uma estratégia multinível. O Regulamento Geral sobre a Proteção de Dados (RGPD), nomeadamente através do artigo 22.º, estabelece garantias contra decisões baseadas exclusivamente em tratamentos automatizados. Paralelamente, o novo Regulamento da Inteligência Artificial (Regulamento da IA) introduziu uma arquitetura de controlo extremamente exigente para os sistemas de alto risco, impondo obrigações de transparência técnica, a elaboração de documentação técnica detalhada, o dever de supervisão humana, entre outros. De forma pioneira, consagra no artigo 86.º um direito à explicação sobre decisões individuais tomadas por sistemas de alto risco.
Contudo, a eficácia destas medidas não pode ser lida de forma simplista. Se interpretarmos o direito à explicação como uma mera obrigação informativa genérica, corremos o risco de reduzir a tutela do cidadão a uma formalidade técnica, incapaz de suprir a assimetria informacional e o défice probatório. Pelo contrário, uma leitura sistémica dos artigos sustenta que o RGPD, em conjugação com as suas salvaguardas, consagra um verdadeiro direito à explicação sobre a decisão específica aplicada ao caso em concreto. Para que a tutela seja efetiva, a informação deve ser inteligível e permitir ao lesado compreender a racionalidade do resultado, e não apenas a funcionalidade abstrata do sistema.
O grande problema reside no facto de que, mesmo com um robusto direito à explicação, persiste uma lacuna processual crítica após o abandono da Proposta da Diretiva da Responsabilidade da IA. Esta Proposta tinha o mérito de prever mecanismos de divulgação de meios de prova e presunções de causalidade, ferramentas indispensáveis para que a vítima de discriminação algorítmica conseguisse, efetivamente, inverter o ónus da prova. Sem estes instrumentos ex post, a vítima permanece numa posição de fragilidade: o Regulamento da IA oferece a via da transparência ex ante, mas o ordenamento jurídico continua órfão de mecanismos processuais eficazes para forçar a produção de prova em litígios marcados pela opacidade dos algoritmos.
O futuro da tutela jurídica
A automatização de processos decisórios não erradica, por si só, os enviesamentos estruturais da sociedade. Pelo contrário, corre o risco de os tornar invisíveis sob uma ilusão de neutralidade e imparcialidade técnica. Sem um enquadramento jurídico que forneça ferramentas probatórias eficazes para o cidadão no paradigma digital, a promessa de uma Inteligência Artificial justa transformar-se-á, inevitavelmente, num mecanismo de perpetuação de desigualdades históricas.
A salvaguarda dos direitos fundamentais num cenário de crescente automatização dependerá, portanto, da nossa capacidade de exigir dos algoritmos o mesmo escrutínio e responsabilidade que exigimos das decisões humanas. É este o debate central que abordo e aprofundo na minha obra, “O Problema do Ónus da Prova diante dos Vieses da Inteligência Artificial. Uma Análise à Luz das Diretivas Antidiscriminatórias Europeias”, um contributo que procura fornecer as respostas necessárias para que o Direito da União Europeia assegure uma tutela jurisdicional efetiva na era dos algoritmos.