Scoring baseado na Inteligência Artificial na calha de uma possível Regulação Omissa e Desproporcional
Diogo Morgado Rebelo

---

Inteligência Artificial e Scoring no Crédito ao Consumo é a recente obra de sua autoria. Obra publicada pelo Grupo Almedina e disponível no mercado desde 16 de Março de 2023.

Consulte a obra neste link.

---

Neste que é um período pós-pandémico demarcado pelo crescimento da taxa de inflação, são cada vez mais os indivíduos que se socorrem dos serviços de crédito ao consumo para finalidades várias e, aliás, já não mais tidas como secundárias ou supérfluas. Crescentemente, às pessoas singulares não lhes resta outra alternativa senão recorrer a crédito para custearem as despesas de educação e saúde – a melhor ver, tanto as suas como as dos membros do seu agregado familiar -, ou até para financiarem a aquisição de bens essenciais, como sejam, a título exemplificativo, móveis, eletrodomésticos e outros utensílios para o recheio da habitação, computadores, automóveis, et alii[i].

Hoje, a mais e melhor avaliação de solvabilidade concretiza-se, a título injuntivo – e, claro está, crescentemente em linha – nas preliminares da contratação[ii]. O crédito ao consumo deixara há muito tempo os canais físicos de ‘negociação’ estandardizada, encontrando-se atualmente disponível no ‘bolso’ dos (ciber) consumidores à ‘distância’ de um duplo clique[iii] e a todo o momento através das plataformas virtuais (i.e., em aplicações móveis ou sítios web)[iv]. Ora, num panótico como o da Banca 4.0.[v], imbuído na era digital, é gradual e incontestável a preponderância que a colocação em serviço de sistemas de scoring baseados na Inteligência Artificial (doravante, IA) tem na mensuração da capacidade de adimplência dos futuros (ou até, dos já atuais) devedores. Em todo o caso, já não são só as técnicas desta ciência e muito menos os programadores do software, mas antes os dados em si mesmo, que, quando recolhidos em quantidade e qualidade, figuram enquanto ‘Ás’ que uma instituição de crédito ou sociedade especializada pode usar no ‘jogo’ financeiro para ‘triunfar’ diante dos seus ‘adversários’, a concorrência[vi].

Ao mesmo tempo que se intensifica a omnipresença destas ‘válvulas de escape’ no quotidiano dos consumidores, urge – sem quaisquer maniqueísmos ou reservas monodisciplinares, típicos do Law in books[vii]europeísta – pugnar-se, de uma vez por todas, pela adoção de políticas a la Engenharia do Direito[viii]que obstem ao sobre-endividamento das famílias. Além de promoverem a concessão responsável de crédito ao consumo, a fixação de normas neste mercado deve adversar a instabilidade do sistema financeiro e, bem assim, ‘cristalizar’ uma maior certeza jurídica quanto ao regime subsumível a casos-tipo. Tudo isto enquanto se pulula engendrar efetivamente quais as medidas regulatórias (ou até, maxime, técnicas e organizativas) mais adequadas para, até certo ponto, se colmatarem os efeitos nefastos decorrentes da discriminação de grupos, da opacidade algorítmica, das intrusões ilegítimas e da imposição heterocontextualizada de um perfil de solvência a um candidato a crédito ao consumo. Grosso modo, em causa está, no prisma legiferante, descortinar como mais e melhor solucionar os ‘Pecados Capitais’[ix] que a ‘exploração’ preditiva do ‘petróleo’ contemporâneo (i.e., a informação suscetível de ser indexada, direta ou indiretamente, a uma pessoa singular) suscita[x]. É este, no essencial, o busílis da obra “Inteligência Artificial e Scoring no Crédito ao Consumo”. Dito de outro modo, o estudo micro setorial daqui derivado debruça-se na crescente e atual (ou antes, ‘energética’) inter-relação entre o Business Intelligence[xi], o Direito ao Consumo e o Direito à Proteção sobre Dados Pessoais.

Com efeito, desde logo, numa revisão de literatura praeter dogmática jurídica, não é difícil constatar-se que um tema como o scoring de crédito exibe uma complexidade tal que é inadmissível debruçar-se sobre o mesmo tendo por base tão-somente as ‘lentes progressivas’ que resultam do art. 18.º, n.º 6, da Proposta de Diretiva, de 30 de junho de 2021[xii] e, em particular, dos arts. 13.º, 14.º e 15.º, todos da Proposta de Regulamento relativo à IA[xiii]. Hodiernamente, o mens legislatoris pode, deve ou até tem, de uma vez por todas, ousar ampliar o pendor multidisciplinar e engenheristicamente exequível que a um regime jurídico como este deve subjazer. Tanto assim é que o obsolescente ‘estado-do-Art(igo)’ 22.º do Regulamento Geral sobre a Proteção de Dados Pessoais[xiv] (RGPD) sonega a quimérica natureza de um direito subjetivo, quando, na verdade, é não mais do que uma norma jurídica injuntivo-proibitiva[xv]. Representa, portanto, uma ‘mentira técnica’ que encobre a necessidade de ‘ficcionar’ o progresso tecnológico, se é que alguma vez com este ‘comando draconiano’ tal será possível[xvi].

Em todo o caso, nas circunstâncias em que um titular dos dados, candidato a crédito ao consumo, é ‘subjugado’ à definição do seu perfil de solvência com recursos a meios exclusivamente automatizados e baseados em técnicas de IA[xvii], o Direito da União Europeia postula que deverão ser asseguradas – aqui sim – quatro posições jurídicas ativas de vantagem, traduzíveis:

1. no direito à intervenção humana, ex post;
2. na obtenção de uma ‘explicação’ (XAI) inteligível do procedimento;
3. na mitigação da discriminação indireta; e, por último,
4. na sindicabilidade e contestabilidade do sentido da decisão machine-made.

Ora, relativamente a estas ‘salvaguardas (in)adequadas’ a que se refere expressamente o art. 22.º, n.º 3, do RGPD – reproduzidas, no essencial, pelo art. 18.º, n.º 6, als. a) a c), da Proposta de Diretiva, de 30 de junho de 2021-, a obra “Inteligência Artificial e Scoring no Crédito ao Consumo” clarifica o porquê de a praxis engenheirística na Ciência dos Dados ainda não ter ‘forças’ científicas suficientes para dar ao Direito respostas claras coadunáveis com os dilemas– exacerbadamente autopoiéticos- que este último lhe coloca[xviii].

“Aclama-se, neste seguimento, a necessidade que os juristas revelam de começar a navegar por mares nunca antes navegados, adquirindo conhecimentos para-transversais à poiesis jurídica, de forma a que não sejam adotadas politicas emancipadoras de um verdadeiro buraco negro da extraterritorialidade”[xix].

Dito isto, parece que o regime vigente (e aqueles propostos) são manifestamente insuficientes, desajustados e desadequados para fazer jus a fenómenos como o Big Data[xx]. Aliás, todo um conjunto dos óbices [(lei)go]rítmicos[xxi], resultantes tanto do art. 22.º do RGPD como do art. 9.º, n.º 1 da Carta Portuguesa de Direitos Humanos na Era Digital, fazem com que o Tribunal Constitucional possa apreciar a inconstitucionalidade por omissão parcial das “condições aplicáveis ao tratamento automatizado” – expressamente prevista no art. 35.º, n.º 2 da nossa norma normata – e consequentemente, decretar a preterição do cânone da razoabilidade pela não conformação dos ditames da legalidade contraordenacional[xxii]. Até hoje, os responsáveis pelo tratamento não conseguem ‘descobrir’ como ser compliant e obstar à aplicação de coimas verdadeiramente assoladoras do tecido empresarial de pequena e média dimensão[xxiii].  

Feitas as contas, afinal, este ‘episódio’ dos ‘moinhos de vento’ no scoring baseado na IA está prestes a tornar-se a própria metáfora da ‘loucura humana’, intelectualmente ‘homeopática’, antropocêntrica e até um pouco autopática. Neste mundo novo que se avizinha para o crédito ao consumo, os seres do Direito, ‘cavaleiros quixotescos’, obstinam investir as suas ‘lanças dogmáticas’ contra as ‘pás’ de uma tecnologia que é, em si mesma, amoral, tendo o autor, Diogo Morgado Rebelo – o Sancho Pança desta ‘narrativa’ – como testemunha atónita de toda esta propalada ‘ilusão’ jurídica[xxiv].  Também aqui, mais fiéis escudeiros’ que ‘batalhem’ contra as auxéticas conveniências axiológico-normativas, precisam-se!

---

[i] Vide, BP – Evolução dos novos créditos, 2022. Disponível em https://clientebancario.bportugal.pt/evolucao-dos-novos-creditos. Consultado a 12 de janeiro de 2023; e NOVA SBE & ASFAC – Impacto do Crédito ao Consumo na Economia Portuguesa, Relatório Final, 2019. Disponível em https://www.asfac.pt/documentos/impacto _do_credito_ao_consumo_na_economia_portuguesa.pdf. Consultado a 9 de março de 2022.

[ii] Cf. Jorge Morais Carvalho – Manual de Direito do Consumo, 7.ª ed. Coimbra, Almedina, 2021, pp. 437-440.

[iii] “Como acontece a contratação on-line? Clico a ordem, espero um lapso de tempo e depois reciclo a ordem. Isto quer dizer que contratamos sempre com duplo clique”, cit. Paula Costa e Silva – “Lição”. In: Lei de Comércio Electrónico: Anotada, Gabinete de Política Legislativa e de Planeamento do Ministério da Justiça, Coimbra, Coimbra Editora, 2005, p. 188 (pp. 181-189), com as devidas adaptações temáticas.

[iv] Cf. Carlos Moura – “FinTech e regulação no mercado bancário”. In: Fintech: desafios da tecnologia financeira (coord. António Meneses Cordeiro, Ana Perestrelo de Oliveira & Diogo Pereira Duarte), 2.º ed., Coimbra, Almedina, 2019, p. 23 (pp. 21-32).

[v] Cf. expressão ‘cunhada’ por Brett King – Bank 4.0, Banking Everywhere, Never at a Bank, New Jersey, John Wiley & Sons, Inc., 2018, p. 333.

[vi] Cf. Diogo Morgado Rebelo – ‘On the way to look at Big Data as an asset for CWA 4.0’ – EU Right to Suggestion of an IDSS MAS-based Scoring Case Study in Consumer Credit”. In: JusGov Research Paper Series, no. 3, 2021, p. 14 (pp. 3-24).

[vii] Vide, Jean-Louis Halperin – “Law in books and law in action: the problem of legal change”. In: Maine. Law Revew, vol. 64, no. 1, art. 4, 2011, pp. 46-76.

[viii] Vide, Diogo Morgado Rebelo – A engenharia do Direito, não artificial, Jornal Eletrónico Observador, 22 de março de 2021. Disponível em https://observador.pt/opiniao/a-engenharia-do-direito-nao-artificial/. Consultado a 12 de janeiro de 2023; Cesar Analide & Diogo Morgado Rebelo – Controlo Homem-Máquina nas Decisões Automatizadas da IA, Instituto de Inovação Legal e Tecnológica em Português (INOV@LEGAL], 8 de março de 2021. Disponível em https://inovalegal.org/controlo-homem-maquina-nas-decisoes-automatizadas-da-ia/. Consultado a 5 de março de 2022; e David Howarth – Law as Engineering: Thinking About What Lawyers Do, Edward Elgar Publishing, UK, 2013.

[ix] Cf. Diogo Morgado Rebelo; Cesar Analide & Joana Covelo de Abreu – “O Mercado Único Digital e a ‘(leigo)ritmia’ da pontuação de crédito na era da Inteligência Artificial”. In: Revista de Direito e Tecnologia, vol. 2, no. 1, 2019, pp. 39-42 (pp. 1-69).

[x] Vide, Cesar Analide & Diogo Morgado Rebelo – “A Inteligência Artificial na era data-driven: a lógica fuzzy das aproximações soft computing e a proibição de sujeição a decisões tomadas exclusivamente com base na exploração e prospeção de dados pessoais”. In: Forum de Proteção de Dados, n.º 6, 2019 (pp. 61-91).

[xi] Os sistemas implementados à escala Business Intelligence são, essencialmente, não mais do que estruturas programáticas habilitadas a compilar informação útil e gerar conhecimento especializado em bases de dados, socorrendo-se de técnicas de Inteligência Artificial, entre outras, para emitir sugestões automatizadas, estas tidas já hoje como auxiliares (senão mesmo substitutivas) da tomada de decisão – in casu, relativas à aprovação ou rejeição no crédito ao consumo. Cf. Maribel Yasmina Santos & Isabel Ramos – Business Intelligence: da Informação ao Conhecimento, Lisboa, FCA – Editora de Informática, Lisboa, 2017, pp. 78-79.

[xii] Vide, Proposta de Diretiva, do Parlamento Europeu e do Conselho, de 30 de junho de 2021, relativa a créditos a consumidores [COM (2021) 347 final], que no seu art. 47.º, prevê a revogação da Diretiva (UE) 2008/48/CE do Parlamento Europeu e do Conselho, de 23 de abril, relativa a contratos de crédito aos consumidores [SWD (2020) 254 final]. Disponível em https://eur-lex.europa.eu/resource.html?uri=cellar:2df39e27-da3e-11eb-895a-01aa75ed71a1.0010.02/DOC_1&format=PDF. Consultado a 14 de janeiro de 2023.

[xiii] Vide, Proposta de Regulamento do Parlamento Europeu e do Conselho que estabelece regras harmonizadas em matéria de Inteligência Artificial (Regulamento Inteligência Artificial) e altera determinados atos legislativos da União, de 21 de abril de 2021. Disponível em https://eur-lex.europa.eu/legal-content/PT/TXT/PDF/?uri=CELEX:520 21PC0206&from=PT. Consultado a 14 de janeiro de 2023.

[xiv] Vide, Regulamento (UE) 2016/679 do Parlamento e do Conselho, de 27 de abril de 2016, relativo à proteção das pessoas singulares no que diz respeito ao tratamento de dados pessoais e à livre circulação desses dados.

[xv] Cf. Diogo Morgado Rebelo –A engenharia do Direito … cit., supra; Giovanni Sartor – The impact of the General Data Protection Regulation (GDPR) on artificial intelligence, EPRS Study, June 2020, pp. 59-60. Disponível em https://www.europarl.europa.eu/thinktank/en/document/EPRS_STU(2020)641530. Consultado a 14 de janeiro de 2023; e Cesar Analide & Diogo Morgado Rebelo – “A Inteligência Artificial na era data-driven … cit. supra, p. 82.

[xvi] Cf. Diogo Morgado Rebelo & Filipa Campos Ferreira – “AI-Based Consumer’s Creditworthiness Assessment: Era of Automation, Future of Scoring, and the EU Policymaking on Automated Decision-Making”. In: E. Tec. Yearbook – Industry 4.0: Legal Challenges (coord: Eva Sónia Moreira), JusGov, 2022, p. 86 (pp. 77-105); e Cesar Analide & Diogo Morgado Rebelo – “A New Power Play for Winners in The Employment Relationship of Professional Football: How Lawful Is Artificial Intelligence to the Upcoming Portuguese ‘Big Data Ball’ Championship?”. In: Artificial Intelligence & Robots (coord. Maria Miguel Carvalho)ETec, JusGov, 2020, pp. 175-176 (pp. 171-202).

[xvii] Cf. Diogo Morgado Rebelo & Filipa Campos Ferreira – “AI-Based Consumer’s Creditworthiness Assessment … supra, pp. 87-90.

[xviii] Cf. idem, ibidem, p. 86 e pp. 94-103.

[xix] Cf. Diogo Morgado Rebelo; Cesar Analide & Joana Covelo de Abreu – “O Mercado Único Digital e a ‘(leigo)ritmia’ … cit., supra, p. 50.

[xx] Cf. idem, ibidem – “AI-Based Consumer’s Creditworthiness Assessment … supra, p. 80; e Ana Alves Leal – “Aspetos jurídicos da análise de dados na Internet (big data analytics) nos setores bancário e financeiro: proteção de dados pessoais e deveres de informação”. In: Fintech: desafios da tecnologia financeira (coord. António Meneses Cordeiro, Ana Perestrelo de Oliveira & Diogo Pereira Duarte), 2.ª ed., Coimbra, Almedina, 2019, p. 154, § 38 e pp. 183-187, §§ 50-52 (pp. 89-220).

[xxi] Cf. Diogo Morgado Rebelo; Cesar Analide & Joana Covelo de Abreu – “O Mercado Único Digital e a ‘(leigo)ritmia’ … cit., supra, p. 1 e p. 57.

[xxii] Cf. Diogo Morgado Rebelo – Parábola inconstitucional para o “ser” artificial, Jornal Eletrónico Observador, 3 de agosto de 2021. Disponível em https://observador.pt/opiniao/parabola-inconstitucional-para-o-ser-artificial/. Consultado a 15 de janeiro de 2023.

[xxiii] Cf. Diogo Morgado Rebelo; Cesar Analide & Joana Covelo de Abreu – “O Mercado Único Digital e a ‘(leigo)ritmia’ … cit., supra, p. 1 e p. 57.

[xxiv] Vide, Miguel de Cervantes Saavedra – Dom Quixote de la Mancha, Alfragide, Grupo Leya, 2021, pp. 116-122, com as devidas adaptações temáticas.