Cristiano Dias
Advogado.
Licenciatura em Direito na Faculdade de Direito da Universidade de Lisboa (Clássica).
Mestrado em Direito Comercial na Faculdade de Direito da Universidade de Lisboa (Clássica).
Pós-Graduação Avançada em M&A e Corporate Litigation (Clássica).
Consulte a sua obra neste link.
Quando há 2 anos escrevi pela primeira vez sobre este tema, sabia que seria uma questão de tempo até as alucinações da IA chegarem aos tribunais de todo o mundo, incluindo Portugal. O crescimento de casos de alucinações era de prever, face à utilização desenfreada da IA, mas ainda assim não deixa de ser surpreendente o seu aumento exponencial.
Há algumas notícias e estudos que apontam para mais de mil processos judiciais em todo o mundo em que se verificaram alucinações da IA e centenas de advogados sancionados. O investigador Damien Charlotin (que se tem dedicado nos últimos anos ao estudo da relação entre o direito e a inteligência artificial) criou um projeto independente composto por uma base de dados, atualizada periodicamente, de decisões judiciais em que se detetaram casos de alucinações de IA generativa. Esta base de dados está disponível em https://www.damiencharlotin.com/hallucinations/.
De acordo com a AI Hallucination Cases database de Damien Charlotin, foram identificados, até hoje, mais de 2250 casos de alucinações em processos judiciais em todo o mundo. Os EUA estão na linha da frente com mais de 1500 casos, seguidos do Canadá com mais de 235 casos e da Austrália com mais de 110 casos. Na Europa, o Reino Unido é o país com maior número de casos – mais de 85.
Consta nessa base de dados 1 caso em Portugal. Trata-se de um processo-crime (com o número 986/23.7GAFAF.G1), no qual o arguido, em sede de recurso, citou acórdãos dos Tribunais superiores, incluindo do Supremo Tribunal de Justiça, que não existem. Na sua decisão proferida em 10 de fevereiro de 2026, o Tribunal da Relação de Guimarães foi particularmente duro ao mencionar que: “Nesta fase de mudanças tecnológicas galopantes, sabemos todos que a inteligência artificial reveste uma característica que habitualmente se aplica aos seres humanos: alucina, no sentido de produzir informações falsas para preencher lacunas de dados – fornece ao utilizador títulos de livros que não foram escritos, de filmes que não foram feitos ou fontes que não existem, como se fossem credíveis. Porém, é de exigir bastante mais da inteligência humana, sobretudo quando ao serviço de uma função tão decisiva no tecido social como é a de administrar – e auxiliar – a Justiça e os Tribunais.”
Continua o Tribunal dizendo que: “É absolutamente inadmissível – e não pode deixar de se reflectir na condenação em custas do recorrente, caso haja sucumbência, bem como do envio de cópia deste acórdão à Ordem dos Advogados, face à possível violação dos deveres profissionais por parte de um dos seus membros – que, ao longo das citadas peças processuais, sejam identificados e transcritos excertos de seis (alegados) acórdãos daqueles Tribunais que não estão publicados na fonte indicada pelo recorrente nem em qualquer outra (e, acrescente-se, no caso do Tribunal da Relação de Guimarães, nunca lá correram termos nem existiram com tais números, o que foi possível apurar pela consulta do sistema Citius)!” (destaque nosso)
E termina
dizendo que: “Felizmente, as decisões judiciais são produzidas por mentes
humanas, críticas e atentas, de juízes com carreiras de décadas, experimentados
no que fazem e (também) com literacia informática, que não deixam passar em
claro uma situação tão aberrante.”
No final, o Tribunal da Relação de Guimarães cumpriu a promessa e, além de condenar o arguido no pagamento de uma taxa de justiça agravada, ordenou o envio de uma cópia do acórdão para a Ordem dos Advogados “para os efeitos tidos por convenientes perante o respectivo estatuto profissional”.
No Reino Unido, os casos de alucinações de IA continuam a suceder-se e são cada vez mais noticiados. Recentemente, o High Court repreendeu e reportou à Solicitors Regulation Authority um dos principais escritórios de advogados do Reino Unido por ter induzido o tribunal em erro ao citar por duas vezes, de forma incorreta, uma regra jurídica no âmbito de um processo de insolvência relativamente à exoneração do liquidatário. O erro só foi detetado depois de o tribunal ter questionado a citação. O aspeto mais gravoso deste caso é o facto de as conversas entre o advogado e o chatbot revelarem a própria incerteza do chatbot quanto à formulação legal exata da norma em causa. O escritório de advogados acabou por pedir desculpas publicamente ao tribunal e anunciar a intensificação de medidas para garantir a não repetição do erro.
O mesmo se tem passado nos Estados Unidos, onde esta situação parece um tanto ou quanto descontrolada. Há um caso em que um escritório de advogados, no estado da Califórnia, foi condenado a pagar uma multa de 31 mil dólares por ter redigido uma peça processual, com recurso a ferramentas de IA, com citação de decisões judiciais falsas e com fontes inventadas. Há ainda outro caso, no mínimo, surreal: um advogado já foi repreendido, pelo menos, quatro vezes pelos tribunais federais por erros em peças processuais gerados pela IA. Este advogado já foi alvo de sanções por juízes federais do Oklahoma, Alabama, Texas e Tennessee.
Em Espanha, não são conhecidos casos de alucinações, mas a utilização das ferramentas de IA também tem sido posta em causa nos tribunais. Recentemente, o Conselho Geral do Poder Judicial (CGPJ) considerou que um juiz praticou uma infração grave ao ter utilizado a IA – neste caso, o ChatGPT – para redigir a sentença de um processo judicial. Foi considerada uma infração grave não pela utilização per se do ChatGPT como ferramenta de auxílio, mas em substituição das funções jurisdicionais do juiz. O juiz acabou por ser condenado a pagar a quantia de mil euros. Em janeiro deste ano, o CGPJ já tinha aprovado regras no sentido de um juiz não poder recorrer à IA para redigir sentenças, avaliar factos e / ou elementos probatórios. Regra idêntica foi aprovada, em abril deste ano, pela Procuradoria-Geral da República para os magistrados do Ministério Público na designada “Carta para a utilização ética da Inteligência Artificial (IA)”.
O tema das alucinações da IA é especialmente importante porque estamos a falar de informação factualmente incorreta que é gerada pela IA e apresentada de forma coerente, parecendo plausível e geradora de confiança. É uma alucinação quando a resposta dada é contraditória com a informação que foi dada aquando da enunciação da pergunta. Também há alucinação quando a resposta acrescenta informação nova que não resulta dos dados fornecidos na pergunta, nem pode ser confirmada a partir deles.
Há um facto que é fundamental e de que precisamos todos de ter consciência: a IA e as alucinações andarão sempre de mãos dadas. As alucinações podem ser mais controladas e reduzidas, mas não deixarão de existir porque são próprias dos Large Language Models (LLMs) – são inevitáveis. Os LLMs funcionam com base na previsão sobre qual será a próxima palavra numa sequência lógica. Os LLMs não produzem um raciocínio crítico sobre os factos que estão a ser apresentados no sentido da sua veracidade ou falsidade. Todo o processo de adivinhação tem naturalmente falhas advindas do espectro da incerteza. Há, por isso, estudos que afirmam a alucinação como uma inevitabilidade e como uma consequência da IA tal como está estruturada. Como refere Ricardo Pacheco Almeida (AI Senior Tech Lead da PwC Portugal) no artigo recente intitulado “Alucinações em GenAI: o que são e como reduzir riscos”: “As alucinações em GenAI não são falhas ocasionais, na verdade, são uma consequência inevitável dos LLMs. O desafio já não é eliminá-las, mas gerir o risco e ancorar cada resposta em factos verificáveis”.
Poder-se-ia achar que a existência destas alucinações poderia afastar os advogados do uso das ferramentas de IA por manifesta falta de confiança nos resultados apresentados, porém, os casos acima identificados demonstram precisamente o contrário: cada vez há mais advogados a utilizar as ferramentas de IA e, por sua vez, há cada vez mais casos de alucinações.
A não ser que ocorra algum evento completamente imprevisto, a nossa sociedade não voltará a uma era em que a IA não esteja presente em tudo o que fazemos. E na justiça não será diferente. Parece-me utópico imaginar que voltaremos a um dia em que as ferramentas de IA não sejam utilizadas em tudo o que fazemos. A única mudança que existirá é o tipo de ferramenta que será utilizada. Umas ficarão obsoletas, outras mais eficientes e outras mais rápidas aparecerão. Negar isto é negar o óbvio.
Dito isto: e agora?
Parece-me que o caminho mais adequado não passa por proibir o uso das ferramentas de IA na justiça, mas sim por reforçar a supervisão humana de forma a evitar a ocorrência dessas alucinações.
O Council of Bars and Law Societies of Europe (CCBE) tem lançado alguns guias que visam ajudar nestes temas. Recentemente, lançou um guia técnico sobre a utilização de ferramentas de IA por advogados. Em 2025, já tinha lançado guidelines sobre o uso do cloud computing e, com especial relevância, um guia sobre a utilização da IA generativa pelos advogados.
É neste guia que a CCBE nos dá algumas pistas importantes sobre este tema.
Primeiro, as alucinações da IA – e, em particular, a criação ficcional de casos judiciais e de citações doutrinárias inexistentes – são sinalizadas como um dos sete principais riscos provenientes da utilização das ferramentas de IA. Os outros são: exposição de dados confidenciais, respostas enviesadas ou complacentes, a falta de transparência no funcionamento dos sistemas, violações de propriedade intelectual, vulnerabilidades de cibersegurança e fraudes (como as deepfakes).
Segundo, a CCBE estabelece alguns princípios que devem reger a utilização das ferramentas de IA pelos advogados para mitigar os riscos enunciados, com especial destaque para: (i) o princípio da confidencialidade, segundo o qual os advogados devem abster-se de utilizar informação pessoal, confidencial e / ou qualquer outra informação relacionada com os clientes nas interações com as ferramentas de IA, salvo se existirem mecanismos que protejam a confidencialidade; (ii) o princípio da competência profissional, segundo o qual os advogados devem, não só verificar os resultados gerados pela IA antes de incorporarem ou refletirem no seu trabalho, como também compreender as limitações e os riscos associados à utilização destas ferramentas, frequentando formações; (iii) o princípio da independência, segundo o qual os advogados devem manter a sua independência profissional nas soluções que apresentam, não deixando que os enviesamentos e a complacência que possam estar refletidos nos resultados influenciem a sua conduta e o seu aconselhamento imparcial; e (iv) o princípio da transparência com o cliente, segundo o qual os advogados devem assegurar que são transparentes com os clientes quanto à utilização das ferramentas de IA sempre que tenham motivos para crer que este poderia objetar a sua utilização ou apenas permitir a mesma em determinadas condições. A CCBE ainda alerta para o tema da prevenção de conflito de interesses, salientando que a utilização destas ferramentas pode colocar em causa o cumprimento das regras sobre conflitos de interesses, porquanto os sistemas de IA podem ter sido treinados com informação confidencial de outros clientes da mesma sociedade de advogados, podendo existir uma partilha involuntária de informação.
Parece-me que um advogado só conseguirá verdadeiramente evitar ser uma vítima das alucinações da IA se tiver sempre presentes dois princípios fundamentais quando recorre a esta para executar o seu trabalho:
Primeiro, o advogado deve analisar criticamente os resultados apresentados pela IA. O advogado não deve confiar indiscriminadamente nos resultados apresentados, sejam simples ou complexos, curtos ou longos. O princípio será sempre o de verificar (i) se as conclusões apresentadas estão corretas e (ii) se as premissas também são as corretas. A verificação deve ser exaustiva e sem deixar pontas soltas. Como se viu pelos casos acima, uma norma incorretamente citada ou a citação de uma decisão inexistente é um erro profissional grosseiro, que revela uma negligência grave e que pode trazer danos reputacionais sérios. O trabalho final é do advogado, não é da IA. A IA pode ajudar em determinados pontos, mas não substitui o discernimento crítico, a independência e o juízo ético do profissional que o advogado deve ter (princípio da verificação).
Segundo, o advogado deve promover uma formação contínua quanto à utilização das ferramentas de IA. Só um advogado consciente das limitações da IA é que estará mais capaz de detetar situações que podem potenciar alucinações e / ou o que fazer para evitá-las. Saber (ainda que não em detalhe do ponto de vista técnico) qual a melhor forma de utilizar a ferramenta de IA que usa no seu dia a dia, designadamente sobre (i) a melhor forma de elaborar o prompt, (ii) que tipo de informação deve ser previamente transmitida e / ou (iii) de que forma essa transmissão deverá ter lugar, é um pressuposto indispensável para que o resultado possa ser mais fidedigno. Nos tempos de hoje, um advogado não precisa de estar só atento às alterações legislativas, precisa também de acompanhar a contínua evolução tecnológica na IA, sob pena de não tirar o melhor partido das ferramentas e – para o que aqui importa – estar mais exposto a alucinações (princípio da competência profissional).
Se estes dois princípios forem seguidos a cada utilização das ferramentas de IA, os riscos provenientes da sua utilização serão mais reduzidos. O maior combate que se pode fazer às alucinações é ser diligente, responsável e minucioso. É consultar todas as fontes dadas em cada resultado. É pedir as fontes dos resultados. É rever todos os outputs dados pela IA. É desconfiar das soluções apresentadas.
Para um advogado mais sénior a responsabilidade (e os desafios associados) não é diferente daquela que existe quando se revê e analisa o trabalho elaborado por advogados mais jovens. Deve sempre proceder a uma revisão detalhada e verificar as fontes das soluções apresentadas. Se estamos agora preocupados com uma máquina que erra, não podemos esquecer que as pessoas também erram e o erro sempre fez parte do processo. Cabe aos advogados fazerem tudo o que estiver ao seu alcance para reduzirem o erro. A grande diferença que acabará por existir entre a revisão do output da IA e o dos advogados mais novos é a confiança. Se com o passar do tempo vamos confiando mais nas pessoas com quem trabalhamos e acabamos por ir aliviando o detalhe da revisão das fontes, com a IA isso não pode acontecer. Devemos sempre fazer fact check. Seja a primeira ou a milésima vez que usamos aquela ferramenta. Tenha sempre acertado ou não. O erro da IA (tal como o erro do advogado mais jovem) é também erro nosso. É de todos.
O que não pode acontecer – não pode mesmo – é um advogado apresentar peças processuais que contenham alucinações da IA. Isso, recorrendo às palavras do Supremo Tribunal do Oklahoma, “shows a reckless disregard for the truth and an indifference to accuracy”. Algo que deve envergonhar qualquer advogado e afetar a sua reputação (e daqueles que consigo trabalham).