IA e a Banalidade das Decisões Judiciais

A IA está espalhada por tudo e afetou a vida de todas as pessoas de uma forma ou de outra. Ela veio, mudou a forma de trabalhar, de pensar e de executar tarefas.

As ferramentas estão cada vez melhores, com contexto maior, ingestão de dados mais eficiente e métodos de saída mais personalizados. É um caminho sem volta.

Mas até que ponto podemos deixar isso seguir no modo automático, olhando os outputs como macacos abobalhados de boca aberta, e passarmos a pensar um pouco no reflexo do que isso pode causar em nossa vida e na nossa sociedade?

Hoje a reflexão que trago é sobre o mundo judicial, ambiente em que a IA se disseminou indiscriminadamente e até com o apoio do próprio Poder Judiciário, que lançou programas específicos para isso, como o Banco Nacional de Prompts — apenas para citar uma iniciativa dentre várias.

Recentemente tivemos o caso do juiz do TJMG que deixou escapar um pedaço do seu prompt no voto. O caso era de um estupro de vulnerável e "furou a bolha", trazendo a reflexão sobre o assunto.

Este caso notório é apenas a ponta do iceberg e isso nos leva à conclusão inafastável de que milhões de pessoas estão tendo suas vidas julgadas com IA de forma completamente desregulada. Podemos, então, trazer alguns questionamentos.

Para onde vai a informação e com que autorização?

A resolução do CNJ nº 396/2021 prevê que é proibido o uso de tecnologias e sistemas sem homologação do CNJ ou tribunal.

Entretanto, não encontrei nenhuma informação que permita o uso da IA pelos magistrados, nem quais são as empresas autorizadas, quais são os modelos utilizados e com qual critério.

O envio dessas informações foi autorizado pela LGPD? As pessoas sabem que seus dados estão sendo enviados por aí de qualquer forma, sem qualquer tipo de anonimização? Alguém está fiscalizando os prompts que o Judiciário está enviando?

Qual IA está sendo usada, qual empresa e qual é o modelo?

Não há a mínima clareza do que está sendo utilizado e de que forma. O juiz pode estar julgando seu caso com o ChatGPT, com o Claude ou até com uma IA chinesa, sem que você possa ter o mínimo poder de influência sobre isso.

Saber qual é o modelo utilizado muda totalmente a regra do jogo. A parte deve poder questionar não só o input/output, mas também como o modelo foi treinado inicialmente.

Que informações podemos ter sobre o treinamento? Foram decisões reais, de que tribunais (e de que países)? Como é a base interpretativa desta inteligência artificial? Que regras gerais ela segue?

Como a informação é inserida no sistema de IA

Uma atitude desprezível com a própria magistratura é utilizar a ferramenta para terceirizar sua decisão, mas uma pior ainda é usá-la para justificar a "escolha pessoal" e pedir para a IA fundamentar:

Eu quero absolver, me ajude a fundamentar isso!
Encontre pontos falhos para eu condenar essa parte!

Claro que a IA vai gerar o conteúdo de acordo com o que o usuário insere — essa é a programação dela. Ela não é feita para atingir um ideal de Justiça e Verdade. A realidade se molda àquilo que o usuário pede, mesmo que a IA tenha que inventar ou criar coisas mirabolantes.

O caminho correto? Sinceramente, não sei. Porque ainda é muito difícil avaliar o impacto dos prompts e das informações inseridas e o output realizado. Mesmo que seja para tarefas básicas de relatório. E se algum ponto importante for perdido no meio de um processo judicial gigante?

Alguns processos são, sim, muito bem padronizados e parametrizáveis — são inputs de entrada e saída, geralmente algo como uma execução fiscal ou até mesmo alguns benefícios previdenciários. Nesses casos, a adoção da IA seria muito interessante e já existem, na verdade, muitas automações que agilizam esse tipo de processo.

O problema está justamente "no problema". Ou seja, nos casos difíceis, que ninguém realmente quer julgar. Aquele processo que, quando chega no gabinete do magistrado, todo mundo fica de cabelo em pé; aquele que, quando era processo físico, ficava sempre embaixo de todos os demais.

Quem está decidindo afinal?

Se tudo é decidido por IA, para que ainda precisamos de juízes e desembargadores?

Não seria melhor contratar técnicos de informática para organizar os documentos e pelo menos alimentar a IA adequadamente, de uma forma que nós pudéssemos pelo menos participar?

Caso X:

Documentos inseridos na IA: Petição Inicial, Contestação, Provas;
Prompt: Avalie o caso sob a perspectiva do direito civil e da Constituição etc.;
Modelo: Claude / ChatGPT etc.
Output 1, Output 2, Output 3: ?

Tudo bem, é só para relatórios e minutas

Um argumento que sempre aparece quando discutimos sobre o uso da IA no Judiciário é: "Tudo bem se é só para relatórios estratégicos, para elaborar minutas ou outras peças 'não fundamentais'."

Não, não está tudo bem. O juiz é pago para analisar o processo e todas as provas envolvidas. A IA não tem discernimento suficiente para entender a dimensão de uma prova-chave que pode mudar toda a perspectiva de análise processual.

A IA vive no mundo ideal — o mundo dos sonhos em que as notificações e intimações chegam para todas as partes, em que todas cumprem suas obrigações. O mundo real é dinâmico e imperfeito. A prova não vai estar lá do jeito que a gente imagina.

Ao se afastar das provas e do processo, delegando diversas tarefas "menores" para a IA, o juiz se divorcia da realidade processual. Ele não tem mais o sentimento do caso, não tem o sentire, como nós falamos. O processo em si já é uma representação falha da realidade — e muito pior quando é resumido e re-resumido diversas e diversas vezes.

Experimente: jogue sua petição na IA, peça para ela fazer uma peça e depois vá discutir com seu cliente sem ter sequer lido as provas, para ver o que eu estou falando.

A IA é estática. Ela não aprende, não se relaciona com outras pessoas que têm sentimentos, vontade própria e vivem em um mundo dinâmico que muda todos os dias.

Ao permitir que a IA tome conta das decisões judiciais, é permitir que o Direito fique estagnado dentro de uma caixa imutável, selada para sempre — diametralmente oposto a tudo que é pensável e imaginável no Direito.

Eu sou contra a IA?

Eu não sou contra a IA. Eu a uso todos os dias, para várias áreas — de organizar meu extrato bancário a me ajudar na programação da minha startup. Mas o uso desta ferramenta deve ser ponderado, especialmente por agentes públicos que, mais do que todos nós, agem com "poder de império", que representa a força do Estado e a responsabilidade dos agentes para com os administrados.

Eficiência e celeridade são boas, mas eu sempre falo para os meus clientes quando vamos adotar uma determinada estratégia processual:

É melhor você levar mais tempo em um processo mais instruído, julgado por um juiz mais capacitado, ou ter um processo que vai tramitar mais rápido com menor chance de sucesso? Falando claramente: "Você está com pressa para perder ou com paciência para ganhar?"

Fundamentação e clareza

Clareza e fundamentação são conceitos presentes em todo o ordenamento jurídico nacional — são premissas máximas que caminham de mãos dadas. Não há decisão sem fundamentação adequada. Na verdade, seria uma não decisão, uma não sentença.

Então por que não é possível saber quais os prompts do banco de modelos dos juízes? Por que não é possível saber quais inteligências estão sendo usadas? Para onde os dados estão sendo enviados? E como foram enviados?

Não seria direito das partes discutir como o prompt foi feito e de que forma? O que foi esquecido de ser inserido?

Enfim, essas informações deveriam ser claras e fazer parte da discussão judicial — do contrário, estamos jogando um jogo de sombras que não pode ser vencido.

O teste

Não existe ainda um parâmetro de como as informações devem ser inseridas: qual forma, qual contexto, com base em que legislação, como o processo será julgado pela IA. Há apenas uma névoa traiçoeira que paira sobre o Judiciário e sobre todas as pessoas que precisam desta máquina. Enquanto não existirem testes extensos comparando prompts, outputs, contexto e milhares e milhares de decisões humanas com as conclusões da IA, não teremos clareza de como proceder de forma segura e honesta com os jurisdicionados.