Bixonimania: a doença inventada que o ChatGPT diagnosticou e o que isso diz sobre IA no Direito

Pesquisadores submeteram chatbots médicos a uma doença fictícia chamada "bixonimania". Nenhuma das IAs testadas disse "isso não existe". Todas descreveram sintomas, sugeriram tratamentos, recomendaram exames. A doença é invenção. O diagnóstico, não. O experimento foi publicado na Nature neste mês e deveria ser leitura obrigatória para qualquer pessoa que usa inteligência artificial.

Uso IA no escritório todo dia. Não escrevo isso como quem quer desligar a ferramenta. Escrevo como quem já viu colega receber despacho de indeferimento porque a IA citou acórdão do STJ que nunca existiu, ou fico preocupado com a decisão rasa, sem análise em um caso difícil, genérica e claramente gerada com IA. O problema não é a IA. É como ela está sendo treinada agora e o futuro da nossa sociedade.

O que é model collapse

Toda IA generativa tem um ponto de corte. O GPT-4o, por exemplo, parou de aprender em outubro de 2023. A partir daí, o modelo não "sabe" nada novo — só projeta, por probabilidade, o que seria a resposta mais plausível.

O último Claude vai até janeiro de 2026. Isso resolve o problema?

De certa forma, sim. A IA é retreinada com novas informações e agora tem muito poder de buscar informações na web para se atualizar. O problema é que, diferente do experimento da "bixonimania", no mundo jurídico não há como filtrar decisões boas de decisões ruins, nem como filtrar decisões geradas por IA de decisões humanas.

Assim, temos um oceano de texto gerado por IA: posts, resumos de artigos, comentários de blog, até livros publicados. Quando a próxima geração de modelos for treinada, ela vai aprender majoritariamente com conteúdo que outra IA escreveu — é um ciclo sem fim.

Na ciência, isso já tem nome: model collapse. A cada geração, as nuances somem, o vocabulário empobrece, o modelo passa a concordar com qualquer coisa.

Por que na advocacia o risco é pior

No consultório médico, o paciente com um diagnóstico errado pode buscar uma segunda opinião. No processo, a decisão mal feita — e pensando em um direito de outro país — já foi juntada aos autos, prejudicando o processo e, em última análise, a vida dos jurisdicionados.

Para o advogado, a petição com jurisprudência inventada já foi protocolada e o prejuízo pode ser grande.

Alguns vetores concretos de risco que já vi:

• Jurisprudência inventada;
• Juiz que esqueceu o prompt na sentença;
• Legislação inventada (um pequeno parágrafo que não existia);
• Teses erradas, provavelmente importadas de outro tribunal e de outro país;
• Artigo revogado que já não estava mais vigente;
• Lei que permitia uma ação que não fazia sentido algum (ex.: Aux. Acidente para Contribuinte Individual).

A Resolução CNJ 615/2025 começou a pautar o tema, mas parece-me aquelas regras bem genéricas para inglês ver — puro blá blá blá jurídico.

Como se proteger sem abandonar a ferramenta

Quatro práticas que adotei depois de apanhar:

1. Conferência manual da decisão jurisprudencial;
2. Atenção à data de corte (cutoff) do modelo;
3. Usar as fontes de verdade: instruir a IA sobre o que deve ser considerado como verdade e depois conferir tudo para ver se não houve geração indevida — Constituição, Códigos e Leis;
4. Trabalhar com criatividade baixa na IA: temperatura próxima a zero.

O art. 93, IX da Constituição exige fundamentação em toda decisão. O mesmo princípio, na advocacia, significa: você precisa saber de onde vem cada citação que assina.

O ponto que poucos dizem

IA generativa não foi feita para dizer a verdade. Foi feita para prever a próxima palavra com a maior probabilidade de ser coerente. Coerência não é correção. Uma frase pode ser fluente, convincente, bem construída — e completamente falsa. Para um texto de blog, é um problema pequeno. Para uma peça processual, é risco ético, financeiro e de responsabilização civil.

O futuro da IA para advogados não está nos modelos que geram mais texto mais rápido. Está nos modelos que declaram cutoff, mostram a fonte, permitem auditoria e admitem quando não sabem. Enquanto o mercado não entregar isso por padrão, a responsabilidade pelo controle de qualidade fica com quem assina a peça.

Que tipo de IA você está usando hoje no escritório: a que cita sem fonte ou a que aceita ser auditada? Me conta nos comentários — quero ver como está a prática de quem também roda ferramenta de IA na rotina jurídica.