TCESP Alerta: IA sem Revisão Legal é Risco Inaceitável

O Tribunal de Contas do Estado de São Paulo (TCESP) emitiu um alerta crítico sobre o uso de Inteligência Artificial (IA) sem revisão adequada em processos e petições judiciais, sinalizando um risco sistêmico à integridade do sistema jurídico brasileiro. A advertência, divulgada em 04/06/2026, destaca que, embora a IA ofereça ganhos de eficiência, sua implementação descontrolada pode comprometer decisões judiciais, gerar vieses não detectados e violar princípios constitucionais fundamentais, como a motivação obrigatória e a contraditória. Este artigo analisa os riscos técnicos, éticos e operacionais dessa tendência, com base em dados reais, estudos de caso e protocolos de governança exigidos pelo próprio TCESP, alinhando-se à necessidade urgente de equilibrar inovação e segurança jurídica.

A Urgência da Fiscalização: Por Que a Revisão Humana é Não Negociável

Professional woman reviewing holographic AI data on transparent screen in sleek control room, cool blue ambient lighting, human oversight concept, futuristic legal tech dashboard

O TCESP não se opõe à inovação tecnológica, mas insiste que a IA deve ser uma ferramenta complementar, não substituta, do julgamento humano. Em seu relatório técnico de 2026, o tribunal enfatiza que “processos e petições com IA sem revisão humana apresentam risco de erros conceituais, falta de fundamentação jurídica e violação ao contraditório”, fatores essenciais para a legitimidade do sistema judiciário. Dados do Conselho Nacional de Justiça (CNJ) indicam que 37% dos processos judiciais no Brasil já utilizam algoritmos de IA para tarefas como triagem, redacção de peças e análise de documentos, mas apenas 12% desses casos possuem supervisão contínua de juristas. Este descompasso evidencia uma lacuna crítica: a automação está superando a capacidade de fiscalização, criando um “buraco negro” de responsabilidade. A Lei nº 14.133/2021, que regulamenta o uso de tecnologias digitais no serviço público, já prevê a necessidade de validação humana em sistemas automatizados, mas sua aplicação prática ainda é rara. O TCESP, como guardião da contabilidade pública, reforça que a ausência de revisão não é apenas um problema operacional, mas um risco à democracia, já que decisões que afetam direitos fundamentais não podem ser delegadas a caixas-neuras sem auditoria.

Riscos Técnicos e Éticos: Quando a IA “Erra” com Conseqüências Reais

Futuristic medical AI interface showing error warning with human hand reaching to intervene, dramatic red and amber lighting, ethical dilemma visualization, clean modern hospital setting

Um caso emblemático ocorreu em 2025, quando um tribunal regional do Rio de Janeiro utilizou um modelo de IA para gerar petições de defesa em processos trabalhistas. O algoritmo, treinado com dados históricos tendenciosos, produziu argumentos que ignoravam precedentes recentes do Tribunal Superior do Trabalho (TST), resultando em decisões contrárias à jurisprudência consolidada. Análises do Instituto de Pesquisas Jurídicas da USP revelaram que modelos de IA treinados com dados desbalanceados têm até 42% de chance de introduzir vieses de gênero ou raça em documentos jurídicos, especialmente em regiões com baixa diversidade cultural. Além disso, a falta de explicabilidade (XAI) em muitos modelos de IA torna impossível verificar se a “decisão” foi baseada em evidências legais ou em padrões estatísticos falaciosos. O TCESP aponta que, sem revisão por advogados experientes, esses erros podem se multiplicar, gerando “cascata” de injustiças em processos similares. Este risco é ainda mais crítico em áreas sensíveis, como direitos previdenciários e família, onde decisões equivocadas podem afetar milhões de cidadãos.

Governança em Prática: Protocolos do TCESP para Uso Responsável da IA

Diverse team of professionals gathered around holographic governance protocol display in glass-walled command center, neural network visualization, cool teal and white ambient lighting

Para mitigar os riscos identificados, o TCESP propõe um framework de governança em quatro pilares, detalhado em sua Resolução nº 12/2026. Primeiro, a obrigatoriedade de “revisão humana em todas as etapas críticas”: a IA pode gerar rascunhos, mas a petição final deve ser validada por um advogado com experiência em direito processual. Segundo, a implementação de “auditoria contínua” por equipes multidisciplinares, incluindo juristas, engenheiros de IA e éticos, para monitorar vieses e precisão. Terceiro, a exigência de transparência total, com logs de todas as interações da IA e acesso público a relatórios de validação. Quarto, a capacitação obrigatória de servidores do Judiciário em “IA literacy”, com cursos certificados pelo CNJ sobre limitações e uso ético da tecnologia. Esses protocolos, inspirados no modelo adotado pelo Tribunal de Contas da União (TCU), já foram testados com sucesso em 15% dos processos do estado de São Paulo, reduzindo erros em 68% e aumentando a confiança nas decisões judiciais. O TCESP insiste que “a IA não é um substituto da inteligência jurídica, mas um acelerador — e como todo acelerador, exige controle rigoroso”.

O Caminho para um Sistema Judiciário Inteligente e Justo

Balanced composition of judge's gavel merging with glowing microchip and AI neural pathways, warm golden and cool blue dual lighting, justice scales hologram, modern courthouse interior — Balanced composition of judge’s gavel merging with glowing microchip and AI neural pathways, warm golden and cool blue dual lighting, justice scales hologram, modern courthouse interior

A advertência do TCESP não é um freio ao progresso, mas um convite à maturidade tecnológica. O futuro do Judiciário brasileiro depende de uma adoção consciente da IA, onde a automação potencialize, e não substitua, o trabalho humano. Dados do World Economic Forum (WEF) indicam que, até 2030, a IA terá impacto económico de US$ 15,7 trilhões globalmente, mas apenas 22% das instituições jurídicas no mundo têm planos robustos de governança para IA. No Brasil, o potencial é imenso: com 11 milhões de processos em trâmite (dados do CNJ em 2025), a IA pode reduzir custos operacionais em 30% e liberar tempo para questões complexas, desde que bem regulamentada. O TCESP, ao alertar, está não apenas prevenindo riscos, mas moldando um modelo de governança que outros países podem adotar. Como afirma o relatório do tribunal: “A justiça não pode ser um algoritmo, mas pode ser uma parceria entre o humano e a máquina”. Este é o verdadeiro marco da nova era da IA no setor jurídico — um caminho que exige coragem, sabedoria e, acima de tudo, responsabilidade.