Ignorância assistida e o problema da supervisão humana
Um magistrado recebe na tela a minuta de uma decisão que não redigiu. O texto vem articulado, cita normas, invoca precedentes e termina com dispositivo coerente. Não interessa perguntar se deve conferi-lo, pois a resposta está posta em norma e em consciência profissional. A questão mais difícil é saber com que faculdade o confere: se com uma faculdade efetivamente sua ou com aquela mesma que lhe faria falta para escrever a minuta por conta própria.
A pergunta tem história na psicologia experimental. Em 1999, Kruger e Dunning sustentaram que a incompetência pode trazer consigo um segundo prejuízo, pois quem não domina determinada habilidade tende a dispor de menos recursos para reconhecer a própria insuficiência. Nos experimentos que deram origem ao efeito que leva seus nomes, participantes do quartil inferior estimavam estar, em média, no percentil 62, embora seu desempenho os colocasse no percentil 12. [1]
Muito antes da psicologia experimental, a literatura já desconfiava das relações entre saber e consciência do próprio saber. Em Como Gostais, Shakespeare põe na boca de Touchstone a sentença segundo a qual o tolo pensa ser sábio, enquanto o sábio conhece a própria tolice. [2] A literatura dizia, em outro registro, algo sobre a velha dificuldade humana de conhecer os limites do próprio conhecimento.
Kruger e Dunning recorreram a imagem menos literária. Certas lesões do hemisfério direito podem produzir anosognosia: o paciente fica paralisado de um lado do corpo, mas não reconhece a própria paralisia. Diante de um copo colocado à sua frente, não consegue pegá-lo e explica o fracasso dizendo-se cansado ou distraído. Falta-lhe não apenas a capacidade de realizar o movimento, mas a percepção adequada da capacidade que perdeu.
Seguiram-se mais de duas décadas de controvérsia, que reduziram a magnitude atribuível ao fenômeno e expuseram componentes estatísticos da curva original. O núcleo que interessa aqui é mais estreito e sobrevive à caricatura. Em certos domínios, competência e capacidade de avaliar a própria competência não são independentes. É nesse segundo plano que opera a metacognição, entendida, para o que aqui importa, como a capacidade de avaliar o próprio conhecimento e desempenho. O efeito, por isso, não serve para classificar pessoas; serve para formular uma pergunta sobre supervisão.
Sinais do saber
A descalibração entre desempenho e autoavaliação pressupõe algum repertório, ainda que fragmentário, capaz de sustentar uma resposta plausível. Na ausência completa desse patamar, a ignorância costuma ser reconhecida sem dificuldade. Quem nunca aprendeu a ler uma partitura não costuma imaginar que sabe fazê-lo; diante dela, o desconhecimento ainda tem a vantagem de se apresentar como desconhecimento.
SpaccaNo gabinete, porém, avaliar e produzir estão próximos. Verificar se a fundamentação enfrentou os argumentos, se a prova sustenta a conclusão ou se a subsunção está correta exige conhecimento substantivo semelhante ao empregado para fundamentar, valorar e subsumir. É nesse ponto que a inteligência artificial introduz uma variável que a literatura clássica não poderia antecipar.
O patamar que antes precisava ser reunido pelo próprio sujeito pode agora chegar pronto, com vocabulário técnico, estrutura, referências, encadeamento e conclusão organizados em prosa competente. A ferramenta não oferece apenas uma resposta; oferece também os sinais exteriores de que existe conhecimento por trás dela.
A tecnologia já ocultava pequenas insuficiências antes da IA generativa. Em 1997, reportagem da Folha de S. Paulo descrevia recursos do Word 97 capazes de corrigir automaticamente o texto sem necessariamente mostrar ao usuário o erro. [3] Assessores e estagiários podiam entregar páginas cuja correção formal superava, em algum ponto, o domínio que possuíam das regras aplicadas pelo programa. A analogia termina, porém, onde começa sua utilidade, porque o corretor precisava receber quase todo o restante, incluídos a ideia, o argumento, a estrutura e, em larga medida, a própria frase. A ferramenta generativa pode fornecer também esses elementos.
Ignorância é empregada aqui em sentido estrito, como ausência de conhecimento suficiente sobre determinado ponto ou matéria, condição inevitável em qualquer repertório humano. Ignorância assistida designa a situação em que essa falta de domínio deixa de se revelar como tal porque o instrumento fornece os sinais exteriores do conhecimento. A expressão não significa que a tecnologia produza ignorância, nem autoriza presumir incompetência de quem a utiliza. Para quem conhece a matéria, a minuta pode ser um esboço a corrigir; para quem não a domina — e ninguém domina todas as matérias que chegam à sua mesa —, o mesmo texto pode encobrir a lacuna que antes provocaria cautela, pesquisa ou pedido de auxílio. O “não sei” de antes pode chegar sob a forma de uma resposta completa.
Há um contraste útil. Clance e Imes chamaram de fenômeno do impostor a experiência de pessoas de elevado desempenho que, apesar dos sinais objetivos de competência, persistiam em acreditar que haviam sido superestimadas. [4] Não é o inverso do efeito Dunning-Kruger, embora a aproximação seja intuitiva. No fenômeno do impostor, existe competência que o sujeito não reconhece suficientemente em si; na ignorância assistida, podem existir no produto sinais de competência que não correspondem, na mesma medida, ao repertório de quem o apresenta.
Pode-se reconhecer aí a figura do falso conhecedor, expressão que não imputa fraude nem intenção de enganar. Ele pode agir de inteira boa-fé, embora seu produto permita atribuir-lhe conhecimento que, sem a assistência recebida, não demonstraria possuir. A qualidade do texto final já não informa, por si só, quanto da competência nele exibida pertence a quem o apresenta.
Medida da confiança
Em estudo publicado em 2026, Fernandes e colaboradores submeteram 246 participantes a 20 problemas de raciocínio lógico do exame de admissão às faculdades de direito norte-americanas, com assistência de IA. O desempenho melhorou em relação aos resultados de referência, mas a autoavaliação subiu ainda mais. Entre os participantes sem assistência, a superestimação crescia à medida que a habilidade diminuía; com assistência, essa relação praticamente desapareceu. Não porque a autoavaliação tivesse se tornado exata, mas porque a descalibração deixou de se concentrar nos menos preparados. [5]
O estudo não examinou magistrados nem revisão de decisões judiciais, e uma transposição direta seria indevida. A consequência institucional é mais modesta, embora relevante. Se a assistência pode alterar a relação entre competência e capacidade de reconhecer o próprio erro, a supervisão humana não se torna garantia autossuficiente apenas porque existe uma pessoa depois da máquina. Outro dado recomenda cautela. Maior domínio autodeclarado de inteligência artificial esteve associado a menor exatidão metacognitiva. Familiaridade declarada com o instrumento não demonstra capacidade de reconhecer suas falhas.
Sob aparência de supervisão
A literatura sobre interação entre humanos e sistemas automatizados conhece o viés de automação, pelo qual a indicação fornecida pelo sistema pode substituir a busca independente de informação. Parasuraman e Manzey observaram que o fenômeno atinge usuários ingênuos e experientes e não é eliminado por simples treinamento ou instrução. [6] Conferir uma minuta juridicamente sofisticada, ademais, pode exigir parcela substancial do trabalho intelectual necessário para produzi-la.
Nem toda influência assume a forma de adesão automática. Alon-Barkat e Busuioc encontraram, em experimentos no setor público, adesão seletiva, pela qual a propensão a seguir um conselho aumenta quando ele coincide com estereótipos prévios. [7] A adesão permanente denuncia dependência; a seletiva pode parecer discernimento.
Existe ainda um problema do outro lado da interação. Sistemas ajustados a partir de avaliações e preferências humanas podem aprender a produzir respostas que acompanham a posição sugerida pelo interlocutor, comportamento estudado sob o nome de sycophancy. [8] Forma-se então um circuito peculiar: o humano aceita com maior facilidade aquilo que confirma o que já pensava, enquanto a máquina pode ajustar a resposta ao que percebe que ele deseja ouvir. Houve leitura, pergunta, resposta e concordância; a aparência é de supervisão, mas falta justamente a referência externa que permitiria tomar essa concordância como sinal de correção.
Faculdade de discordar
A Resolução CNJ nº 615/2025 exige supervisão humana, capacitação para análise crítica e preservação da autoridade final do usuário. [9] A dificuldade começa depois da norma. Ter competência jurídica para modificar uma saída não significa possuir, no caso concreto, capacidade substantiva para descobrir onde ela falha. Se a ferramenta fornece precisamente o patamar que antes denunciava a insuficiência, ensinar seu manejo não basta. Quanto mais fácil se torna produzir, mais exigente precisa ser a formação de quem verifica.
O próprio produto revela outra dificuldade. Um texto excelente demonstra, antes de tudo, que um texto excelente foi produzido; já não demonstra, sozinho, quanto da competência exibida pertence a quem o apresenta. Se o objeto da avaliação for o produto, isso talvez seja irrelevante. Se for a capacidade de quem deverá supervisionar a máquina, deixa de ser.
Também a auditoria precisa mudar de objeto. Auditar o sistema é verificar se ele cumpre sua promessa; auditar o uso é saber se quem o emprega conserva, no exercício concreto, a faculdade de discordar. Pesquisa de satisfação e taxa de aceitação de minutas pouco dizem sobre isso, já que a aceitação será alta quando a máquina acerta, quando o usuário não percebe o erro e quando a resposta apenas confirma aquilo em que ele já acreditava. A governança precisa olhar para produtos, discrepâncias e modos de interação, introduzindo, nas situações de maior risco, fricções cognitivas que preservem algum trabalho intelectual anterior à resposta da máquina, de modo que o problema seja formulado antes de a conclusão chegar pronta. [10]
No Gaia Assistente, solução de IA generativa desenvolvida pelo Tribunal de Justiça do Rio Grande do Sul, [11] foi proposto um guardrail que impedirá a ferramenta de elaborar a sugestão se o comando do usuário não informar a decisão previamente definida e ao menos um fundamento jurídico que a sustente. Assim, “Analise o processo e faça uma minuta juridicamente adequada” provocará a barreira, enquanto “Minute pela improcedência, porque não houve comprovação do fato constitutivo do direito, nos termos do artigo 373, I, do CPC” fornecerá os elementos mínimos para que a geração prossiga. A ausência deles interromperá a resposta, sob a justificativa de evitar delegação incompatível com a Resolução CNJ nº 615/2025. O mecanismo não demonstra que a conclusão humana esteja correta, nem dispensa sua revisão posterior; obriga, porém, que algum juízo exista antes que a máquina lhe forneça redação, argumentos e aparência de completude.
Poucos meses antes de ser preso pela Gestapo, Dietrich Bonhoeffer, teólogo e resistente antinazista executado em 1945, escreveu sobre a Dummheit, insensatez que ele distinguia da mera deficiência intelectual; interessava-lhe a perda da independência interior sob a impressão de um poder em expansão. [12] Nada aproxima historicamente aquela experiência da relação entre um magistrado e um sistema de apoio à decisão, sem que a diferença de escala autorize, no entanto, subestimar a profundidade com que a inteligência artificial generativa começa a alterar práticas intelectuais em campos muito além do direito. A passagem interessa apenas por uma intuição mais abstrata: faculdades preservadas não asseguram, por si, autonomia preservada.
É também uma escolha de desenho. Uma ferramenta pode ser projetada esperando mais da adesão do usuário do que de sua autonomia, entregando resposta fechada, conclusão antecipada e alternativas invisíveis; pode, ao contrário, expor premissas, incertezas e aquilo que ficou de fora, preservando espaço para a autonomia de quem a utiliza. O paciente da analogia de Kruger e Dunning não pega o copo porque lhe falta uma faculdade e, ao mesmo tempo, a percepção adequada dessa falta. No ambiente assistido há uma diferença decisiva: a máquina pode entregar o copo. O desafio não está em devolver dificuldade ao trabalho por apego ao artesanato, mas em preservar a percepção, antes favorecida pela própria dificuldade, do momento em que o conhecimento termina e deveria começar a dúvida. A assinatura continua humana; importa que permaneçam humanas também as condições intelectuais que dão sentido a ela.
________________________________________
Referências
SHAKESPEARE, William. As You Like It, ato V, cena 1.
FOLHA DE S.PAULO. Processadores fazem correção eficiente. 26 fev. 1997.
SHARMA, Mrinank et al. Towards understanding sycophancy in language models. 2023.
CONSELHO NACIONAL DE JUSTIÇA. Resolução nº 615, de 11 mar. 2025.
TRIBUNAL DE JUSTIÇA DO ESTADO DO RIO GRANDE DO SUL. GAIA Assistente. Conexão GAIA. Disponível aqui.
BONHOEFFER, Dietrich. Resistencia y sumisión. Salamanca: Sígueme, 2001, p. 15–17.
O post Ignorância assistida e o problema da supervisão humana apareceu primeiro em Consultor Jurídico.