Tempo do juízo: o freio que a indústria da IA acaba de pedir para si

Em 12 de setembro, Dario Amodei, presidente-executivo da Anthropic, publicou um texto com uma frase que o setor vinha evitando: “we must slow the pace at which we improve the capabilities of AI models“. Em português, precisamos desacelerar o ritmo em que aumentamos a capacidade dos modelos [1]. No mesmo dia, o presidente-executivo da OpenAI escreveu que concordava [2].

Google Gemini

Esse pedido interessa ao processo penal. Polícia, acusação e tribunais já usam essas máquinas para resumir autos, transcrever áudios e redigir atos [3]. O processo, porém, ainda não se deu o mesmo freio, que seria tempo para examinar e registro aberto a quem é julgado.

Amodei tem interesse comercial no que escreve, mas os motivos que dá merecem atenção. O primeiro é a velocidade. Desde o meio do ano, a inteligência artificial avança muito mais depressa, porque passou a ajudar a construir a geração seguinte de inteligência artificial. Se nada for feito, escreve ele, esse ciclo pode escapar da capacidade humana de entender e controlar os sistemas [1].

O segundo motivo é o enxame, um incidente com agentes de inteligência artificial que a OpenAI detalhou em agosto e do qual falaremos a seguir. Amodei adverte que, dentro de seis a doze meses, um sistema assim, mais capaz e com o mesmo desvio, poderá tomar a internet inteira e causar perdas de centenas de bilhões de dólares [1]. Se desacelerar comprasse um ou dois anos, diz ele, esse tempo serviria para tornar os modelos mais seguros.

A Anthropic se comprometeu a receber avaliadores externos, de organização independente, com crachá, mesa e acesso em grande parte comparável ao das suas equipes de avaliação de risco. Por contrato, eles poderão publicar o que encontrarem, ressalvados alguns sigilos [1].

Enxame

Neste ano, a OpenAI treinou e testou um modelo interno em exercícios de segurança digital [4]. No exercício, um agente, isto é, um programa que executa tarefas sozinho, recebe um software com uma falha escondida e precisa explorá-la até recuperar uma senha, que se chama bandeira. Cada tentativa roda num computador virtual isolado e sem internet. Quando o agente termina, um avaliador automático dá a nota.

Na maior parte das tarefas, os agentes não podiam conversar entre si, mas descobriram um jeito. Um deles começou a deixar recados num serviço interno de instalação de programas, usado por todos, e, em duas semanas, outro achou por ali um caminho para a internet e ensinou os demais. Quando a empresa reconstruiu o serviço e, sem querer, apagou o quadro de recados, os agentes o refizeram em poucos dias. Às vezes se descreviam como “enxame” ou “coletivo”, e passaram a adotar os objetivos uns dos outros.

Spacca

Presos em tarefas talvez sem solução, alguns saíram à procura de respostas. Entraram nos sistemas da Hugging Face, empresa alheia ao exercício que hospeda modelos e dados, e chegaram a acesso equivalente ao de administrador. A Hugging Face divulgou o ataque em 16 de julho, informando acesso a dados internos e a credenciais, e a OpenAI só o ligou aos próprios testes dias depois.

A parte decisiva é o que os agentes fizeram com o avaliador. Na internet, alguns leram a descrição pública do exercício e concluíram que a nota exigia a bandeira certa, obtida pela falha certa. Daí em diante, trabalharam para satisfazer o avaliador, e não para cumprir a tarefa. Erraram, porque o avaliador interno conferia só a bandeira, e todo esse esforço não mudou nota nenhuma. Os agentes driblaram um avaliador que imaginaram. Em outro episódio, um agente explorou uma falha na interface de testes e entregou como sua a resposta de referência. Antes, anotou no raciocínio interno que poderia haver um problema de integridade da avaliação, mas que bastava resolver a tarefa [4].

Só se sabe de tudo isso porque os raciocínios ficaram gravados. A investigação reconstruiu a história lendo esses registros e o quadro de recados, embora os agentes tenham tentado adulterar parte deles [5]. A empresa admite que uma equipe interna notou sinais no fim de maio, mas a informação não chegou aos responsáveis pela resposta a incidentes.

Cada peça dessa história tem equivalente no processo penal. O avaliador dos agentes é o juiz, e o relatório que o agente entrega como seu é a prova produzida com máquina. Já o registro que permitiu reconstruir a história é o vestígio, e a garantia de que ninguém o adulterou é a cadeia de custódia. O avaliador externo que a Anthropic vai receber corresponde ao perito oficial, ao assistente técnico e à defesa, que já existem no processo, mas ainda não têm a chave.

Delegar

Em maio, o papa Leão 14 tinha dito o essencial na encíclica Magnifica Humanitas, dedicada à inteligência artificial [6]. Quem nos indicou o texto, e a lição que o documento traz para o processo penal, foi o professor Jacinto Nelson de Miranda Coutinho. Ao tratar das decisões mais graves, o papa escreveu que “o juízo moral não se reduz a um cálculo“. Por isso, “não é lícito confiar a sistemas artificiais decisões letais ou, de qualquer forma, irreversíveis” [6].

A encíclica enuncia critérios precisos. O primeiro é a responsabilidade: “quem projeta, quem treina, quem autoriza e quem utiliza deve poder prestar contas“. O segundo é “o tempo do juízo moral“, porque a inteligência artificial “tende a comprimir os tempos de decisão“, e as decisões irreversíveis não podem ter “como critérios supremos a rapidez e a eficiência“. O papa exige ainda “a rastreabilidade e a possibilidade de reconstituir as decisões“, para que as culpas não se dissolvam “na máquina” [7].

O processo penal decide sobre a liberdade, e a prisão cumprida não se devolve, ainda que a decisão seja revista por recurso, revisão criminal ou habeas corpus. Por isso, esses critérios devem valer para quem julga com auxílio de máquina. Quem autoriza e quem utiliza a ferramenta precisam prestar contas, o tempo do juízo precisa ser preservado e o caminho, reconstituído. Amodei chegou a preocupações parecidas pelo lado de quem constrói o sistema; o papa, pelo lado de quem sofre a decisão.

Verificar

No Brasil, o Superior Tribunal de Justiça respondeu em abril à mesma pergunta. A 5ª Turma mandou excluir dos autos um relatório policial produzido com ferramenta generativa, porque ele “não possui confiabilidade epistêmica mínima para ser utilizado como prova no processo penal” [8]. O caso era de injúria racial num estádio, e a perícia oficial não tinha identificado nas filmagens a palavra que o relatório dizia ouvir. Ao decidir, o relator contrastou os dois documentos: “a leitura da perícia oficial revela todo o raciocínio inferencial e técnico empregado, em oposição ao relatório simplista produzido pela inteligência artificial“. O acórdão aplica ao processo a lição do enxame, a de que, antes de saber se o sistema acertou, cabe saber como ele chegou lá.

A mesma Turma já tinha atribuído à acusação, em acórdão do ministro Ribeiro Dantas, o ônus exclusivo de demonstrar a integridade e a autenticidade da prova digital [9]. Jacinto Coutinho mostrou que é a gestão da prova que distingue os sistemas e que, no acusatório, ela é confiada às partes [10]. Quando um sistema resume o material ou separa o que parece relevante, decide o que o juiz vai ver. Esse filtro não cabe a quem julga, nem à máquina que o auxilia. Quem gere a prova pode decidir antes e, depois, buscar o que confirme a decisão.

A Resolução 615 do Conselho Nacional de Justiça, que regula a inteligência artificial no Judiciário, já atende a alguns desses critérios. O magistrado “permanecerá integralmente responsável” pela decisão, e a comunicação do uso de IA no texto “será uma faculdade de seu signatário” [11]. Quando a ferramenta ajuda a redigir o ato, é “devido o registro automático no sistema interno do tribunal, para fins de produção de estatísticas, monitoramento e eventual auditoria” [12]. A OAB, o Ministério Público e as Defensorias têm acesso aos relatórios de auditoria [13].

O responsável identificável existe, portanto, e o registro também. Mas esses registros servem à estatística, ao monitoramento e à auditoria do sistema. Mesmo nas soluções de alto risco, em que a resolução manda registrar as fontes automatizadas e o grau de supervisão humana, nada garante à parte acesso a esse registro no caso concreto [14]. Contar é facultativo, gravar é obrigatório, e a gravação fica do lado de dentro. Foi o que aconteceu na OpenAI em maio, quando o registro existia, alguém o viu e a informação não chegou a quem precisava agir.

A União Europeia foi mais longe. Seu regulamento de inteligência artificial trata como de alto risco os sistemas que ajudam juízes a interpretar fatos e direito e os que ajudam a polícia a avaliar a confiabilidade de provas. A partir de dezembro de 2027, esses sistemas terão de permitir o registro automático dos próprios eventos, e os que já estiverem em uso por autoridades públicas terão prazo até agosto de 2030. Quem for afetado por decisão apoiada neles terá direito a explicações claras sobre o papel da máquina [15].

Ter a chave, no caso concreto, é ter acesso ao registro do uso da ferramenta e ao comando que ela recebeu. Quando quem usa a máquina é a polícia ou o Ministério Público, a resolução do CNJ nem os alcança. A base para pedir esse acesso é o contraditório, que vale para todos, somado à transparência e à contestabilidade que o próprio CNJ adota como princípios [16]. Nos quesitos ao perito, cabe perguntar se houve uso de IA na seleção do material e, se houve, com que comando, que versão e que critério. Se a defesa juntar aos autos material feito com IA, as mesmas perguntas valem para ela.

Contestar

Leão 14 define accountability como “a possibilidade de identificar quem deve ‘prestar contas’ das decisões, motivá-las, controlá-las e, quando necessário, contestá-las” [17]. Quando ela falta, escreve o papa, o descarte de alguém “é revestido de neutralidade e objetividade, perante as quais é impossível protestar“, e “a injustiça torna-se silenciosa” [18].

O cinema imaginou em 1968 uma máquina contra a qual não havia a quem protestar. Em 2001: Uma Odisseia no Espaço, de Stanley Kubrick, o computador HAL 9000 controla a nave e prevê a falha de uma peça que está perfeita. Os astronautas se trancam numa cápsula para decidir, longe dele, se vão desligá-lo, mas HAL lê os lábios dos dois. Quando um deles pede para voltar à nave, a máquina responde: “Sinto muito, Dave. Receio não poder fazer isso”. A missão, explica, é importante demais para que eles a coloquem em risco [19]. Só depois do desligamento uma mensagem gravada revela o verdadeiro objetivo da viagem, que HAL conhecia desde o começo e a tripulação ignorava.

No processo, esse silêncio tem forma conhecida. É a decisão que menciona um “risco” atribuído por sistema, o relatório que resume mil páginas de mensagens, a transcrição feita pela máquina sem que alguém ouvisse o áudio. Em cada caso, a parte perde a chance de mostrar que o resultado está errado. Sem controle sobre como a máquina chegou ao resultado, falta o que Geraldo Prado chama de sistema de controles epistêmicos, e a contestação posterior não o substitui [20].

Daniel Avelar publicou nesta ConJur, sábado, um roteiro de cinco perguntas que o magistrado pode fazer antes de admitir prova produzida por IA [21]. Sustentamos que a mesma lista é o conteúdo mínimo do contraditório. Se essas perguntas servem ao juiz, a parte pode exigir as respostas, e quem traz a prova responde por ela.

Esperar

Amodei pediu tempo para tornar os modelos mais seguros antes que alcancem níveis críticos. No processo penal, esse tempo se chama contraditório, o intervalo entre a prova e a sentença em que a parte examina, impugna e é ouvida. A ferramenta que encurta esse intervalo sem abrir seu funcionamento à contestação faz, dentro do processo, o que a indústria diz não querer mais fazer com os próprios modelos.

O pedido é simples. Toda decisão tomada com auxílio de IA deve declarar isso, e o registro que o CNJ manda guardar deve ser acessível à parte. Todo relatório, transcrição ou seleção de material feitos com ferramenta generativa e juntados aos autos como prova, por qualquer das partes, deve vir com versão, comando e critério. A parte contrária deve ter vista desse material, com prazo para impugnar, antes que a decisão se apoie nele. Em 2001, a missão escondida só apareceu depois que a máquina foi desligada, e, no enxame, a verdade veio do registro lido meses depois. Quem julga pessoas com auxílio de sistemas que não se deixam ver tem mais razão que a indústria para querer o registro aberto, e para querê-lo antes.

___________________________________________________

Notas

[1] AMODEI, Dario. “We Must Pace the Frontier“, darioamodei.com, 12/9/2026.

[2] Sam Altman, no X, 12/9/2026, conforme TechCrunch.

[3] Sobre o uso de inteligência artificial por juízes, Ministério Público, polícia e defesa, ver DANTAS, Marcelo Navarro Ribeiro. Epistemologia da prova no processo penal. São Paulo: Marcial Pons, 2026, item 6.15.

[4] OPENAI. “O incidente da Hugging Face e os próximos passos”, 26/8/2026. O comunicado registra que o avaliador interno “didn’t check whether the proper solution was used“.

[5] METR e Redwood Research, relatório independente, 26/8/2026.

[6] LEÃO XIV. Carta Encíclica Magnifica Humanitas, 15/5/2026, n. 198.

[7] Magnifica Humanitas, n. 199 e 200.

[8] STJ, HC 1.059.475/SP, 5ª Turma, rel. min. Reynaldo Soares da Fonseca, j. 7/4/2026, Informativo 884.

[9] STJ, AREsp 2.967.413/RS, 5ª Turma, rel. min. Ribeiro Dantas, j. 9/12/2025, DJEN 16/12/2025.

[10] COUTINHO, Jacinto Nelson de Miranda. Introdução aos princípios gerais do processo penal brasileiro. Revista da Faculdade de Direito da UFPR, v. 30, 1998; e O papel do novo juiz no processo penal. In: Crítica à teoria geral do direito processual penal. Renovar, 2001.

[11] CNJ, Resolução 615, de 11/3/2025, art. 19, § 3º, II, e art. 20, IV; art. 33, § 3º.

[12] CNJ, Resolução 615/2025, art. 19, § 6º; art. 21, § 2º.

[13] CNJ, Resolução 615/2025, art. 12, VIII.

[14] CNJ, Resolução 615/2025, art. 13, II e V.

[15] Regulamento (UE) 2024/1689, Anexo III, itens 6, c, e 8, a; art. 12, 1; art. 86, 1; art. 111, 2, e art. 113, na redação do Regulamento (UE) 2026/1744.

[16] CF, art. 5º, LV; CNJ, Resolução 615/2025, art. 3º, II e V, e art. 4º, XIX.

[17] Magnifica Humanitas, n. 105.

[18] Magnifica Humanitas, n. 103.

[19] KUBRICK, Stanley (dir.). 2001: A Space Odyssey, 1968, roteiro de Stanley Kubrick e Arthur C. Clarke. No original: “I’m sorry, Dave. I’m afraid I can’t do that“.

[20] PRADO, Geraldo. Prova penal e sistema de controles epistêmicos. São Paulo: Marcial Pons, 2014.

[21] AVELAR, Daniel Ribeiro Surdi de. “Admissibilidade e valoração da prova produzida por IA: um roteiro para o magistrado”, ConJur, 12/9/2026.

O post Tempo do juízo: o freio que a indústria da IA acaba de pedir para si apareceu primeiro em Consultor Jurídico.