Cada vez mais, confidências a chatbots da IA terminam nas cortes dos EUA
Mais e mais estadunidenses vêm aprendendo, a duras penas, que os chatbots da inteligência artificial (IA) não são amigos íntimos, aos quais podem confidenciar seus segredos. Estão mais para amigos da onça. Nem são advogados, aos quais podem confiar seus problemas com a justiça, em um ambiente de comunicação privilegiada. Estão mais para assistentes de acusação.
freepikÀ medida que as plataformas de IA se tornam mais populares, as confidências (ou “consultas”) dos usuários aos chatbots vêm, progressivamente, servindo como fontes de admissão de culpa em investigações policiais e, em seguida, em julgamentos criminais — ou de responsabilidade em ações civis.
As empresas de inteligência artificial têm se encarregado de “entregar” aos órgãos de segurança (principalmente ao FBI, nos EUA) os usuários que pedem ajuda aos chatbots — tais como o ChaGPT (da OpenAI), Gemini (Google), Claude (Anthropic) e Copilot (Microsoft) — para avaliar possíveis consequências de delitos que cometeram ou de intenção de praticar um crime.
Um levantamento do The Washington Post mostra o rápido crescimento das “delações” de usuários, feitas pelas empresas de inteligência artificial aos órgãos de segurança. No período de janeiro a junho de 2024 foram 11; de julho a dezembro de 2024 foram 17; de janeiro a junho de 2025 foram 41; e de julho a dezembro de 2025 foram 84.
E devem crescer mais. As empresas de IA reconheceram que falharam em seu dever de alertar o FBI sobre casos de suicídio e de intenções de promover matanças em massa em escolas e outros lugares públicos, que foram detectados em conversas com seus chatbots. E prometeram reforçar sua política de tolerância zero ao uso da ferramenta para a prática de violência.
A OpenAI declarou que usa um software para escanear conversações dos usuários com chatbots, em busca de “sinais de comportamento perigoso. Sempre que detectadas, tais conversações são encaminhados a revisores humanos”. Se um revisor determinar que a conversação indica “um risco iminente e crível de violência, a empresa relata o fato aos órgãos de segurança”.
O professor de Direito Andrew Fegurson da George Washington University, autor de um livro sobre vigilância digital, vê um lado tenebroso nesse crescente papel da IA. Ele prevê que a IA irá expor muito mais aspectos da vida das pessoas ao escrutínio digital. “Todo o nosso mundo estará disponível à polícia”, ele diz.
Exemplos da ‘santa inocência’ dos desavisados
O jornal The Washington Post examinou uma dúzia de casos de usuários que confidenciaram seus “segredos” com chatbots de IA e, talvez inocentemente, entregaram o ouro a possíveis adversários na justiça. O jornal citou seis casos em sua reportagem — um deles do Brasil:
Claude não é advogado. Ao ser avisado de que estava envolvido em uma investigação federal por crimes de fraude, Bradley Heppner, executivo de uma instituição financeira, foi às pressas a seu computador para consultar o Claude, o chatbot da Anthropic. Explicou o caso e pediu que sugerisse possíveis estratégias de defesa.
Quando a “consulta” foi revelada em corte, o executivo argumentou que os procuradores — embora tivessem um mandado de busca generalizado — não poderiam utilizar as comunicações obtidas em seu computador como prova de admissão de culpa, porque elas eram privilegiadas.
Mas o juiz replicou que as proteções à comunicação entre clientes e advogados não se aplicam a esse caso: “O Claude não é advogado e os advogados do executivo não lhe pediram para consultar o chatbot”. Heppner foi condenado por fraude em transações mobiliárias e fraude eletrônica.
ChatGPT desmente réu. Em Michigan, o advogado de um vendedor de pneus processado por seu ex-empregador não se opôs a uma busca no celular do cliente, durante um processo de discovery — em nome da transparência.
O réu foi processado porque teria quebrado um contrato que o proibia de atrair clientes da empresa, quando a deixasse por uma concorrente. O réu negava que tivesse tentado atrair antigos clientes e que havia assinado, eletronicamente, um acordo anticoncorrencial. Mas ChatGPT o desmentiu.
A parte adversária ficou sabendo, então, que ele perguntou ao ChatGPT se sua provedora de e-mail (o Yahoo!) poderia recuperar, mediante ordem judicial, e-mails que ele deletou há algum tempo.
“Diante do fato incontestável de que ele tentou adulterar provas, intencionalmente”, a juíza mandou o réu pagar um valor adicional em honorários ao advogado da empresa, pelos serviços extras que ele teve de prestar. E autorizou a continuidade da ação.
ChatGPT não é psiquiatra. Na Flórida, o FBI notificou a polícia sobre uma intenção criminosa. Em conversações com o ChatGPT, Darren Zhou contou seus planos de estuprar e matar sua ex-namorada. Uma opção seria esperá-la na saída da escola. Tinha dúvidas se deveria se matar em seguida.
A polícia identificou a ex-namorada, com base em informações prestadas pelo chatbot ao FBI. De acordo com os autos do processo, ela vinha recebendo mensagens não assinadas, mas certamente de Zhou, desde que terminou o namoro. Zhou foi preso e fez acordo de admissão de culpa. Foi sentenciado a oito anos de prisão, com suspensão condicional da pena (sursis).
ChatGPT não é um amigo confiável. A polícia de Springfield acordou muito cedo, no dormitório da Missouri State University, o estudante Ryan Schaefer, de acordo com o mandado de prisão. Ele era suspeito de danificar 17 carros no estacionamento do campus, em uma noite do mês anterior.
Ao prendê-lo, a polícia obteve permissão do estudante para fazer uma busca em seu celular. E ali estava a confissão. Em uma conversa com o chatbot, às 3h47 da madrugada, na noite do incidente, ele escreveu: “Cara, parece que estou ferrado. Nem sei direito quantos carros eu destruí”. E veio a pergunta: “Será que há alguma maneira de descobrirem que fui eu?”
Para evitar um julgamento que seria custoso em todos os sentidos, Schaefer fez acordo de admissão de culpa por danos causados a propriedades e foi sentenciado a cinco anos de prisão, com suspensão condicional da pena.
ChatGPT não é só um professor. Quando o adolescente de 15 anos, identificado nos autos com R.K.C., não entendeu o que seu pai lhe disse, ele recorreu ao ChatGPT para explicações: “Meu pai me disse que posso obter um acordo no valor de um milhão de dólares. Disse que se isso não me faz feliz, ele não sabe o que pode fazer. O que ele quer dizer com isso?”, perguntou.
O pai tinha um plano para faturar uma grana alta: processar a Meta, Snapchat, TikTok e YouTube, responsabilizando-as por anos de sofrimento do filho, causado por seus aplicativos. Na ação, alegou que esses aplicativos causaram vício em redes sociais e problemas de saúde mental.
A Snapchat, o TikTok e o YouTube se apressaram em fechar um acordo para extinguir o processo. A Meta, proprietária do Facebook, Instagram e WhatsApp, decidiu ir em frente com a ação, rejeitando a responsabilidade pelos problemas do adolescente. O pai decidiu pedir a extinção do processo, alegando preocupações com a “capacidade do filho de enfrentar um julgamento extenuante de várias semanas”.
ChatGPT não é padre. O caso no Brasil, citado pelo Washington Post, é o do agricultor do Espírito Santo que confessou ao ChatGPT que planejava contratar um pistoleiro para matar seu filho de 8 anos, para não ter de pagar pensão alimentícia a sua ex-companheira.
OpenAI defende proteções para chatbots
O CEO da OpenAI, Sam Altman, argumenta que as comunicações entre chatbots e usuários devem ser privilegiadas, tal como acontece entre advogados e clientes, terapeutas e pacientes, padres e fiéis. Para ele, é do interesse da sociedade atribuir um alto nível de proteção às comunicações das pessoas com as plataformas de IA.
Porém, isso ainda não é uma possibilidade à vista: “Em ambiente não regulamentado, é altamente improvável que qualquer juiz decida que essas comunicações são privilegiadas”, disse ao Washington Post a professora de Direito da Southern Methodist University, Laura Abelson, que se especializa em regras probatórias.
O post Cada vez mais, confidências a chatbots da IA terminam nas cortes dos EUA apareceu primeiro em Consultor Jurídico.