“Perguntei ao ChatGPT e ele disse que está no RIISPOA.” A frase já circula em grupos de mensagens de responsáveis técnicos, salas de aula e cursinhos para concurso. Faz sentido que circule: as ferramentas de inteligência artificial generativa respondem em segundos, em português impecável, com tom seguro e, muitas vezes, citando artigo, parágrafo e número de portaria. Para quem precisa resolver uma dúvida no meio do expediente, parece um colega que leu todas as normas. O mito é este: se a resposta vem bem escrita e com número de artigo, ela está certa.
O mito
Acreditar nisso não é ingenuidade. É uma reação razoável a uma tecnologia que imita com perfeição os sinais que usamos para reconhecer autoridade — vocabulário técnico, estrutura lógica, referência precisa. Durante a vida inteira, aprendemos que quem cita o número da lei geralmente leu a lei. Os grandes modelos de linguagem quebram essa associação.
O que a ciência e a norma dizem
Um modelo de linguagem não consulta a legislação quando responde. Ele gera o texto mais provável a partir de padrões aprendidos no treinamento. Quando a informação certa estava bem representada nesses dados, a resposta tende a acertar. Quando não estava — ou quando a norma mudou depois —, o modelo pode produzir uma resposta igualmente fluente e completamente inventada. Pesquisadores chamam isso de alucinação.
O fenômeno foi medido no campo jurídico, o mais parecido com o trabalho normativo da inspeção. Pesquisadores da Universidade Stanford, liderados por Matthew Dahl e Daniel E. Ho, testaram modelos de uso geral com perguntas verificáveis sobre decisões judiciais americanas e publicaram os resultados no Journal of Legal Analysis em 2024: o ChatGPT 3.5 deu respostas incorretas em 69% dos casos, e o Llama 2, em 88%. Os autores mostraram ainda que os modelos frequentemente não corrigem premissas erradas do usuário e não conseguem reconhecer de forma confiável quando estão errando.
E as ferramentas especializadas, que buscam documentos antes de responder? Um segundo estudo do mesmo grupo, publicado em 2025 no Journal of Empirical Legal Studies, avaliou produtos comerciais de pesquisa jurídica com mais de 200 perguntas pré-registradas. Mesmo com acesso a bases de documentos, as ferramentas alucinaram: 17% das respostas no Lexis+ AI e 33% no Westlaw AI-Assisted Research. Buscar documentos reduz o erro; não o elimina.
O risco não é teórico. Em 22 de junho de 2023, um juiz federal de Nova York, P. Kevin Castel, multou em US$ 5.000 dois advogados que apresentaram ao tribunal uma petição com decisões judiciais inexistentes, geradas pelo ChatGPT e não verificadas. Segundo o juiz, eles abandonaram suas responsabilidades ao submeter opiniões inexistentes, com citações falsas.
Do lado da norma brasileira, o raciocínio é igualmente direto. O Regulamento da Inspeção Industrial e Sanitária de Produtos de Origem Animal, o RIISPOA, foi aprovado pelo Decreto nº 9.013/2017 e já foi alterado, por exemplo, pelo Decreto nº 10.468/2020. Portarias, instruções normativas e ofícios circulares mudam com frequência. Um modelo treinado com textos de determinada época pode citar a redação antiga como se fosse a vigente. E a responsabilidade técnica sobre um laudo, um plano de autocontrole ou uma decisão de destinação continua sendo de quem assina — não de quem gerou o texto.
Onde está o grão de verdade
O mito não nasceu do nada. A IA generativa é, de fato, útil no trabalho técnico. Ela é boa para resumir um documento que você forneceu, organizar uma lista de verificação, reescrever um procedimento em linguagem mais clara, sugerir perguntas para uma auditoria ou explicar um conceito para começar um estudo. Até agências reguladoras adotaram ferramentas desse tipo: a FDA lançou em junho de 2025 o Elsa, um modelo de linguagem para tarefas internas de leitura, escrita e resumo, que a agência informou estar sendo usado inclusive para ajudar a identificar alvos prioritários de inspeção.
A diferença está no tipo de tarefa. Usar a IA para trabalhar sobre um texto que você conhece e confere é uma coisa. Usá-la como fonte de qual é a norma vigente é outra. No primeiro caso, ela é assistente. No segundo, é uma testemunha que não esteve lá.
Há ainda um efeito humano conhecido como viés de automação: quanto mais confiável uma ferramenta parece, menos conferimos o que ela entrega. É justamente quando a IA acerta nove vezes seguidas que a décima resposta errada passa despercebida.
Como explicar isso para alguém da família
Pense na IA generativa como um estagiário muito rápido, muito educado e que leu milhões de textos, mas que nunca diz “não sei”. Ele vai ajudar a escrever, organizar e resumir. Mas, se você perguntar qual é a regra, ele pode inventar uma que soa perfeita. Por isso, qualquer número de lei, artigo ou portaria que ele citar precisa ser conferido na fonte oficial — o Diário Oficial da União, o portal da legislação do Planalto ou as páginas do Ministério da Agricultura e da Anvisa.
Em resumo: o texto bem escrito é da máquina; a verificação e a assinatura continuam sendo suas. O algoritmo vê o que foi treinado para ver — e não sabe o que mudou depois.
Leia também no Além do Carimbo: “Antes de assinar o contrato: 10 perguntas que o RT deve fazer a quem vende inteligência artificial” e “Glossário de IA para quem trabalha com inspeção: 20 termos para não ser enganado por um número bonito”.
Referências
- Dahl, M., Magesh, V., Suzgun, M., Ho, D. E. (2024). Large Legal Fictions: Profiling Legal Hallucinations in Large Language Models. Journal of Legal Analysis, 16. arXiv: 10.48550/arXiv.2401.01301 — https://law.stanford.edu/publications/large-legal-fictions-profiling-legal-hallucinations-in-large-language-models
- Magesh, V. et al. (2025). Hallucination-Free? Assessing the Reliability of Leading AI Legal Research Tools. Journal of Empirical Legal Studies, 22(2). DOI: 10.1111/jels.12413 — https://nlp.stanford.edu/~manning/papers/Magesh-Hallucination%E2%80%90Free-2025.pdf
- LawSites. Court Imposes Sanctions on Lawyers Who Filed Bogus Cases After Relying on ChatGPT for Legal Research (22/06/2023) — https://www.lawnext.com/2023/06/court-imposes-sanctions-on-lawyers-who-filed-bogus-cases-after-relying-on-chatgpt-for-legal-research.html
- Fierce Biotech. FDA launches new generative AI tool Elsa a month ahead of schedule (06/2025) — https://www.fiercebiotech.com/cro/fda-launces-new-generative-ai-tool-elsa-month-ahead-schedule
- Decreto nº 9.013, de 29 de março de 2017 — RIISPOA — https://www.planalto.gov.br/ccivil_03/_ato2015-2018/2017/decreto/d9013.htm
- Decreto nº 10.468, de 18 de agosto de 2020 — Altera o RIISPOA — https://www.planalto.gov.br/ccivil_03/_ato2019-2022/2020/decreto/d10468.htm
Deixe uma resposta