CLASSIFICAÇÃO DE RISCO PARA SOLUÇÕES DE IA

Classificação de riscos das principais soluções de inteligência artificial do TJGO conforme Resolução CNJ 615/2025 e matriz de riscos específicos com ações de mitigação implementadas.

Tabela 1 - Classificação de Riscos das Principais Soluções de IA

(Conforme Anexo Res. CNJ 615/2025)

Solução de IA	Funcionalidade Principal	Classificação (Anexo Res. CNJ 615/2025)	Justificativa Resumida (Conforme Anexo)
AGAIA	Geração de minutas de despachos, sentenças, decisões interlocutórias; análise e resumo de petições e documentos.	AR4 – Alto Risco (para geração de minutas de decisões e sentenças)	As funcionalidades voltadas à geração de minutas de atos judiciais (sentenças, decisões) enquadram-se em "AR4 – formulação de juízos conclusivos sobre a aplicação da norma jurídica a fatos concretos". O potencial de uso integrado para subsidiar a construção de atos decisórios é fator determinante.
Ana Fala com Você	Esclarecimento de dúvidas e informações da Carta de Serviços ao Cidadão.	BR1 – Baixo Risco	Atua como apoio, extraindo e repassando informações de bases oficiais, sem tomada de decisão sobre processos nem análise de provas. Curadoria de conteúdo garantida por responsável humano.
JurisAgaia (módulo da AGAIA)	Seleção de jurisprudência, súmula e ementa na base de dados do TJGO. A IA generativa apenas seleciona os dados e o conteúdo é exibido na íntegra.	BR1 – Baixo Risco	Funciona como mecanismo de recuperação e organização de informação oficial, sem geração autônoma de decisão e com apresentação integral das fontes para conferência humana.
RegisAgaia (módulo da AGAIA)	Seleção de Regimentos e Resoluções do TJGO e da Corregedoria-Geral da Justiça do Estado de Goiás. A IA generativa apenas seleciona os dados e o conteúdo é exibido na íntegra.	BR1 – Baixo Risco	Atua como mecanismo de recuperação de atos normativos oficiais, sem tomada de decisão autônoma e com apresentação integral da norma para validação humana.
ChatAgaia	Chat de interação com LLM, sem busca de documentos e sem consulta a dados processuais. Possui prompt de sistema que veda solicitações fora do escopo processual.	BR5 – Baixo Risco	Atua como apoio conversacional para atividade humana, com regras de escopo e prompt interno restritivo, sem automatizar decisão judicial e sem integração de recuperação de documentos/dados processuais.
AceleradorProcessual (módulo da AGAIA)	Análise de documentos pré-definidos e dos movimentos do processo para indicar o panorama do caso e possíveis pontos de travamento processual. Não produz peça para juntada nem minuta.	BR5 – Baixo Risco	Atua como apoio analítico para orientação do trabalho humano, com escopo limitado e prompt interno bem definido, sem prática de ato decisório ou geração de documento processual oficial.
Visual Law (com IA)	Simplificação e representação visual de informações jurídicas, sumarização e adaptação textual.	BR1/BR5 – Baixo Risco	Utiliza IA para sumarização de documentos (BR1) e aprimoramento/formatação de atividades humanas sem alteração substancial do resultado (BR5), não interferindo em atos decisórios.
Berna Telegram	Esclarecimento de dúvidas e informações de processos.	BR1 – Baixo Risco	Atua como apoio, extraindo e repassando informações de bases oficiais, sem tomada de decisão sobre processos nem análise de provas. Curadoria de conteúdo garantida por responsável humano.
Berna IA	Agrupamento de processos similares pela causa de pedir e pela tese jurídica.	BR1 – Baixo Risco	Atua como apoio, extraindo e repassando informações de bases oficiais, sem tomada de decisão sobre processos nem análise de provas. Curadoria de conteúdo garantida por responsável humano.
Sistema de Gestão e Fiscalização Financeira (SGFF)	Uso de IA para analisar o inteiro teor dos processos e apoiar a identificação de situações relacionadas a custas e guias, sem prática de ato decisório.	BR1 – Baixo Risco	Atua como ferramenta de apoio analítico e extração de informações para fiscalização, sem tomada de decisão jurisdicional autônoma e com validação humana dos resultados.
ConcilIA (CincilIA)	Sistema de apoio aos conciliadores: analisa o processo que irá para conciliação, produz resumo e sugere opções de propostas para subsidiar o diálogo com as partes.	BR5 – Baixo Risco	Aprimora atividade humana de conciliação com recomendações e organização de conteúdo, sem substituir o conciliador nem produzir decisão automática.
Consumidor Consciente	Plataforma de suporte ao Judiciário para prevenção do superendividamento e reabilitação financeira de jurisdicionados, com planos personalizados de quitação de dívidas e acompanhamento psicossocial.	BR5 – Baixo Risco	Atua como suporte à orientação de magistrados e servidores, sem automatizar decisão judicial. A proposta é reduzir judicialização e reincidência com organização financeira e educação do jurisdicionado, mantendo validação humana na condução dos casos.
Numoped	Utiliza IA clássica (Berna) para identificar processos relacionados e IA generativa, com prompt bem definido, para indicar possível demanda predatória ou em massa.	BR5 – Baixo Risco	Funciona como apoio técnico para triagem e priorização analítica, sem prática de ato decisório autônomo. As saídas devem ser submetidas à validação humana antes de qualquer medida processual.

Tabela 2 – Matriz de Riscos e Ações de Mitigação

Riscos específicos para AGAIA, JurisAgaia, RegisAgaia, ChatAgaia, AceleradorProcessual, SGFF, ConcilIA, Consumidor Consciente e Numoped, e medidas implementadas

Risco Específico da Solução	Descrição do Risco	Impacto	Probabilidade	Nível de Risco	Ações Implementadas / Medidas de Mitigação em Curso
1. Geração de Conteúdo Juridicamente Incorreto ou Impreciso	A AGAIA pode produzir minutas com erros factuais, interpretações equivocadas da lei ou aplicação incorreta de jurisprudência (caso o usuário solicite do Modelo e não use as base de conhecimento da Agaia), podendo afetar a segurança jurídica.	Alto	Baixa	Moderado	• Validação Humana Obrigatória. • Treinamento e capacitação continuada dos usuários. • Engenharia de prompts clara e precisa. • Testes de acurácia e feedback ativo para aprimoramento.
2. Introdução ou Amplificação de Vieses (Bias)	Possibilidade do modelo LLM (Gemini Pro) reproduzir ou amplificar vieses implícitos dos dados utilizados, afetando a imparcialidade das minutas e análises.	Alto	Baixo	Moderado	• Curadoria ativa de prompts. • Avaliação de vieses incorporada na AIA. • Equipes multidisciplinares na revisão. • Monitoramento contínuo dos resultados gerados.
3. Excesso de Confiança do Usuário (Automation Bias)	Usuários podem confiar excessivamente nas sugestões da AGAIA, reduzindo o rigor da revisão crítica dos atos gerados.	Alto	Média	Alto	• Comunicação e treinamentos constantes reforçando a responsabilidade humana. • Alertas na interface. • Auditorias amostrais dos outputs.
4. Inconsistência nos Resultados Gerados	Resultados da AGAIA podem variar, mesmo com prompts/entradas idênticas, impactando a padronização, previsibilidade e isonomia processual.	Médio	Média	Moderado	• Biblioteca de prompts padronizados. • Sistema de versionamento. • Orientação ao usuário sobre múltiplas gerações e análise comparativa.
5. Dificuldade na Explicabilidade (Caixa-Preta)	Dificuldade de rastreamento do raciocínio algorítmico das respostas, limitando a explicabilidade do resultado e a auditabilidade do processo decisório.	Médio	Baixo	Baixo	• Técnica RAG utilizada para maior rastreabilidade. • Documentação detalhada de prompts. • Logs e registros de uso para auditoria posterior.
6. SGFF: Interpretação Inadequada do Inteiro Teor	A análise automática do inteiro teor pode gerar leitura incompleta de contexto e apontamentos incorretos de pendências financeiras/custas.	Médio	Baixa	Baixo	• Conferência humana obrigatória antes de qualquer encaminhamento. • Revisão periódica de casos com divergência. • Ajustes contínuos de regras e prompts com base em feedback.
7. ConcilIA: Viés de Ancoragem em Propostas Sugeridas	Conciliadores podem se apoiar excessivamente nas propostas sugeridas pela IA, reduzindo a personalização da condução do acordo.	Médio	Média	Moderado	• Treinamento para uso crítico das sugestões da IA. • Registro de justificativa humana para proposta final adotada. • Auditoria amostral de sessões para verificar aderência e imparcialidade.
8. JurisAgaia: Recuperação de Resultado Não Aderente	Em consultas amplas, o sistema pode priorizar resultado menos aderente ao contexto esperado, embora o conteúdo retornado seja sempre o texto integral da fonte oficial.	Baixo	Baixa	Baixo	• Exibição da jurisprudência/súmula/ementa na íntegra para validação humana. • Refinamento de filtros e termos de busca para aumentar aderência. • Revisão contínua das consultas com feedback dos usuários.
9. ChatAgaia: Resposta Fora do Escopo Permitido	Há risco residual de tentativa de consulta não relacionada a processos no chat. O sistema não realiza busca documental nem consulta a dados processuais, mas pode haver tentativa de desvio de finalidade na interação.	Baixo	Baixa	Baixo	• Prompt de sistema com vedação explícita de consultas fora do escopo processual. • Regras de bloqueio para respostas não aderentes ao propósito do ChatAgaia. • Monitoramento de interações e ajustes contínuos do prompt de segurança.
10. RegisAgaia: Recuperação de Norma Não Aderente	Em consultas amplas, pode haver priorização de regimento/resolução menos aderente ao contexto pretendido, embora o conteúdo apresentado seja sempre integral e oriundo de fonte oficial.	Baixo	Baixa	Baixo	• Exibição integral de Regimentos e Resoluções para conferência humana. • Refinamento de filtros por órgão emissor, tema e período. • Revisão contínua das consultas com feedback dos usuários.
11. AceleradorProcessual: Indicação Incompleta de Entraves	A análise pode deixar de destacar algum fator relevante de bloqueio processual em casos complexos, pois o módulo apenas orienta e não substitui a análise técnica humana.	Baixo	Média	Baixo	• Prompt interno com escopo estritamente delimitado para análise indicativa. • Revisão humana obrigatória antes de qualquer providência processual. • Ajuste contínuo do prompt e das regras com base em casos de divergência.
12. Consumidor Consciente: Recomendação Financeira Inadequada ao Perfil	O plano sugerido de quitação pode não refletir integralmente a realidade econômica e psicossocial do jurisdicionado, exigindo ajuste pelo servidor/magistrado responsável.	Médio	Baixa	Baixo	• Validação humana obrigatória dos planos antes de orientação ao cidadão. • Ajuste das recomendações com base em dados socioeconômicos atualizados. • Registro de acompanhamento e revisão periódica dos resultados.
13. Numoped: Falso Positivo em Indicação de Demanda Predatória/em Massa	A combinação entre IA clássica e IA generativa pode classificar de forma indevida um conjunto processual como predatório/em massa, caso o contexto fático-jurídico não seja suficientemente representado.	Médio	Média	Moderado	• Prompt interno estritamente definido e versionado. • Conferência humana obrigatória antes de qualquer encaminhamento. • Auditoria de amostras e recalibração contínua dos critérios de detecção.

Legenda dos Níveis de Risco

AR4

Alto Risco

Formulação de juízos conclusivos sobre aplicação da norma jurídica

BR1

Baixo Risco

Apoio e extração de informações sem tomada de decisão

BR5

Baixo Risco

Aprimoramento de atividades humanas sem alteração substancial

Informações Importantes

Esta classificação está em conformidade com a Resolução CNJ 615/2025 que estabelece diretrizes para o uso de inteligência artificial no Poder Judiciário.

Todas as soluções de IA implementadas no TJGO passam por rigoroso processo de avaliação de riscos e implementação de medidas de mitigação adequadas.