CNJ - Resolução 615 - Artigo 9

CAPÍTULO III
DA CATEGORIZAÇÃO DOS RISCOS


Art. 9º. Os tribunais deverão realizar a avaliação das soluções que utilizem técnicas de inteligência artificial, com a finalidade de definir o seu grau de risco, baseando-se na categorização e nos critérios previstos neste Capítulo e no Anexo de Classificação de Riscos, com base em fatores como o potencial impacto nos direitos fundamentais, a complexidade do modelo, a sustentabilidade financeira, os usos pretendidos e potenciais e a quantidade de dados sensíveis utilizados.

§ 1º - A avaliação deverá ser realizada pelo tribunal desenvolvedor ou contratante da solução, preferencialmente durante o período de testes e homologação ou, no caso de aplicações de baixo risco, no início da entrada em produção interna da solução de IA, de acordo com diretrizes claras e critérios objetivos que garantam uniformidade na avaliação de risco, que serão publicadas na plataforma Sinapses, previamente à disponibilização da solução na PDPJ-Br.

§ 2º - O Comitê Nacional de Inteligência Artificial do Judiciário fixará as diretrizes e os critérios de avaliação de risco a que se refere o § 1º, ouvidos os tribunais, desenvolvedores e a sociedade civil.

§ 3º - O Comitê Nacional de Inteligência Artificial do Judiciário poderá, de ofício ou mediante provocação fundamentada, determinar a reclassificação do grau de risco de determinada solução, bem como determinar, de forma justificada, a realização de avaliação de impacto algorítmico, quando tal medida se demonstrar proporcional, respeitada tanto quanto possível a autonomia dos tribunais.

CNJ - Resolução 615 - Artigo 9

CAPÍTULO III
DA CATEGORIZAÇÃO DOS RISCOS


Art. 9º. Os tribunais deverão realizar a avaliação das soluções que utilizem técnicas de inteligência artificial, com a finalidade de definir o seu grau de risco, baseando-se na categorização e nos critérios previstos neste Capítulo e no Anexo de Classificação de Riscos, com base em fatores como o potencial impacto nos direitos fundamentais, a complexidade do modelo, a sustentabilidade financeira, os usos pretendidos e potenciais e a quantidade de dados sensíveis utilizados.

§ 1º - A avaliação deverá ser realizada pelo tribunal desenvolvedor ou contratante da solução, preferencialmente durante o período de testes e homologação ou, no caso de aplicações de baixo risco, no início da entrada em produção interna da solução de IA, de acordo com diretrizes claras e critérios objetivos que garantam uniformidade na avaliação de risco, que serão publicadas na plataforma Sinapses, previamente à disponibilização da solução na PDPJ-Br.

§ 2º - O Comitê Nacional de Inteligência Artificial do Judiciário fixará as diretrizes e os critérios de avaliação de risco a que se refere o § 1º, ouvidos os tribunais, desenvolvedores e a sociedade civil.

§ 3º - O Comitê Nacional de Inteligência Artificial do Judiciário poderá, de ofício ou mediante provocação fundamentada, determinar a reclassificação do grau de risco de determinada solução, bem como determinar, de forma justificada, a realização de avaliação de impacto algorítmico, quando tal medida se demonstrar proporcional, respeitada tanto quanto possível a autonomia dos tribunais.