Juiz usa ChatGPT para criar sentença fictícia; uso de Inteligência Artificial será investigado

O uso do chatbot foi descoberto pelo advogado da parte derrotada na decisão artificial

Legenda: O ChatGPT é um dos mais populares serviços de IA generativa
Foto: Shutterstock

A Inteligência Artificial costuma despertar, ao mesmo tempo, um certo deslumbre e receio sobre seus limites. O que antes era restrito a grupos acadêmicos e à ficção científica é cada vez mais comum no nosso dia a dia. Em particular, a chamada IA generativa, ou seja, aquela que usa aprendizado de máquina para criar algo novo, sejam textos, fotos, ou mesmo vídeos, está ao alcance de qualquer criança com um celular ou computador à mão.

Assim, as discussões éticas presentes nos livros de Isaac Asimov ou em episódios de Star Trek já fazem parte do cotidiano. Prova disso foi o uso que um juiz federal fez do ChatGPT, um dos mais populares serviços de IA generativa, para criar uma sentença. Além da discussão sobre a conveniência desse tipo de expediente por um magistrado, o chatbot usou como base para sua tese uma decisão do Superior Tribunal de Justiça (STJ) que nunca foi tomada. Ou seja, uma ficção, assim como as famosas obras de Asimov e as aventuras vividas na Frota Estelar. 

Veja também

O resultado disso é que o juiz terá sua conduta investigada pelo Conselho Nacional de Justiça (CNJ). Segundo o Conjur, uso do ChatGPT foi descoberto pelo advogado da parte derrotada na sentença artificial, que recorreu de forma bem real à Corregedoria Regional de Justiça Federal da 1ª Região, onde o julgador é lotado.

Em circular, o desembargador federal Néviton Guedes, corregedor regional, destacou o caso "em que uma ferramenta de IA generativa, utilizada como assistente de minuta de ato judicial, apresentou como resultado de pesquisa jurisprudencial precedentes inexistentes".

O fato levou Guedes a reforçar "os deveres de cautela, de supervisão e de divulgação responsável dos dados do processo, quanto ao auxílio de IA para a elaboração de decisão judicial".

Ele também recomendou que não sejam utilizadas "ferramentas de IA generativa abertas e não-homologadas pelos órgãos de controle do Poder Judiciário" para a pesquisa de precedentes jurisprudenciais.

Por isso, o desembargador advertiu que o uso de IA nos serviços judiciais são de responsabilidade do magistrado competente, "com a qual todos os servidores, estagiários e colaboradores envolvidos devem concorrer".

"Mero equívoco"

Ainda conforme o Conjur, o juiz que fez uso do ChatGPT afirmou que o caso foi um "mero equívoco" cometido por um servidor e ocasionado pelo excesso de trabalho. Antes de ser iniciada no CNJ, a investigação chegou a ser arquivada na corregedoria da 1ª Região.