Um advogado de defesa criminal nos Estados Unidos foi multado pela Suprema Corte do estado do Novo México depois que um recurso preparado com ajuda do ChatGPT trouxe depoimentos de testemunhas que simplesmente não existem. O caso reacende o alerta sobre o uso de inteligência artificial sem revisão cuidadosa em documentos jurídicos.
O advogado Stephen Aarons, de Santa Fé, assumiu o recurso da condenação de Oscar Renee Sandoval, considerado culpado por matar a mãe de seus filhos e sentenciado à prisão perpétua. Para preparar o documento, Aarons alimentou o ChatGPT com uma transcrição do julgamento e outros materiais do processo, na expectativa de obter o que ele mesmo chamou de “um resumo à prova de falhas”.
O resultado foi bem diferente do esperado: a ferramenta de IA “alucinou” e inseriu no recurso depoimentos de testemunhas inteiramente fictícias, incluindo a afirmação falsa de que o atirador vestia calça escura e camisa branca — informações que não constavam em nenhum lugar do processo real.
Multa e sanção disciplinar
A Suprema Corte do Novo México considerou Aarons em desacato e aplicou multa de US$ 5 mil, além de encaminhar o caso para a ordem dos advogados do estado investigar possível sanção disciplinar. Segundo o tribunal, o advogado “demonstrou falta de arrependimento e falta de cuidado com o próprio cliente”. O recurso acabou sendo reatribuído a uma defensora pública.
A juíza C. Shannon Bacon não escondeu a irritação durante a audiência, questionando o advogado: “O senhor assiste noticiário? Escuta rádio? Lê alguma coisa sobre o que está acontecendo no mundo?” — uma referência aos diversos casos recentes de advogados sancionados por citar jurisprudência ou fatos inventados por IA.
Em sua defesa, Aarons disse não ter compreendido o quanto a IA pode “alucinar” informações, classificando o episódio como “um erro honesto” e afirmando: “É uma lição para todos os profissionais que dependem dessa tecnologia poderosa, mas às vezes instável.”
O caso é mais um de uma lista crescente de episódios em que advogados nos Estados Unidos enfrentam sanções por apresentar documentos gerados por IA sem a devida checagem, contendo desde jurisprudência inventada até citações de leis erradas e, agora, depoimentos de testemunhas que nunca existiram.
Saiba mais nas reportagens originais da Al Jazeera e da CNN Brasil.
Deixe um comentário
Você precisa fazer o login para publicar um comentário.