O Superior Tribunal de Justiça (STJ) determinou nesta quarta-feira (20) a abertura de uma investigação crucial para apurar o uso de inteligência artificial na fraude de processos eletrônicos. A medida visa proteger a integridade do sistema judicial brasileiro, impactando a segurança jurídica do país. O Resumo explica e descomplica para você.
STJ Abre Inquérito Para Apurar Fraudes Com IA
Por ordem do presidente do STJ, Herman Benjamin, foram instaurados um inquérito policial e um procedimento administrativo interno. As investigações buscam apurar tentativas de fraudes que teriam sido cometidas por advogados e escritórios de advocacia, visando manipular o sistema eletrônico de petições do tribunal com comandos de IA.
Entenda o Mecanismo de Fraude: Prompt Injection
A medida foi tomada após técnicos do tribunal identificarem a entrada de petições com ‘prompt injection’. Esse mecanismo é usado para enganar modelos de inteligência artificial e favorecer partes durante o andamento eletrônico de um processo. Os comandos ocultos são inseridos nas petições para tentar forçar o sistema de IA a ignorar filtros de seleção que impedem, por exemplo, a admissão de documentos que não contêm os requisitos básicos. Contudo, o sistema do STJ já tem travas contra o uso de prompts e impede a execução dessas ordens fraudulentas.
O que isso muda na prática: Esta investigação reforça a fiscalização do judiciário sobre o uso de novas tecnologias, garantindo a integridade dos processos e a segurança jurídica. A apuração é essencial para a confiança no sistema de justiça e para prevenir decisões influenciadas por manipulação tecnológica, afetando diretamente a transparência e a imparcialidade dos julgamentos.
