STJ abre investigação para apurar uso de prompts de IA para fraudar processos
O Superior Tribunal de Justiça (STJ) determinou nesta quarta-feira (20) a abertura de uma investigação para apurar o uso de prompts de inteligência artificial para burlar o sistema eletrônico de petições do tribunal. Por ordem do presidente do STJ, Herman Benjamin, um inquérito policial e um procedimento administrativo interno foram instaurados para apurar tentativas de fraudes, que teriam sido cometidas por advogados e escritórios de advocacia.
A medida foi tomada após técnicos do tribunal identificarem a entrada de petições com prompt injection, mecanismo usado para enganar modelos de IA e favorecer partes durante o andamento eletrônico de um processo.
Os comandos ocultos são inseridos em petições para tentar forçar o sistema de IA a ignorar filtros de seleção que impedem, por exemplo, a admissão de um documento que não contém os requisitos básicos de admissibilidade. Segundo o STJ, o sistema do tribunal já tem travas contra o uso de prompts e impedem que as ordens sejam executadas pela plataforma que recebe as petições.
Assuntos
continue lendo
Política
STJ dá 90 dias para Buzzi deixar imóvel funcional em Brasília
Ministro foi afastado por acusações de assédio e importunação sexual
- Adiamento de decisão da Aneel é 'mais uma oportunidade' de reavaliação, diz Enel SP Jovem Pan · há 29 minutos
- Deputado do PL se coloca à disposição para disputar a presidência da Câmara Jovem Pan · há 3 horas
- Andrei Rodrigues não deve ir ao Senado para explicar afastamento de delegados do caso Master Misael Mainetti · há 3 horas
- Motta prevê votação de ajuste fiscal e anuncia relator Luísa Câmara · há 5 horas