O Superior Tribunal de Justiça (STJ) anunciou nesta quarta-feira (20) o início de uma investigação para examinar a utilização de instruções para inteligência artificial com o objetivo de ludibriar o sistema eletrônico de peticionamento da corte.
Por determinação do ministro Herman Benjamin, presidente do STJ, foram instaurados um inquérito policial e um processo administrativo interno para investigar as supostas tentativas de fraude, que teriam sido perpetradas por advogados e bancas de advocacia.
A decisão surgiu após a identificação por parte de técnicos do tribunal de petições que continham 'prompt injection', uma técnica empregada para enganar modelos de IA e beneficiar partes durante o trâmite eletrônico de um caso judicial.
As instruções dissimuladas são incluídas em petições na tentativa de compelir o sistema de IA a desconsiderar filtros de validação, que, por exemplo, bloqueiam a aceitação de um documento que não atende aos critérios fundamentais para ser admitido.
De acordo com o STJ, a plataforma do tribunal já dispõe de mecanismos de proteção contra a aplicação de prompts, os quais evitam que as ordens sejam efetivadas pelo sistema responsável pelo recebimento das petições.
Opina News