O que é prompt injection em contratos?

Você pede à IA que resuma as obrigações de um contrato. No documento, há uma frase tentando induzir o sistema a omitir a multa por atraso. Se o assistente seguir essa instrução, a análise pode parecer completa mesmo sem mencionar um risco decisivo. Esse é um exemplo fictício de prompt injection indireta.

De onde vem a instrução

Na injeção direta, a tentativa chega pela mensagem enviada ao assistente. Na indireta, o comando viaja com um conteúdo que o sistema foi autorizado a ler, como um anexo. O arquivo entra para fornecer dados, mas uma frase dentro dele tenta assumir o papel de instrução. Ela pode estar visível ou escondida em elementos que o leitor humano raramente inspeciona.

Como separar cláusula e comando

Uma cláusula típica identifica as partes, descreve uma obrigação e define consequências. Um comando suspeito costuma se dirigir à ferramenta ou tentar controlar a resposta. “A contratada deve notificar a contratante” descreve uma obrigação. Uma frase mandando o assistente suprimir a referência à notificação tenta modificar o relatório. O destinatário da frase e o local em que ela aparece ajudam a interpretar a diferença.

O que fazer com a suspeita

Guarde o original, localize a página e suspenda o uso daquele resumo até conferir as cláusulas afetadas. Peça uma nova cópia por um canal conhecido se houver divergência entre o arquivo e a versão esperada. Na revisão com IA, exija referências aos trechos relevantes e confira no documento as condições que mudam sua decisão.

Um detector pode ajudar a localizar sinais técnicos. Um resultado limpo continua sendo apenas uma etapa de triagem.

Fontes

• OWASP · LLM01 Prompt Injection