Os guarda-corpos: por que a IA daqui não inventa preço nem instrução

Toda IA generativa pode alucinar — inventar um dado com toda a confiança do mundo. Isso é da natureza da tecnologia, e quem prometer "IA que nunca erra" está mentindo pra você. O diferencial do Autopilot é outro: aqui, a alucinação é BLOQUEADA antes de chegar no seu cliente. Cada resposta do agente passa por verificações determinísticas — código puro, não outra IA dando opinião — que cruzam o que a IA escreveu com os dados reais da sua empresa. Se contradiz, não sai.

Guarda-corpo 1: afirmação de pagamento sem artefato real

O erro mais caro que um agente de vendas pode cometer: dizer "tá aqui o PIX, é só escanear 👆", "te mandei o boleto" ou "clica no link" — sem que NENHUM PIX, boleto ou link tenha sido enviado de verdade. O cliente quer pagar e não tem como. Antes de liberar uma mensagem que afirma entrega de pagamento, o sistema verifica a realidade em três fontes: o próprio texto contém um artefato concreto (link, código PIX copia-e-cola, linha digitável, chave)? Uma ferramenta de pagamento foi executada com sucesso nesta resposta? Ou uma mensagem com artefato real já foi entregue na conversa? Se nenhuma das três confirma, a mensagem é bloqueada — e o agente é forçado a corrigir (enviar o pagamento de verdade) ou escalar pra um humano. Referências legítimas ("a chave que te mandei acima") passam, porque o envio anterior existe de verdade.

Guarda-corpo 2: instrução de uso que contradiz o cadastro

Se você cadastrou o modo de uso oficial do produto (ex: "2 cápsulas por dia"), o sistema extrai a dosagem canônica desse cadastro e compara com o que o agente afirma em contexto de instrução. Mensagem dizendo "tome 3 cápsulas" quando o oficial é 2? Bloqueada. Mensagem falando em "gotas" num produto que é em cápsulas? Bloqueada. O agente recebe de volta o modo de uso oficial e reescreve a resposta correta. E a verificação é esperta: "o frasco vem com 60 cápsulas" não bloqueia, porque é conteúdo do frasco, não instrução de dose.

Suas próprias regras

• Além dos guarda-corpos automáticos, você pode criar regras de guardrail por agente: padrões de texto proibidos, com severidade de aviso (WARN) ou bloqueio (BLOCK), categorizados em compliance, marca, segurança ou personalizado.
• Regras com texto de substituição trocam a frase problemática automaticamente em vez de bloquear a mensagem inteira.
• Cada bloqueio fica registrado e auditável — você consegue ver o que foi bloqueado, quando e por quê.

Dica de operador: os guarda-corpos comparam a resposta com o SEU cadastro. Se o modo de uso oficial não está cadastrado, não existe referência pra comparar — e o guarda-corpo de dosagem não tem contra o que bloquear. Primeira coisa depois de criar o agente: cadastre modo de uso, preços e políticas oficiais. O guarda-corpo é tão forte quanto a verdade que você deu pra ele.