Quando a IA deve parar de responder no WhatsApp: regras de escalonamento para humano

A IA deve parar de responder e passar para um humano em cinco situações: o cliente pediu explicitamente, a pergunta está fora da base de conhecimento, o assunto é uma reclamação, envolve uma decisão que a empresa não delega (reembolso, cancelamento), ou a IA já tentou duas vezes sem resolver. O erro mais comum não é a IA responder errado — é ela responder com confiança quando deveria ter admitido o limite.

Por que isso precisa de regra, não de bom senso do modelo

Um modelo de linguagem, por padrão, tenta ser útil — e "ser útil" para ele frequentemente significa dar uma resposta, mesmo quando a informação certa não está disponível. Isso é o comportamento correto para um assistente geral e o comportamento errado para um atendente: um bot que inventa prazo de entrega ou confirma uma política que não existe custa mais caro em reclamação do que um bot que admite "não sei" e chama alguém.

Depender só de uma instrução de bom senso no prompt não é suficiente — o modelo às vezes ignora a instrução sob pressão de "parecer útil". A solução robusta são duas camadas: uma instrução explícita no prompt e uma verificação no código que não depende do modelo se lembrar de segui-la.

As cinco situações

1. Pedido explícito do cliente. "Quero falar com uma pessoa" é o caso mais simples de detectar e o que menos deveria falhar. Insistir em responder depois desse pedido é o erro mais irritante para quem está do outro lado.

2. Fora da base de conhecimento. Se a resposta exigiria informação que não está no contexto recuperado por RAG, o modelo não deveria preencher a lacuna com o que aprendeu no treinamento — que pode estar desatualizado ou simplesmente errado para o seu negócio.

3. Reclamação ou conteúdo emocionalmente carregado. Um cliente frustrado quer ser ouvido por alguém que pode agir, não por um bot educado repetindo a política. Detectar tom de reclamação e escalar cedo evita que a situação piore por mais duas ou três trocas de mensagem automatizadas.

4. Decisão que a empresa não delega. Reembolso, cancelamento de contrato, negociação de valor — são decisões com peso financeiro ou de exceção que, na maioria das operações, exigem julgamento humano. Isso é uma escolha de política do negócio, não uma limitação técnica da IA.

5. Duas tentativas sem resolver. Se a IA já respondeu duas vezes e o cliente insiste na mesma dúvida, algo não está sendo entendido — continuar tentando a terceira vez raramente muda o resultado, e cada tentativa a mais aumenta a frustração.

Implementando: prompt e código juntos

const SYSTEM = `Você é o atendente da Loja Exemplo no WhatsApp.

Responda apenas com base no CONTEXTO fornecido.

Retorne EXATAMENTE o texto [HUMANO] e nada mais quando:
- o cliente pedir para falar com uma pessoa
- a pergunta não estiver coberta pelo CONTEXTO
- o cliente demonstrar frustração ou insatisfação forte
- o assunto for reembolso, cancelamento ou negociação de valor`;

async function processarMensagem(de, texto, tentativasAnteriores) {
  const resposta = await responder(de, texto); // chama o modelo com o SYSTEM acima

  const precisaEscalar =
    resposta.includes("[HUMANO]") ||
    tentativasAnteriores >= 2; // camada de código, independente do modelo

  if (precisaEscalar) {
    await enviar(de, "Vou chamar alguém do time para continuar com você.");
    await avisarAtendente({ de, motivo: classificarMotivo(resposta, tentativasAnteriores) });
    return;
  }

  await enviar(de, resposta);
}

A contagem de tentativas (tentativasAnteriores >= 2) é a rede de segurança para o caso em que o modelo não reconhece que está em loop — uma regra de código que não depende do modelo se autoavaliar corretamente.

A transição precisa ser visível, não abrupta

Passar a conversa sem avisar é o que faz o cliente sentir que "o atendimento sumiu". Duas coisas resolvem isso:

Avisar antes de transferir. Uma linha simples — "vou chamar alguém do time para te ajudar com isso" — já muda a percepção de abandono para continuidade.

O humano herda o contexto. Se o atendente que assume precisa perguntar "em que posso ajudar?" do zero, o cliente repete tudo que já disse ao bot — e isso anula boa parte do valor de ter automatizado a primeira parte. O histórico da conversa (o que o cliente perguntou, o que a IA já tentou responder) deve chegar junto com o aviso ao atendente. Como estruturar essa fila e a passagem entre bot e time humano está em vários atendentes no mesmo número de WhatsApp.

Medindo se o critério está calibrado

Duas métricas, olhadas juntas:

• Taxa de escalonamento muito baixa — sinal de que a IA pode estar respondendo com confiança em situações que deveria ter escalado, inventando em vez de admitir limite.
• Taxa de escalonamento muito alta, com boa parte das conversas escaladas sendo coisas simples — sinal de que o critério está sensível demais e a IA está descartando trabalho que poderia ter resolvido.

Não existe um número universal certo — o equilíbrio depende do quanto sua operação tolera risco de resposta errada versus custo de escalar demais. O que importa é acompanhar as duas pontas, não só uma.

Conclusão

Escalonamento bem feito não é um recurso de emergência — é parte do desenho do agente desde o início, tão importante quanto o que ele responde quando sabe a resposta. Um bot que nunca escala está, quase sempre, inventando; um bot que escala tudo não economiza o trabalho que deveria. O prompt define a intenção, o código garante que ela é cumprida mesmo quando o modelo falha em segui-la — e é a combinação das duas camadas que sustenta isso em produção.