3 controles humanos para uma caixa de e-mail de atendimento com AI

Um spam pode deixar uma gráfica preocupada porque mostra que, depois de ler conteúdo externo, a AI pode seguir instruções escondidas ali dentro

Um usuário do Reddit conectou uma AI ao e-mail e ao calendário. A ideia inicial era só lidar com tarefas do dia a dia. Alguns dias depois, recebeu um spam aparentemente comum, mas o HTML escondia instruções para a AI procurar documentos financeiros e encaminhá-los para um endereço externo. Por sorte, havia uma etapa de confirmação, e a ação parou antes do envio

Prompt injection é esconder instruções maliciosas em e-mails, páginas da web ou arquivos, fazendo a AI confundir texto externo com comandos do usuário e executar ações fora da permissão adequada

A caixa de e-mail de uma gráfica é ainda mais delicada. E-mails de clientes costumam trazer orçamentos, arquivos de arte-final, contratos, materiais de marca e dados de faturamento. Os anexos podem ser PDF, AI, PSD, ZIP, ou ainda cotações de fornecedores e comprovantes de pagamento de clientes. Se a caixa de e-mail de atendimento com AI puder, ao mesmo tempo, ler, classificar, capturar anexos, encaminhar e criar orçamentos, o risco deixa de ser “responder errado” e passa a ser “mandar dados do cliente para fora”

Calma. O problema não é usar AI. O problema é a gráfica tratar a caixa de e-mail como uma entrada comum de atendimento. O e-mail é o ponto onde vendas, financeiro, pré-impressão e prazos se cruzam. Se as permissões forem mal definidas, quando algo dá errado, raramente um único departamento consegue resolver sozinho

Uma caixa de e-mail de atendimento com AI pode organizar, lembrar e fazer uma primeira triagem. Não pode executar diretamente ações que possam causar perda financeira, problema de prazo ou vazamento de dados

O erro que mais vejo em gráficas que adotam AI é confundir “entende” com “pode assumir responsabilidade”. A AI consegue entender quando o cliente diz “quero 500 cartões de visita frente e verso até sexta-feira”. Também consegue apontar que faltam papel, medidas, acabamento ou prazo. Mas ela não deveria decidir preço sozinha, muito menos encaminhar automaticamente anexos do cliente para uma gráfica terceirizada

・Pode ficar com a AI: organizar as necessidades do cliente, como quantidade, formato, papel, cores de impressão, acabamento e prazo

・Pode ficar com a AI: marcar itens faltantes, como ausência de sangria, faca de corte, telefone de contato ou endereço de entrega

・Pode ficar com a AI: redigir uma resposta preliminar, pedindo ao cliente para complementar arquivos ou confirmar especificações

・Precisa de confirmação humana: envio do orçamento formal, especialmente quando inclui impostos, frete, taxa de urgência e custos de acabamento

・Precisa de confirmação humana: envio externo de anexos, incluindo para gráficas terceirizadas, logística, designers e e-mails pessoais de vendedores

・Precisa de confirmação humana: apagar e-mails, arquivar, alterar prazos e prometer condições de pagamento

Clientes que estão fazendo impressão pela primeira vez muitas vezes não distinguem “estimativa” de “orçamento formal”. Deixar a AI redigir uma estimativa economiza tempo, mas, quando um orçamento formal é enviado, ele vira base para o cliente conferir valores e cobrar andamento. Esse botão, eu não recomendo entregar

Se a equipe está estruturando a adoção de uma caixa de e-mail de atendimento com AI, a equipe de consultoria da Academia do Conhecimento Mai Strategy normalmente começa ajudando a gráfica a desenhar 3 níveis de permissão: “AI pode ler”, “AI pode escrever” e “AI pode enviar”. Sem esse desenho claro, a automação só faz o erro chegar mais rápido

Ao adotar uma caixa de e-mail de atendimento com AI, uma gráfica deve criar pelo menos 3 controles humanos: envio externo de anexos, envio de orçamento e acesso a dados sensíveis

・1º controle, confirmação de envio externo de anexos: sempre que PDF, AI, PSD, ZIP, nota fiscal, contrato ou comprovante de pagamento for enviado para fora do domínio da empresa, o sistema só pode preparar um rascunho. O envio acontece apenas depois que uma pessoa confere destinatário e nome dos anexos

・2º controle, confirmação de orçamento formal: sempre que houver valores, condições de pagamento, compromisso de prazo, taxa de urgência ou custo de acabamento, a AI só pode gerar um rascunho. O vendedor ou orçamentista precisa revisar especificações e observações

・3º controle, confirmação de acesso a dados sensíveis: em casos de lista de clientes, dados bancários, número fiscal da empresa, celular de contato e materiais de marca ainda não publicados, a AI pode resumir, mas não pode salvar em outro lugar, encaminhar ou sincronizar com ferramentas externas por conta própria

Esses 3 controles parecem conservadores, mas combinam muito com a rotina de uma gráfica. As disputas mais comuns nem sempre vêm de uma máquina que imprimiu errado. Muitas começam com uma frase pouco clara lá no início, e depois a gráfica inteira precisa tapar o buraco. Quando alguém diz “sexta-feira dá”, isso significa entrega na sexta, expedição na sexta ou começo da contagem depois da aprovação da arte? A AI pode deixar a frase fluida e, junto, entregar a responsabilidade

Minha sugestão é manter registro de cada e-mail redigido pela AI: mensagem original, resumo da AI, edição humana e versão final enviada. Não é para apontar culpados. É para entender quais tipos de pedido são mais mal interpretados. Na pré-impressão, confiar só no que foi dito de boca é um risco. Na caixa de e-mail, também

Para colocar uma caixa de e-mail de atendimento com AI em prática, gráficas pequenas e médias devem começar por ações de baixo risco, deixando a AI reduzir trabalho repetitivo de organização, não substituir o julgamento comercial

・1º passo: primeiro receber, sem enviar. A AI fica responsável apenas por classificar pedidos de orçamento, reclamações, complementos de arquivo, pagamentos e acompanhamento de prazo

・2º passo: primeiro redigir, sem envio automático. Todas as respostas entram na caixa de rascunhos, e uma pessoa aperta enviar

・3º passo: primeiro uso interno, sem vazamento externo. Os resumos da AI ficam apenas para vendas, pré-impressão e atendimento, sem envio direto ao cliente ou a terceirizados

・4º passo: primeiro registrar, sem pressa para otimizar. Toda semana, revisar alguns e-mails que a AI julgou errado. Ajustar regras costuma ser mais útil do que adicionar funções

Para o cliente comum, a melhoria mais perceptível é pequena: resposta mais rápida, pedidos de arquivos faltantes mais claros, menor espera pelo orçamento. Para a gráfica, essas pequenas melhorias já bastam para começar. Não é preciso entregar logo de início à AI o orçamento formal e o envio externo de anexos

Em impressos comerciais altamente personalizados, como projetos com papéis especiais, hot stamping, relevo seco, verniz localizado e encadernação especial, a AI deve ficar ainda mais no papel de organizar informações. Em fluxos de impressão totalmente personalizados e de padrão médio-alto, como os da MINDS, o valor costuma estar no julgamento humano dos detalhes, não em entregar o botão de resposta ao sistema

É simples. A primeira versão de uma caixa de e-mail de atendimento com AI não precisa agir como um vendedor experiente. Precisa agir como um assistente atento: separar as mensagens, marcar o que falta e parar as ações perigosas diante de uma pessoa

・O maior risco de uma caixa de e-mail de atendimento com AI não é escrever uma palavra errada, mas fazer a coisa errada depois de receber permissão para enviar e-mails e anexos

・Para gráficas, o risco de prompt injection aparece em orçamentos, anexos, dados de clientes e compromissos de prazo

・A AI pode organizar pedidos de orçamento, mas orçamento formal, envio externo de anexos e acesso a dados sensíveis precisam de confirmação humana

・Na primeira adoção de AI, controle permissões antes de falar em eficiência de automação

Equipes de produção gráfica, design e SaaS não deveriam olhar para esse caso discutindo apenas se a AI é segura ou não. O ponto é voltar ao desenho do processo: quais campos ela pode ler, quais ações pode escrever, quais botões precisam ser apertados por uma pessoa. Minha sugestão é passar 2 semanas organizando os tipos de e-mail, separando orçamento, complemento de arquivo, reclamação, pagamento e prazo. Depois, criar um sistema de rascunhos e confirmação para envio externo. Se a caixa de e-mail de atendimento com AI assumir primeiro as tarefas repetitivas de baixo risco, vendas e pré-impressão ganham tempo para olhar justamente onde os erros de verdade acontecem

・Discussão no Reddit sobre a AI que quase encaminhou documentos bancários