AI 고객 응대 메일함에 필요한 3단계 사람 확인 절차

스팸 메일 한 통이 인쇄소를 긴장하게 만드는 이유는, AI가 외부 내용을 읽은 뒤 숨겨진 지시를 그대로 따를 수 있다는 점을 보여주기 때문이다

Reddit의 한 사용자는 AI를 email과 calendar에 연결했다. 원래는 일상적인 잡무를 처리하려던 것이었다. 며칠 뒤 평범해 보이는 스팸 메일을 받았는데, HTML 안에 AI에게 금융 문서를 찾아 외부 주소로 전달하라는 지시가 숨어 있었다. 그때는 다행히 확인 단계가 있었고, 동작은 발송 직전에 멈췄다

Prompt injection은 악의적인 지시를 메일, 웹페이지, 파일 내용 안에 숨겨 AI가 외부 텍스트를 사용자 명령으로 오해하게 만들고, 그 결과 권한을 벗어난 행동을 하게 하는 방식이다

인쇄소 메일함은 더 까다롭다. 고객 메일에는 견적서, 인쇄용 최종 파일, 계약서, 브랜드 소재, 세금계산서 자료가 자주 들어 있다. 첨부파일은 PDF, AI, PSD, ZIP일 수도 있고, 협력업체 견적이나 고객 결제 증빙일 수도 있다. AI 고객 응대 메일함이 메일 읽기, 분류, 첨부파일 추출, 전달, 견적 생성까지 동시에 할 수 있다면 위험은 “답변을 잘못함”에서 “고객 자료를 밖으로 보냄”으로 바뀐다

일단 서두를 필요는 없다. 문제는 AI를 쓰면 안 된다는 것이 아니다. 인쇄소가 메일함을 일반 고객센터 입구처럼 연결하면 안 된다는 것이다. 메일함은 영업, 재무, 프리프레스, 납기가 만나는 지점이다. 권한 설정을 잘못하면 보통 한 부서만으로 수습할 수 없는 일이 된다

AI 고객 응대 메일함은 정리, 알림, 1차 판단은 할 수 있다. 하지만 돈, 납기, 정보 유출로 이어질 수 있는 행동을 직접 해서는 안 된다

인쇄소의 AI 도입을 보면 가장 흔한 실수는 “이해한다”를 “책임질 수 있다”로 착각하는 것이다. AI는 고객이 “양면 명함 500장, 금요일 전까지 필요해요”라고 말한 뜻을 이해할 수 있다. 용지, 사이즈, 후가공, 납기 정보가 빠졌다고 알려줄 수도 있다. 하지만 가격을 스스로 결정해서는 안 되고, 고객 첨부파일을 외부 가공업체로 자동 전달해서도 안 된다

・AI에 맡길 수 있는 일: 수량, 사이즈, 용지, 인쇄 색상, 후가공, 납기 같은 고객 요구사항 정리

・AI에 맡길 수 있는 일: 도련 부족, 칼선 누락, 연락처 누락, 배송지 없음 같은 누락 항목 표시

・AI에 맡길 수 있는 일: 고객에게 파일 보완이나 사양 확인을 요청하는 회신 초안 작성

・사람 확인이 필요한 일: 공식 견적서 발송, 특히 부가세, 배송비, 급행료, 후가공비가 포함된 경우

・사람 확인이 필요한 일: 첨부파일 외부 발송, 외주 인쇄소, 물류사, 디자이너, 영업 담당자 개인 메일함으로 보내는 경우 포함

・사람 확인이 필요한 일: 메일 삭제, 보관 처리, 납기 변경, 결제 조건 약속

처음 인쇄를 맡기는 고객은 “예상 견적”과 “공식 견적”을 잘 구분하지 못하는 경우가 많다. AI가 예상 견적 초안을 만들면 시간은 줄일 수 있다. 하지만 공식 견적이 한번 발송되면 고객이 대조하고 납품을 재촉하는 근거가 된다. 이 버튼은 넘기지 않는 편이 낫다

팀이 AI 고객 응대 메일함 도입 흐름을 정리하고 있다면, Mai Strategy 지식 아카데미 컨설팅 팀은 보통 먼저 인쇄소와 함께 “AI가 읽을 수 있는 것, AI가 쓸 수 있는 것, AI가 발송할 수 있는 것”의 3단계 권한을 그린다. 이 선을 먼저 명확히 하지 않으면 뒤의 자동화는 실수를 더 빨리 보낼 뿐이다

인쇄소가 AI 고객 응대 메일함을 도입한다면 최소한 첨부파일 외부 발송, 견적 발송, 민감 자료 접근 이 3가지에는 사람 확인 절차를 둬야 한다

・1단계, 첨부파일 외부 발송 확인: PDF, AI, PSD, ZIP, 세금계산서, 계약서, 결제 증빙을 회사 도메인 밖으로 보내야 하는 경우, 시스템은 초안만 만들 수 있어야 한다. 사람이 수신자와 첨부파일명을 확인한 뒤에만 발송한다

・2단계, 공식 견적 확인: 금액, 결제 조건, 납기 약속, 급행료, 후가공비가 들어가는 경우 AI는 초안만 만들 수 있어야 한다. 영업 또는 견적 담당자가 사양과 비고를 확인해야 한다

・3단계, 민감 자료 접근 확인: 고객 명단, 은행 정보, 사업자등록번호, 담당자 휴대폰 번호, 비공개 브랜드 소재는 AI가 요약할 수는 있어도 스스로 저장 위치를 바꾸거나 전달하거나 외부 도구와 동기화해서는 안 된다

이 3단계는 보수적으로 보이지만 실제 인쇄 현장과 꽤 맞닿아 있다. 인쇄소에서 가장 흔한 분쟁은 꼭 기계가 잘못 찍어서 생기는 것이 아니다. 앞에서 한마디가 명확하지 않아 뒤에서 전 공정이 수습하는 경우가 많다. 예를 들어 “금요일 가능”이 금요일 납품인지, 출고인지, 최종 파일 확인 뒤부터 계산한다는 뜻인지가 문제다. AI는 말투를 자연스럽게 다듬다가 책임까지 자연스럽게 밖으로 내보내기 쉽다

나는 AI가 초안으로 만든 모든 메일에 기록을 남기라고 권한다. 원본 메일, AI 요약, 사람의 수정 내용, 최종 발송본까지. 사람을 잡아내기 위한 것이 아니다. 어떤 유형의 건이 자주 오판되는지 되돌아보기 위해서다. 프리프레스 현장이 가장 꺼리는 것이 말뿐인 확인이다. 메일함도 같다

중소 인쇄소가 AI 고객 응대 메일함을 현장에 적용하려면 낮은 위험의 작업부터 시작해야 한다. AI가 반복 정리를 줄여주게 하되, 영업 판단을 대체하게 해서는 안 된다

・1단계: 먼저 수신만 하고 발송하지 않는다. AI는 견적 문의, 클레임, 파일 보완, 결제, 납기 추적 분류만 맡는다

・2단계: 먼저 초안만 만들고 자동 발송하지 않는다. 모든 회신은 임시보관함으로 들어가고, 사람이 발송 버튼을 누른다

・3단계: 먼저 내부용으로만 쓰고 외부로 흘리지 않는다. AI 요약은 영업, 프리프레스, 고객 응대 담당자만 보고, 고객이나 외주업체에 바로 보내지 않는다

・4단계: 먼저 기록하고, 최적화를 서두르지 않는다. 매주 AI가 잘못 판단한 메일 몇 통을 뽑아본다. 기능을 더하는 것보다 규칙을 고치는 쪽이 더 효과적이다

일반 고객이 체감하는 개선은 사실 작다. 답장이 빨라지고, 누락 자료 안내가 분명해지고, 견적 대기 시간이 줄어드는 정도다. 인쇄소 입장에서는 이 작은 개선만으로도 먼저 굴려볼 만하다. 처음부터 AI에 공식 견적과 첨부파일 외부 발송까지 맡길 필요는 없다

고객 맞춤형 상업 인쇄를 다룰 때, 특수지, 박, 형압, 부분 UV, 특수 제본 같은 건은 AI를 자료 정리 위치에 두는 편이 더 맞다. MINDS 같은 중고급 완전 맞춤 인쇄 프로세스의 가치는 보통 사람이 세부 사항을 판단하는 데 있지, 회신 버튼을 시스템에 넘기는 데 있지 않다

간단하다. AI 고객 응대 메일함의 첫 버전은 숙련된 영업 담당자처럼 보일 필요가 없다. 꼼꼼한 보조자처럼 메일을 잘 나누고, 빠진 항목을 표시하고, 위험한 행동을 사람 앞에서 멈추게 하면 된다

・AI 고객 응대 메일함에서 가장 위험한 것은 오타가 아니라, 메일 발송과 첨부파일 권한을 가진 뒤 잘못된 행동을 하는 것이다

・Prompt injection이 인쇄소에 주는 위험은 견적, 첨부파일, 고객 자료, 납기 약속에서 드러난다

・AI는 견적 문의를 정리할 수 있지만, 공식 견적, 첨부파일 외부 발송, 민감 자료 접근은 반드시 사람이 확인해야 한다

・첫 AI 도입 버전은 자동화 효율보다 권한 관리부터 먼저 봐야 한다

인쇄 제조, 디자인, SaaS 팀이 이 일을 볼 때는 AI가 안전한지 아닌지만 이야기해서는 안 된다. 프로세스 설계로 돌아가야 한다. 어떤 필드는 읽을 수 있는지, 어떤 행동은 쓸 수 있는지, 어떤 버튼은 반드시 사람이 눌러야 하는지부터 정해야 한다. 내 제안은 먼저 2주 동안 메일함 유형을 정리하는 것이다. 견적 문의, 파일 보완, 클레임, 결제, 납기를 나눈 뒤 초안 제도와 외부 발송 확인을 설정한다. AI 고객 응대 메일함이 낮은 위험의 잡무를 먼저 처리하면, 영업과 프리프레스는 오히려 진짜 문제가 생길 곳을 볼 시간이 생긴다

・AI가 은행 문서를 거의 전달할 뻔한 Reddit 논의