“친절하게 답해줘”보다 예시가 분명할 때가 있습니다
고객 문의에 답하는 초안을 AI로 만드는 상황을 가정해보겠습니다. “친절하고 간결하게 써줘”라고만 하면 사과를 길게 늘어놓거나 확인하지 않은 배송일을 약속할 수 있습니다. 고객의 문의와 그에 잘 답한 사례를 함께 보여주면 원하는 순서와 표현을 더 구체적으로 전달할 수 있습니다.
이처럼 AI에게 요청할 때 몇 가지 입력·출력 예시를 함께 주는 방식을 퓨샷 프롬프팅[1]이라고 합니다. Anthropic의 공식 가이드도 실제 업무와 관련 있고 상황이 다양한 예시를 권합니다. 예시는 원하는 형식을 보여주는 수단이며 정확한 답을 보장하지는 않습니다.
배송 문의에 답할 때는 고객의 불편을 먼저 인정하고, 주문을 조회해 확인한 상태를 알려줄 수 있습니다. 아직 모르는 내용이 있다면 무엇을 확인한 뒤 다시 안내할지도 덧붙입니다. 배울 것은 답변의 방식이지 예전 고객의 배송일이 아닙니다.
잘된 답변만 떼어놓으면 이유를 알기 어렵습니다
고객의 질문과 확인한 사실을 함께 둡니다
“오늘 출고될 예정입니다”라는 답변만 있으면 왜 그렇게 말했는지 알 수 없습니다. 창고에서 출고 일정을 확인한 뒤 보낸 답인지, 직원이 추측한 답인지도 구분하기 어렵습니다.
예시에는 고객의 질문, 당시 확인한 사실, 직원이 검토한 답변을 함께 남기는 편이 좋습니다. 같은 문장을 쓰더라도 배송일을 확인한 경우와 아직 확인하지 못한 경우가 달라야 하기 때문입니다.
예시에서 보여줄 것 | 이번 답변에 쓰는 방법 |
|---|---|
불편을 인정하는 짧은 문장 | 답변의 말투와 순서 참고 |
당시 확인한 출고 예정일 | 이번 주문을 조회한 값으로 바꾸기 |
모르는 내용은 확인 후 안내 | 이번에도 근거가 없으면 약속하지 않기 |
고객 이름·주문번호 | 예시에서는 가리고 실제 발송 전 대조 |
직원이 고친 답을 골라도 한 번 더 봅니다
직원이 보냈다는 이유만으로 모든 답변을 모범 사례로 볼 수는 없습니다. 당시 한 고객에게만 허용한 무료 배송이나 임시 보상안이 들어 있을 수도 있습니다. AI 초안도 사람이 내용을 확인하기 전에는 새 예시로 추가하지 않는 편이 좋습니다.
처음에는 반복되는 문의 몇 종류에서 지금도 쓸 수 있는 답변을 골라보세요. 배송일을 아는 경우와 모르는 경우처럼 처리 방식이 다른 예시가 필요합니다. 비슷한 성공 사례만 많이 쌓는다고 어려운 문의에 대응하는 법까지 전달되는 것은 아닙니다.
예시의 답변 순서는 참고하되 배송일은 이번 주문의 사실로 써야 합니다. 확인하지 못했다면 날짜를 약속하지 않습니다.
예시를 저장하는 것과 AI에게 보여주는 것은 다릅니다
프로그램에 답변을 많이 저장해도 AI가 자동으로 전부 참고하는 것은 아닙니다. 이번 문의에 맞는 예시를 골라 프롬프트[2]에 넣는 과정이 필요합니다. 배송 문의에 교환 거절 사례를 보여주면 원치 않는 답변 방향을 따라갈 수 있습니다.
LangChain의 메모리 설명도 과거 경험을 입력·출력 예시로 활용할 때 관련 예시를 고르는 문제를 다룹니다. 여기서 소개하는 방식은 요청에 참고 자료를 덧붙이는 것입니다. 예시 파일을 저장하는 것만으로 모델 자체를 새로 학습시키는 과정은 아닙니다.
예시를 지나치게 많이 넣으면 AI가 읽을 양이 늘고 서로 다른 조건이 섞일 수 있습니다. 사용량에 따라 요금을 내는 서비스에서는 비용도 늘어날 수 있습니다. 짧은 안내만으로 잘 처리하는 문의라면 예시를 계속 추가할 필요도 없습니다. 직원이 무엇을 반복해서 고치는지 보고 필요한 예시를 보완하면 됩니다.
정책이 바뀌면 예시도 바꿔야 합니다
지난달에는 무료 배송을 제공했지만 이번 달에는 행사가 끝났다고 가정하겠습니다. 현행 정책은 고쳤어도 예시에 “배송비는 무료입니다”가 남아 있으면 AI가 그 표현을 다시 쓸 수 있습니다.
예시마다 어떤 업무에 쓰는지, 누가 검토했는지, 어느 정책을 참고했는지 남겨두면 바꿀 대상을 찾기 쉽습니다. 담당자는 정책이 바뀔 때 관련 예시를 고치거나 사용을 중단하고, 개발자는 제외한 예시가 다음 요청에 다시 들어가지 않도록 해야 합니다. 보관 기록을 남기는 일과 AI에게 계속 보여주는 일은 구분할 수 있습니다.
개발 업체에 시연을 요청할 때는 배송일을 아직 모르는 주문으로 답변을 만들어달라고 해보세요. “확인 후 안내하겠습니다”라고 쓰는지, 날짜를 지어내 약속하는지 보면 됩니다.
숙련된 상담원의 답변 방식을 팀에서 함께 쓰려면
직원이 검토한 답변을 예시로 모아두고, 문의가 들어오면 관련 예시와 해당 주문의 최신 정보를 함께 AI에게 전달할 수 있습니다. 상담원이 매번 자료를 붙여넣고 초안을 고치던 과정을 줄이기 위한 기능입니다.
이런 고객 문의 초안 작성 기능이 필요하다면 크몽 AX에서 전문가와 상담해보세요. 지금 쓰는 상담 프로그램과 초안에서 매번 고치는 문장을 함께 알려주세요. 공유할 예시에서는 고객 이름과 연락처를 가려주세요.
참고 자료
본문에 연결한 Anthropic의 예시 활용 가이드와 LangChain의 메모리 설명을 참고했습니다. 고객 문의와 배송 정책은 설명용 사례이며 실제 성과를 측정한 결과가 아닙니다.
용어 풀이
용어 1 퓨샷 프롬프팅
AI에게 작업을 요청하면서 몇 가지 입력과 원하는 출력의 예시를 함께 제공하는 방식입니다. 예시를 따라도 현재 업무의 사실과 조건은 별도로 확인해야 합니다.
용어 2 프롬프트
AI에게 전달하는 작업 지시와 입력입니다. 이 글에서는 고객 문의와 현재 주문 정보, 참고할 답변 예시를 함께 전달하는 요청을 뜻합니다.
이 주제에 대한 질문
최초 게시 2026-10-01 · 최종 수정 2026-10-01
