검색 결과가 많아도 답은 틀릴 수 있습니다
직원이 “이번 출장 숙박비는 얼마까지 쓸 수 있나요?”라고 묻는 상황을 가정해보겠습니다. 본사 규정에는 1박 15만원, 특정 프로젝트의 승인된 안내에는 18만원이 적혀 있습니다. 오래된 팀 메모에는 20만원이라는 숫자도 남아 있습니다. 이 금액은 설명을 위한 가정입니다.
RAG[1]는 질문과 관련된 자료를 찾아 AI가 답할 때 참고하게 하는 방식입니다. 하지만 관련 문서를 찾았다고 어느 규정이 이 직원에게 적용되는지까지 정해지는 것은 아닙니다. 검색 결과의 순서는 업무 규정의 우선순위가 아닙니다. 표현이 질문과 비슷하거나 문서가 새로 올라왔다는 이유만으로 그 내용을 따라서는 안 됩니다.
어느 문서를 쓸지 판단할 단서가 필요합니다
작성일보다 시행일과 적용 대상을 봅니다
어제 올린 문서도 다음 달부터 시행할 초안일 수 있습니다. 반대로 몇 달 전에 승인한 프로젝트 예외가 지금도 유효할 수 있습니다. 질문한 직원의 소속과 출장 날짜, 어떤 프로젝트의 출장인지 알아야 적용할 한도를 고를 수 있습니다.
문서에는 본문 외에 이런 설명을 붙일 수 있습니다. 이를 메타데이터[2]라고 합니다. 담당 부서, 시행일, 적용 대상, 승인 여부, 어떤 이전 문서를 대체하는지 등을 적는 식입니다. 그래야 파일 이름에 ‘최종’이라고만 적힌 문서보다 언제 누구에게 적용할 규정인지 알기 쉽습니다.
예외가 누구에게 허용됐는지 확인합니다
앞 사례에서 18만원 한도는 특정 프로젝트에만 승인됐다고 가정하겠습니다. 해당 프로젝트 출장이라면 예외의 적용 조건을 확인하고, 다른 출장이라면 본사 기준을 살펴야 합니다. 오래된 메모의 20만원은 현재 유효한 근거가 없다면 답의 기준으로 쓰지 않습니다.
“본사 문서가 항상 우선” 또는 “가장 최근 문서를 사용”이라는 한 줄로 끝내기도 어렵습니다. 어떤 예외를 누가 승인할 수 있는지는 회사가 정할 부분입니다. AI가 서로 다른 금액을 평균 내거나 그럴듯한 쪽을 골라 새로운 기준을 만들어서는 안 됩니다.
가정상 이번 출장은 승인된 18만원 예외의 대상입니다. 검색된 20만원 메모가 아니라 적용 조건과 승인 근거로 한도를 고릅니다.
기준이 없을 때는 확인할 내용을 보여줍니다
직원 정보가 빠졌다면 질문을 하나 더 합니다
직원이 어느 프로젝트로 가는지 말하지 않았다면 AI는 “어떤 프로젝트의 출장인가요?”라고 물을 수 있습니다. 지금 필요한 질문만 추가하면 직원도 답을 못 받는 이유를 이해할 수 있습니다.
개발할 때는 검색 필터[3]로 부서나 문서 상태 같은 조건에 맞는 자료를 골라내도록 만들 수 있습니다. Azure AI Search 공식 설명도 문서의 항목 값을 기준으로 검색 대상을 제한하는 방식을 다룹니다. 필터에 넣을 정보가 틀렸거나 적용 기준을 정하지 않았다면 이 기능만으로 해결되지는 않습니다.
같은 조건의 규정이 충돌하면 담당자에게 넘깁니다
둘 다 승인된 문서인데 같은 출장에 서로 다른 한도를 제시할 수도 있습니다. 이때는 “두 문서의 한도가 달라 담당 부서 확인이 필요합니다”라고 안내하고 문서 제목과 해당 부분을 함께 보여주는 편이 낫습니다. 무엇이 충돌하는지 없이 “답변할 수 없습니다”만 표시하면 직원은 다시 처음부터 찾아야 합니다.
담당자가 정한 내용을 문서와 검색 대상에 반영하는 과정도 필요합니다. 채팅에서 한 번 바로잡았다고 모든 직원의 다음 답변까지 바뀌는 것은 아닙니다. 개발자는 다음 질문에 수정한 규정이 검색되는지, 이전 규정이 답변에 다시 쓰이지 않는지 확인해야 합니다.
모든 규정을 한꺼번에 넣을 필요는 없습니다
처음에는 문의가 잦고 담당 부서가 분명한 업무부터 정리해볼 수 있습니다. 출장비 안내라면 현재 규정과 실제 승인된 예외를 모아, 직원이 자주 묻는 질문에 어떤 근거로 답하는지 살펴보세요. 직원에게 규정끼리 충돌하는 상황을 직접 찾아내라고 맡길 필요는 없습니다.
이 글은 사내 안내를 정확하게 만드는 설계 예시입니다. 금액을 안내하는 것과 지출을 승인하는 것은 별개이므로, 기존 결재가 필요한 업무라면 승인 절차도 그대로 연결해야 합니다.
출장비 질문마다 규정집을 찾고 있다면
“이번 출장에는 얼마까지 쓸 수 있나요?”라는 질문에 담당자가 매번 소속과 프로젝트를 확인하고 규정집을 찾고 있다면, 이 과정을 돕는 사내 안내 기능을 검토할 수 있습니다. 직원에게 적용되는 한도와 근거 문서를 함께 보여주고, 규정끼리 충돌할 때는 담당 부서로 질문을 넘기는 방식입니다.
크몽 AX에서 사내 규정 안내 기능의 개발을 상담해보세요. 현재 쓰는 규정과 자주 받는 질문을 바탕으로 업무에 맞는 전문가를 연결받을 수 있습니다. 어떤 문의부터 다룰지 정하는 데서 시작하면 됩니다.
참고 자료
Azure AI Search의 검색 필터 설명을 참고했습니다. 규정의 우선순위와 담당자 확인 흐름은 이 글의 설계 제안이며 회사가 정해야 합니다. 출장 사례와 금액, 도식은 설명용입니다.
용어 풀이
용어 1 RAG
질문과 관련된 자료를 검색해 AI가 답을 만들 때 참고하게 하는 방식입니다. 검색 결과가 나왔다는 사실만으로 자료의 최신성이나 적용 권한이 보장되지는 않습니다.
용어 2 메타데이터
문서 본문 외에 붙이는 설명 정보입니다. 이 글에서는 적용 대상, 시행일, 담당 부서, 승인 상태 등을 뜻합니다.
용어 3 검색 필터
문서에 기록된 항목 값을 조건으로 검색 대상을 제한하는 기능입니다. 회사의 적용 기준을 대신 정해주는 기능은 아닙니다.
이 주제에 대한 질문
최초 게시 2026-10-01 · 최종 수정 2026-10-01
