지난번에 들은 말이 이번에도 맞지는 않습니다
고객이 “다음부터는 부산 사무실로 보내주세요”라고 말했는데, 다음 상담에서 AI가 서울 주소를 기준으로 안내하는 상황을 가정해보겠습니다. 과거 대화를 잘 찾아온 것처럼 보여도 지금 필요한 답은 아닙니다.
장기 메모리[1]는 대화가 끝난 뒤에도 필요한 정보를 저장해 다음 대화에서 다시 사용하는 기능입니다. LangGraph의 메모리 설명도 한 대화 안의 기록과 여러 대화에서 공유하는 기억을 구분합니다.
AI가 말로 “기억하겠습니다”라고 답하는 것만으로 기능이 생기는 것은 아닙니다. 프로그램이 정보를 저장해두고, 다음 대화에서 필요한 내용을 골라 AI에게 전달해야 합니다. 이렇게 전달한 정보가 컨텍스트[2]의 일부입니다. 저장만 해두고 전달하지 않은 정보는 답변에 반영되지 않을 수 있습니다.
무엇을 기억할지부터 구분합니다
선호와 이번 한 번의 요청은 다릅니다
“평소에는 이메일로 안내받고 싶습니다”는 다음 상담에도 참고할 만한 선호입니다. 반면 “이번 주문만 행사장으로 보내주세요”는 해당 주문에만 적용할 요청입니다. 두 문장을 모두 고객의 기본 설정으로 저장하면 다음 주문을 잘못 처리할 수 있습니다.
기억할 때는 내용뿐 아니라 누구의 말인지, 어느 고객이나 주문에 적용하는지, 언제 확인했는지를 함께 남기는 편이 좋습니다. AI가 추측한 내용을 고객이 확정한 사실처럼 저장하지 않는 것도 필요합니다.
현재 기록을 다시 확인해야 하는 정보가 있습니다
배송지, 결제 여부, 계약 조건처럼 실제 처리에 영향을 주는 값은 회사가 정한 기준 시스템에서 현재 값을 확인해야 합니다. 과거 대화에 있던 주소는 변경 요청의 단서가 될 수 있지만 승인된 주소와 같다고 단정할 수는 없습니다.
고객이 주소 변경을 요청하면 요청자에게 변경 권한이 있는지 확인하고, 회사가 정한 절차에 따라 기록을 고쳐야 합니다. 한 고객의 대화에서 나온 정보가 다른 고객의 답변에 들어가지 않도록 조회 범위도 구분합니다. 기억을 많이 쌓는 것보다 이번 업무에서 믿고 쓸 정보를 고르는 일이 먼저입니다.
바뀐 정보를 추가만 하면 두 답이 남습니다
“배송지는 서울”이라는 기록이 있는 상태에서 “배송지는 부산”을 하나 더 추가하면 AI가 둘 중 무엇을 사용할지 불분명해질 수 있습니다. 새 요청이 기본 주소 변경인지 이번 주문의 예외인지 먼저 확인하고, 기존 기록과 어떤 관계인지 남겨야 합니다.
LangChain의 공식 설명에서도 정보를 계속 추가하는 방식은 기존 항목의 수정·삭제를 함께 다뤄야 한다고 설명합니다. 실제 업무에서는 바뀐 사실이 답변에 반영되는 것뿐 아니라, 이미 처리 중인 주문도 바꿀 것인지 별도로 판단해야 합니다.
확인한 주소를 고쳤다고 과거 발송 기록까지 새 주소로 덮어쓰면 당시 무엇을 했는지 알기 어렵습니다. 현재 쓸 값과 과거 처리 이력을 나눠 관리하는 이유입니다. 업체에는 변경 전후의 정보가 직원 화면에서 어떻게 구분되는지 보여달라고 요청할 수 있습니다.
쓰지 않는 것과 지우는 것은 다릅니다
기한이 끝난 정보는 답변에서 제외합니다
“이번 달만 무료 배송” 같은 정보에는 끝나는 시점이 있습니다. 기한이 지나면 다음 답변의 기준으로 쓰지 않게 해야 합니다. 다만 과거 안내가 왜 그렇게 나갔는지 확인하려고 이력을 따로 보관할 수는 있습니다.
영구적으로 보관해야 한다거나 무조건 지워야 한다는 뜻은 아닙니다. 정보의 쓰임과 회사의 보관 기준에 따라 정하되, 오래된 기록을 현재 조건처럼 다시 불러오지 않도록 구분합니다.
삭제는 연결된 저장 위치까지 확인합니다
채팅 화면에서 문장을 지워도 별도 기억 저장소나 요약문, 검색용 사본에 같은 내용이 남아 있을 수 있습니다. 삭제 기능을 만들 때는 어느 위치에 정보를 남기는지 개발자가 확인하고 처리할 범위를 정해야 합니다.
예를 들어 고객 선호를 삭제했다면 다음 상담에서도 그 선호가 자동으로 다시 나오지 않는지 봅니다. 원래 대화에서 같은 내용을 다시 뽑아 저장하는 기능이 있다면 그 경로도 확인해야 합니다. 화면에서 보이지 않는다는 이유만으로 모든 저장 위치에서 지워졌다고 말해서는 안 됩니다.
기본 주소 변경, 이번 주문의 임시 주소, 연락 선호 삭제는 서로 다른 상황입니다. 현재값 갱신·사용 중단·삭제를 각각 처리합니다.
처음부터 모든 대화를 기억할 필요는 없습니다
반복 설명이 많고 적용 범위가 분명한 정보부터 시작할 수 있습니다. 반대로 매번 시스템에서 최신 상태를 조회해야 하는 업무라면 과거 대화를 더 저장하는 것보다 조회 기능을 연결하는 편이 목적에 맞을 수 있습니다.
기억이 늘면 골라 읽고 관리하는 일도 늘어납니다. 오래된 정보를 찾아 다시 고치는 일이 잦다면 저장량보다 수정·사용 중단 방법부터 살펴보세요.
고객이 바꾼 정보를 다음 상담에도 반영하려면
주소를 고쳤는데도 AI가 예전 주소로 안내한다면, AI가 어디에서 그 주소를 가져오는지부터 확인해야 합니다. 고객 관리 프로그램의 최신 정보를 읽게 하고, 잘못 저장한 기억은 직원이 확인해 고칠 수 있도록 만드는 방법을 검토할 수 있습니다.
이런 문제가 있는 AI 상담을 개선하고 싶다면 크몽 AX에 문의하세요. 업무에 맞는 전문가를 연결받아 지금 쓰는 고객 관리 프로그램과 실제로 잘못 안내한 사례를 함께 살펴볼 수 있습니다. 같은 정정을 반복하지 않으려면 어느 기능을 바꿔야 할지 상담해보세요.
참고 자료
LangChain·LangGraph의 공식 메모리 설명을 참고했습니다. 배송지·행사 사례와 수정·삭제 흐름은 업무 설계 예시입니다. 특정 서비스가 모든 저장 위치의 일괄 삭제를 제공한다는 뜻은 아닙니다.
용어 풀이
용어 1 장기 메모리
한 대화가 끝난 뒤에도 정보를 저장하고 다른 대화에서 다시 사용할 수 있게 하는 기능입니다. 저장·조회·수정 방법과 적용 범위는 프로그램이 관리해야 합니다.
용어 2 컨텍스트
AI가 이번 답변을 만들 때 실제로 참고하는 정보입니다. 작업 지시, 현재 대화, 조회한 기록 등이 포함되며 저장된 모든 정보와 같지는 않습니다.
이 주제에 대한 질문
최초 게시 2026-10-01 · 최종 수정 2026-10-01
