AI 에이전트가 답변에 활용할 챗봇 지식 베이스 구축 방법

챗봇 지식 베이스는 AI 에이전트가 답변하기 전에 검색하는, 승인된 콘텐츠의 모음입니다. 자주 묻는 질문의 답변, 제품 및 서비스 정보, 정책, 위치, 영업시간 등이 여기에 들어갑니다. 고객이 질문하면 에이전트는 가장 관련성 높은 구절을 찾아 그 내용으로 답변을 작성합니다. 고객이 실제로 하는 질문을 바탕으로 만들고, 각 사실을 쉬운 말로 한 번만 쓰고, 주제별로 나누어 구성하고, 비즈니스가 바뀔 때마다 업데이트하세요.

실망스러운 AI 에이전트의 대부분은 모델 자체가 아니라 참고할 수 있는 자료 때문에 한계에 부딪힙니다. 반품 정책이 3년 전에 스캔한 PDF에 있다면 에이전트는 그 내용을 그대로 인용하거나 추측으로 답하게 됩니다. 이 가이드에서는 무엇을 포함할지, 어떻게 구조화할지, 검색이 어떻게 작동하는지를 쉬운 말로 설명하고, 고객과 대화를 시작한 뒤에도 콘텐츠를 정확하게 유지하는 방법을 다룹니다.

챗봇 지식 베이스의 역할

대규모 언어 모델은 세상에 대해 많이 알지만 여러분의 비즈니스에 대해서는 아무것도 모릅니다. 가격도, 지점도, 일요일에 배송하는지도 알지 못합니다. 지식 베이스가 이 간극을 메워 줍니다.

표준적인 기법은 검색 증강 생성(RAG)입니다. 쉽게 풀어 보면 다음과 같습니다.

1. 고객이 질문합니다. WhatsApp, Instagram 또는 웹사이트 채팅에서 질문이 들어옵니다.
2. 시스템이 지식 베이스를 검색합니다. 질문의 정확한 단어뿐 아니라 의미와 가장 잘 맞는 구절을 찾습니다.
3. 에이전트가 해당 구절을 받습니다. 질문 및 에이전트의 지침과 함께 전달됩니다.
4. 에이전트가 답변을 작성합니다. 구절에서 뒷받침되지 않는 내용은 말하지 않는 것이 이상적입니다.

그래서 문서를 바탕으로 답하게 하려고 모델을 “학습”시키거나 파인튜닝할 필요가 없습니다. 콘텐츠를 바꾸면 다음 답변도 그에 맞춰 바뀝니다.

지식 베이스에 포함할 내용

가지고 있는 문서가 아니라 고객의 질문에서 출발하세요. 받은편지함, 이메일 상담, 전화 메모에서 최근 대화 수백 건을 가져와 주제별로 묶습니다. 가장 자주 나오는 주제가 첫 번째 섹션이 됩니다.

콘텐츠 유형	예시	에이전트에게 필요한 이유
FAQ	”해외 배송이 되나요?”, “예약을 변경할 수 있나요?”	일상적인 질문의 대부분을 해결합니다
제품 및 서비스	이름, 옵션, 포함 내용, 적합한 고객	에이전트가 추천하고 비교할 수 있습니다
가격 및 수수료	가격표, 배송비, 보증금	지어낸 가격이나 오래된 가격을 방지합니다
정책	반품, 취소, 보증, 개인정보	정확해야 하는 위험도 높은 답변입니다
위치 및 영업시간	주소, 영업시간, 휴무일	고객이 끊임없이 묻는 단순한 사실입니다
절차	예약 방법, 결제 방법, 보증 신청 방법	답변을 다음 행동으로 이어 줍니다
에스컬레이션 규칙	에이전트가 직접 답하면 안 되는 내용	언제 상담원에게 넘겨야 하는지 알려 줍니다

내부 메모, 초안, 지난 캠페인 약관, 개인정보가 담긴 내용은 제외하세요. 지식 베이스는 에이전트가 어떤 고객에게든 인용할 수 있는 내용이므로 모든 줄을 공개 정보로 간주해야 합니다.

검색이 잘 되도록 콘텐츠를 구조화하는 방법

검색은 파일 전체가 아니라 텍스트 조각 단위로 이루어집니다. 분량보다 콘텐츠를 어떻게 쓰고 나누느냐가 더 중요합니다.

섹션 하나에 주제 하나

“온라인 주문 반품”이라는 제목 아래 짧은 문단 다섯 개로 구성한 섹션은, 반품 내용이 31페이지에 나오는 40페이지짜리 약관 문서보다 훨씬 잘 검색됩니다. 한 페이지에 여러 주제가 있다면 나누세요.

답변을 먼저

각 섹션은 직접적인 답변으로 시작하고, 조건과 예외는 그 뒤에 덧붙이세요. 검색되는 구절에는 배경 설명만이 아니라 답변이 들어 있어야 합니다.

나쁜 예: 저희 회사는 2009년에 설립되었으며 늘 고객 만족을
        소중히 여겨 왔습니다. 그동안 반품 절차는...

좋은 예: 온라인 주문은 배송 후 14일 이내에 반품할 수 있습니다.
        상품은 미사용 상태이며 원래 포장 그대로여야 합니다.
        세일 상품은 교환만 가능하고 환불은 불가합니다.

사실은 한 번만 쓰기

배송비가 문서 네 곳에 나와 있는데 세 곳만 수정하면, 에이전트가 예전 금액을 불러올 수 있습니다. 사실마다 기준이 되는 출처를 하나만 두고 중복은 없애세요.

고객이 쓰는 말 사용하기

고객은 “환급 절차”가 아니라 “돈 돌려받기”라고 씁니다. 실제 채팅에서 보이는 표현을 질문 제목으로 추가하면 의미 검색이 일치시킬 단서가 더 많아집니다.

표와 목록은 단순하게

단순한 가격표와 글머리 기호 목록은 분할 후에도 대체로 잘 유지됩니다. 셀이 병합된 복잡한 스프레드시트나 스캔 이미지는 그렇지 않은 경우가 많습니다. 확신이 없다면 짧은 문장으로 다시 쓰세요.

청킹, 쉽게 이해하기

콘텐츠를 의미로 검색하려면 먼저 청크로 자르고, 각 청크를 임베딩이라는 숫자 목록으로 변환해 벡터 데이터베이스에 저장합니다. 답변 시점에는 질문도 같은 방식으로 변환해 가장 가까운 청크를 가져옵니다.

결과에 영향을 주는 설정은 두 가지입니다.

• 청크 크기. 작은 청크는 정확하지만 맥락을 잃을 수 있습니다(“14일 이내”라고만 있고 무엇의 14일인지 빠지는 경우). 큰 청크는 맥락을 유지하지만 관련 없는 텍스트가 섞여 답변이 흐려질 수 있습니다.
• 오버랩. 이웃한 청크 사이에 약간의 텍스트를 겹치게 하면 핵심 문장이 반으로 잘릴 가능성이 줄어듭니다.

첫날부터 이 설정을 조정할 필요는 거의 없습니다. 구조가 잘 잡힌 콘텐츠라면 적절한 기본값으로 충분합니다. 테스트에서 에이전트가 올바른 문서를 찾고도 엉뚱한 부분을 가져오는 경우에만 다시 살펴보세요.

목적별로 지식 분리하기

문서를 한 곳에 몰아넣으면 양이 늘수록 답변이 나빠집니다. 영업 어시스턴트에게 내부 근무 절차는 필요 없고, 상담 에이전트가 초안 단계의 가격표를 인용해서도 안 됩니다. 콘텐츠를 고객 지원, 영업, 내부 운영 같은 별도 영역으로 나누고, 각 에이전트에게는 필요한 영역만 부여하세요.

위험도 줄어듭니다. 에이전트가 검색할 수 없는 콘텐츠는 유출될 수도 없기 때문입니다. AI 시스템에 어떤 데이터를 전달해도 되고 안 되는지는 AI 챗봇 개인정보 체크리스트를 참고하세요.

정적 지식과 실시간 데이터 결합하기

지식 베이스에는 정책, 제품 설명, 영업시간처럼 천천히 바뀌는 콘텐츠가 들어갑니다. 주문 상태, 재고 수량, 고객의 다음 예약 일정을 두기에는 적합하지 않습니다. 이런 정보는 질문이 들어온 시점에 도구 호출(함수 호출)이나 연동을 통해 시스템에서 가져와야 합니다.

기준은 간단합니다. 하루에 여러 번 바뀔 수 있는 사실은 실시간으로 가져오고, 1년에 몇 번 바뀌는 사실은 지식 베이스에 넣으세요.

지식 베이스를 최신 상태로 유지하기

출시 시점에 정확했던 지식 베이스도 금세 어긋납니다. 유지 관리를 업무 루틴에 포함하세요.

1. 섹션별 담당자를 지정합니다. 예를 들어 운영팀은 영업시간과 위치를, 재무팀은 가격을 맡습니다.
2. 변경되면 바로 업데이트합니다. 정책이나 가격이 바뀌면 같은 날 지식 베이스를 수정하고 다시 인덱싱합니다.
3. 답변하지 못한 질문을 매주 검토합니다. 에이전트가 답하지 못한 질문은 콘텐츠 공백이거나, 표현 문제이거나, 상담원이 처리해야 할 사례입니다.
4. 월간 점검을 합니다. 주요 섹션을 읽고 오래된 콘텐츠를 삭제하며, 휴일 영업시간이나 캠페인 약관 같은 시즌 정보가 종료되었는지 확인합니다.
5. 상담원 연결 현황을 확인합니다. 같은 주제가 계속 사람에게 넘어간다면 콘텐츠를 추가하거나, 항상 사람이 처리하도록 정합니다. 관련 규칙은 AI에서 상담원으로 연결하기 가이드에서 다룹니다.

출시 전 지식 베이스 테스트 방법

실제 질문 30~50개와 각각에 기대하는 답변으로 테스트 세트를 작성하세요. 다음을 포함합니다.

• 일반적인 질문: 오타나 짧은 메시지를 포함해 고객이 쓰는 방식 그대로 작성합니다.
• 예외 사례: 정책에 예외가 있는 경우입니다.
• 지식 베이스에 없는 질문: 에이전트가 추측하지 않고 모른다고 답하는지 확인합니다.
• 다른 언어의 질문: 해외 고객을 응대한다면 포함합니다.

테스트: "한 번 신은 신발도 반품할 수 있나요"
기대 결과: 반품은 미사용 상품만 가능하다고 설명하고,
          예외 문의는 팀과 연결해 드리겠다고 안내한다.
실패 기준: 환불에 동의하거나 다른 기한을 지어낸다.

두 가지를 따로 확인하세요. 시스템이 올바른 구절을 찾았는지, 그리고 에이전트가 그것을 제대로 활용했는지입니다. 올바른 구절에서 틀린 답이 나왔다면 프롬프트 문제이고, 엉뚱한 구절에서 틀린 답이 나왔다면 콘텐츠 또는 청킹 문제입니다. 테스트 세트와 지표는 출시 전 AI 에이전트 테스트하기에서 더 자세히 다룹니다.

지식 베이스에서 자주 하는 실수

• 고객에게 필요한 콘텐츠만 올리지 않고 가지고 있는 문서를 전부 업로드하는 경우
• 가격이나 배송 약속을 에이전트 지침에 넣어 두어 아무도 업데이트를 기억하지 못하는 경우
• 이전 버전의 정책을 새 정책 옆에 그대로 두는 경우
• 스캔 이미지나 복잡한 스프레드시트를 읽을 수 있는 콘텐츠로 간주하는 경우
• 관련 내용을 찾지 못했을 때의 대체 동작이 없어 환각을 부르는 경우

MonoChat에서 AI 지식 베이스 구축하기

MonoChat에서는 원하는 제어 수준에 따라 에이전트가 아는 내용을 만드는 두 가지 방법을 제공합니다.

빠른 시작: MonoChat Start

MonoChat Start는 웹사이트를 읽고 지식 베이스를 대신 작성합니다. 비즈니스 프로필, 제품과 서비스, 위치, 정책, 그리고 고객이 실제로 묻는 질문 약 40개가 만들어집니다. 웹사이트가 없거나 읽을 내용이 적다면 질문 5개에 답하시면 됩니다.

어시스턴트가 말할 수 있는 모든 내용은 질문, 제품 및 서비스, 위치, 정책의 네 개 탭에 정리됩니다. 어떤 항목이든 수정하거나, 켜고 끄거나, 내보낼 수 있습니다. 어시스턴트는 여기에 적혀 있지 않은 가격, 배송 기간, 보증을 절대 말하지 않습니다. 웹사이트가 아니라 해당 업종에 대한 일반 지식으로 작성한 답변은 “확인 필요” 배지와 함께 꺼진 상태로 도착하며, 승인해야 활성화됩니다.

답변할 수 없을 때는 임의로 지어내지 않습니다. 요청을 받은 메시지에 기록하고 담당자가 다시 연락드릴 것이라고 고객에게 안내하며, 리포트에는 답하지 못한 질문이 정리되어 매주 업데이트할 목록이 됩니다. WhatsApp, Instagram, Telegram 또는 웹사이트 채팅에서 응답합니다.

완전한 제어: AI 지식 베이스와 RAG

더 큰 콘텐츠 세트에는 AI 지식 베이스에서 PDF, Excel 파일, 텍스트, 웹 페이지를 업로드할 수 있으며, 대량 업로드, 메타데이터, 태그를 지원합니다. 콘텐츠는 고객 지원, 영업, 내부 절차 같은 스코프로 구성하고, 스코프마다 별도의 접근 제어를 두어 해당 스코프를 사용할 에이전트와 플로우에 할당합니다.

MonoChat은 바로 사용할 수 있는 기본값으로 콘텐츠를 청킹하고 임베딩하며, 필요하면 임베딩 모델, 청크 크기, 오버랩, 전처리 규칙을 직접 선택할 수 있습니다. 벡터는 MonoChat의 내장 벡터 데이터베이스에 저장되거나, VectorDB 연동을 통해 직접 운영하는 데이터베이스에 저장됩니다. 콘텐츠가 바뀌면 스코프를 업데이트하고 다시 인덱싱하면 되며, 플로우를 새로 만들지 않아도 어시스턴트는 새 버전에서 검색합니다.

문서와 실시간 데이터를 함께 쓰려면 RAG 오케스트레이션이 쿼리 재작성, 검색, 리랭킹, 도구 호출, 인용, 최종 응답 같은 단계를 연결하고, AI 함수 도구가 주문 상태나 CRM 레코드 같은 정보를 같은 답변 안에서 가져옵니다.

app.monochat.ai에서 무료 Basic 요금제(에이전트 1개, 채널 1개)로 시작할 수 있으며, 요금제 비교는 요금 페이지에서 확인하세요.

출처

• Meta for Developers: WhatsApp Business Platform 개요
• WhatsApp Business 메시징 정책