11. 기관 업무에 맞는 맞춤형 챗봇 제작하기

현실 업무 상황: 같은 질문은 반복되는데, 답변은 사람마다 다르다

공공기관 실무에서는 비슷한 질문이 계속 돌아옵니다. 신규 직원은 "이 보고서는 누구 결재까지 올리나요?"를 묻고, 담당 부서는 "이 서식은 최신본이 맞나요?"를 묻고, 민원 대응 실무자는 "이 경우 어떤 안내 문구를 써야 하나요?"를 다시 확인합니다.

문제는 질문이 반복된다는 사실보다, 답변이 조금씩 달라진다는 점입니다. 어떤 사람은 경험으로 답하고, 어떤 사람은 오래된 문서를 보고 답하고, 어떤 사람은 바빠서 짧게 넘깁니다. 그러면 업무 품질이 흔들립니다. 신규자 교육도 느려지고, 민원 응답도 들쭉날쭉해집니다.

이럴 때 필요한 것이 기관 업무에 맞는 맞춤형 챗봇입니다. 여기서 말하는 챗봇은 그럴듯하게 말만 잘하는 도구가 아닙니다. 우리 기관의 엑셀 데이터, 자주 쓰는 문서, 업무 절차를 바탕으로 내부 질의응답, 업무 안내, 문서 초안 작성을 돕는 실무형 보조도구입니다.

왜 필요한가: 질문에 답하는 것보다, 흐름을 안내하는 것이 더 중요하다

단순한 챗봇은 질문 하나에 답 하나를 내놓습니다. 하지만 실무에서는 그걸로 부족합니다. 예를 들어 "행사 결과보고는 어떻게 올리나요?"라는 질문에는 답변만 필요한 것이 아닙니다. 어떤 서식이 필요한지, 누가 검토하는지, 빠지기 쉬운 항목은 무엇인지, 다음 단계가 무엇인지까지 이어져야 실제로 도움이 됩니다.

공공서비스 환경에서는 기능만 좋은 챗봇보다 안전성, 책임성, 근거 제시, 적응성을 함께 갖춘 구조가 중요하다고 평가됩니다. 특히 생성형 AI만 단독으로 쓰기보다, 필요한 자료를 먼저 찾고 그 근거를 바탕으로 답하도록 만드는 하이브리드 RAG 방식이 공공영역에 더 균형 잡힌 접근으로 제시됩니다.¹

실제 공공기관 사례에서도 이런 방향이 효과를 보였습니다. 한국수산자원공단의 법령 민원 대응 시스템은 법령과 민원 사례를 바탕으로 답변을 생성하는 구조를 통해 처리 시간 단축과 답변 정확도 향상을 보였습니다.² 핵심은 간단합니다. 챗봇이 똑똑해 보이는 것보다, 근거를 가지고 일관되게 답하는 것이 더 중요하다는 것입니다.

핵심 개념: 맞춤형 챗봇은 다섯 가지로 만든다

어렵게 생각할 필요는 없습니다. 기관형 챗봇은 아래 다섯 가지를 정리하면 기본 뼈대가 잡힙니다.

이 다섯 가지가 있으면 챗봇은 단순한 말솜씨 경쟁을 하지 않습니다. 질문을 받으면 자료를 찾고, 절차를 확인하고, 규칙에 맞춰 답하고, 애매하면 사람에게 넘기는 구조로 움직이게 됩니다.

쉽게 말해 흐름은 이렇습니다.

질문이 들어오면 먼저 지식DB에서 관련 답변의 근거를 찾습니다. 그다음 업무흐름에서 지금 질문이 어느 단계의 업무인지 확인합니다. 그리고 운영규칙에 따라 답변 형식과 금지 사항을 지킵니다. 마지막으로 확실하지 않으면 담당자안내를 보고 사람 확인으로 연결합니다.

이 구조가 좋은 이유는 챗봇이 "그럴듯한 답"보다 "쓸 수 있는 답"을 내놓게 되기 때문입니다.

실습 1. 챗봇 주제를 한 가지로 좁히기

목표

기관에서 먼저 만들 가치가 큰 챗봇 주제 1개를 고른다.

STEP BY STEP 실행

1. 엑셀에 새 시트를 만들고 이름을 챗봇후보로 바꿉니다.

2. A1부터 F1까지 다음 제목을 입력합니다. 후보명, 주요사용자, 반복질문수, 자료유무, 위험도, 우선순위

3. 아래처럼 후보를 5개 이상 적습니다.

4. 반복질문수는 높음, 중간, 낮음으로 적습니다.

5. 자료유무에는 엑셀표, FAQ, 지침서, 매뉴얼 같은 근거 자료가 이미 있는지 적습니다.

6. 위험도에는 잘못 답했을 때 영향이 큰지 간단히 적습니다.

7. 반복이 많고 자료가 있고 범위가 좁은 주제를 우선순위 1순위로 고릅니다.

복붙 가능한 프롬프트

나는 공공기관 실무자야.
아래 챗봇 후보 중에서 가장 먼저 만들기 좋은 주제 1개를 골라줘.

판단 기준:
- 반복 질문이 많다
- 자료가 이미 있다
- 범위가 너무 넓지 않다
- 잘못 답했을 때 통제하기 쉽다

후보:
1) 내부 업무 안내 챗봇
2) 민원 응답 보조 챗봇
3) 예산 집행 안내 챗봇
4) 보고서 초안 챗봇
5) 법령·지침 질의응답 챗봇

출력 형식:
- 추천 1개
- 추천 이유
- 처음 범위를 어디까지로 잡으면 좋은지

결과 예시

처음에는 보통 내부 업무 안내 챗봇이나 보고서 초안 챗봇이 좋습니다. 범위가 비교적 좁고, 내부 문서로 답할 수 있으며, 잘못된 답변이 곧바로 대외 민원으로 이어질 가능성도 상대적으로 낮기 때문입니다.

실습 2. 지식DB 시트 만들기

목표

챗봇이 참고할 공식 답변 재료를 엑셀 한 장에 모은다.

STEP BY STEP 실행

1. 새 시트를 만들고 이름을 지식DB로 바꿉니다.

2. A1부터 H1까지 다음 제목을 입력합니다. ID, 질문유형, 질문예시, 표준답변, 근거문서, 최종확인일, 담당부서, 비고

3. 기관에서 자주 받는 질문을 10개 이상 적습니다.

4. 각 질문마다 가능한 한 짧고 고정된 표준답변을 적습니다.

5. 근거문서에는 지침명, 서식명, 규정명처럼 출처를 적습니다.

6. 최종확인일을 넣어 최신 여부를 보이게 합니다.

7. 개인정보, 내부 검토 의견, 비공개 판단 문구는 넣지 않습니다.

지식DB 예시

복붙 가능한 프롬프트

다음 질문 목록을 기관용 챗봇의 지식DB 표 형식으로 정리해줘.

요구사항:
- 표의 열은 ID, 질문유형, 질문예시, 표준답변, 근거문서, 최종확인일, 담당부서로 구성
- 답변은 짧고 실무적으로 작성
- 추정하지 말고, 입력된 내용만 반영
- 근거문서가 없으면 '확인 필요'라고 적기

질문 목록:
1) 행사 결과보고 제출 기한
2) 결과보고 서식 위치
3) 정산 증빙 서류
4) 민원 회신 기본 문구
5) 월간 보고 제출 경로

결과 예시

이 시트가 만들어지면 챗봇은 빈손으로 답하지 않습니다. 최소한 "무슨 자료를 보고 답했는지"를 따라갈 수 있게 됩니다. 이 점이 아주 중요합니다.

실습 3. 업무흐름 시트로 질문 뒤의 다음 단계까지 넣기

목표

챗봇이 단순 답변을 넘어서, 실제 업무 순서를 안내하도록 만든다.

STEP BY STEP 실행

1. 새 시트를 만들고 이름을 업무흐름으로 바꿉니다.

2. A1부터 G1까지 다음 제목을 입력합니다. 업무명, 시작조건, 확인항목, 다음단계, 필요서식, 예외상황, 담당자

3. 챗봇 주제와 관련된 업무 3개 이상을 적습니다.

4. 각 업무에 대해 "질문에 답한 다음, 사용자가 실제로 무엇을 해야 하는지"를 씁니다.

5. 빠지기 쉬운 확인 항목도 함께 적습니다.

업무흐름 예시

복붙 가능한 프롬프트

아래 업무를 챗봇이 안내할 수 있도록 업무흐름 표로 정리해줘.

업무:
- 행사 결과보고 제출
- 정산 서류 제출
- 월간 보고 등록

출력 열:
- 업무명
- 시작조건
- 확인항목
- 다음단계
- 필요서식
- 예외상황
- 담당자

조건:
- 실무자가 바로 따라할 수 있게 짧게 작성
- 없는 내용은 지어내지 말 것
- '다음단계'는 행동 문장으로 적기

결과 예시

이제 챗봇은 "어디에 서식이 있나요?"까지만 답하는 것이 아니라, "서식을 찾은 뒤 무엇을 해야 하는지"까지 이어서 안내할 수 있습니다. 바로 이 지점에서 일반 Q&A와 실무형 챗봇이 갈립니다.

실습 4. 운영규칙 시트 만들기

목표

챗봇이 어디까지 답하고, 어디서 멈추며, 어떤 형식으로 답할지 정한다.

STEP BY STEP 실행

1. 새 시트를 만들고 이름을 운영규칙으로 바꿉니다.

2. A열에는 항목, B열에는 내용을 넣습니다.

3. 아래 항목을 차례로 적습니다.

4. 특히 자료에 없으면 모른다고 말할 것을 꼭 넣습니다.

5. 챗봇이 말투만 친절하고 내용은 틀리는 일을 막기 위해, 근거와 확인 필요 항목을 함께 출력하도록 고정합니다.

문서에 있는 내용만 근거로 답하고, 문서에 없으면 없다고 분명히 말하는 구조는 신뢰도를 높이는 데 매우 중요합니다.³

복붙 가능한 프롬프트

역할: 당신은 공공기관 내부 업무 안내 챗봇이다.

사용 가능한 자료:
1) 지식DB
2) 업무흐름
3) 담당자안내

반드시 지킬 규칙:
- 자료에 있는 내용만 사용한다
- 자료에 없는 내용은 추정하지 않는다
- 답할 수 없으면 '현재 제공된 자료에서 확인되지 않음'이라고 쓴다
- 법령 해석이나 최종 승인 판단은 하지 않는다
- 답변 끝에는 다음 단계와 확인 필요 사항을 함께 적는다

출력 형식:
1) 답변
2) 근거
3) 다음 단계
4) 확인 필요
5) 담당자 문의 여부

결과 예시

좋은 챗봇은 모든 질문에 대답하는 챗봇이 아닙니다. 모르는 질문에서 멈출 줄 아는 챗봇입니다. 이게 오히려 실무에서는 더 믿을 만합니다.

실습 5. 내부 질의응답 챗봇 프로토타입 테스트하기

목표

만든 시트를 바탕으로 실제 질문에 답하게 해 본다.

STEP BY STEP 실행

1. 새 시트를 만들고 이름을 질문테스트로 바꿉니다.

2. A1부터 E1까지 질문, 예상답변, 실제답변, 문제점, 수정여부를 입력합니다.

3. 자주 나오는 질문 10개를 적습니다.

4. 승인된 AI 도구에 운영규칙 프롬프트와 지식DB, 업무흐름 내용을 함께 넣습니다.

5. 질문을 하나씩 입력해 답변을 받아 봅니다.

6. 실제답변이 애매하거나 근거가 약하면 지식DB를 고칩니다.

7. 답변 품질보다 먼저 틀리지 않는지를 봅니다.

복붙 가능한 프롬프트

아래 자료를 바탕으로 기관 내부 업무 안내 챗봇처럼 답해줘.

[운영규칙]
- 자료에 있는 내용만 사용
- 없으면 확인되지 않음이라고 표시
- 출력 형식은 답변 / 근거 / 다음 단계 / 확인 필요 / 담당자 문의 여부

[지식DB]
여기에 지식DB 표를 붙여넣기

[업무흐름]
여기에 업무흐름 표를 붙여넣기

[질문]
행사 결과보고는 언제까지 제출해야 하나요?

결과 예시

예를 들면 이런 형태가 좋습니다.

답변: 행사 종료 후 7일 이내에 결과보고서를 제출합니다.

근거: KB-001, 행사운영지침 3조

다음 단계: 결과보고서 양식을 내려받아 작성한 뒤 팀장 검토를 요청합니다.

확인 필요: 예산 집행이 있었다면 정산자료 추가 여부 확인이 필요합니다.

담당자 문의 여부: 필요 시 기획팀 확인

이 정도면 이미 실무에서 쓸 수 있는 형태입니다.

실습 6. 업무 안내형 챗봇으로 한 단계 업그레이드하기

목표

질문에 답만 하지 않고, 실무 순서를 안내하는 챗봇으로 바꾼다.

STEP BY STEP 실행

1. 같은 질문을 조금 더 행동형으로 바꿔 봅니다. 예를 들어 "정산하려면 뭐부터 해야 하나요?"처럼 묻습니다.

2. 챗봇이 업무흐름 시트를 참고해 단계형으로 답하도록 요청합니다.

3. 답변 형식을 지금 할 일, 필요 서류, 다음 단계, 주의사항으로 바꿉니다.

4. 결과가 길어지면 각 항목을 1~2문장으로 제한합니다.

5. 실무자가 읽고 바로 움직일 수 있는지 확인합니다.

복붙 가능한 프롬프트

역할: 당신은 공공기관 업무 안내 챗봇이다.

답변 방식:
- 단순 설명보다 실행 순서를 우선 안내할 것
- 자료에 있는 내용만 사용할 것
- 사용자가 바로 행동할 수 있게 짧게 쓸 것

출력 형식:
1) 지금 할 일
2) 필요 서류
3) 다음 단계
4) 주의사항
5) 담당자

질문:
행사비 정산을 하려면 무엇부터 준비해야 하나요?

결과 예시

좋은 답변은 보통 이렇게 생깁니다.

지금 할 일: 영수증, 지출결의서, 세부내역서가 모두 있는지 먼저 확인합니다.

필요 서류: 정산내역서, 증빙영수증, 지출결의서가 필요합니다.

다음 단계: 누락 여부를 점검한 뒤 회계팀 제출 전 내부 확인을 진행합니다.

주의사항: 카드 취소 건이나 금액 불일치가 있으면 별도 메모가 필요합니다.

담당자: 회계팀

이제 이 챗봇은 "답변 기계"가 아니라 "업무 길잡이"가 됩니다.

실습 7. 문서 초안 지원 챗봇 붙이기

목표

지식DB와 업무흐름을 바탕으로 안내문, 메일, 회신 초안까지 만들게 한다.

STEP BY STEP 실행

1. 새 시트를 만들고 이름을 문서템플릿으로 바꿉니다.

2. A1부터 E1까지 문서종류, 대상, 필수포함, 금지표현, 문체를 입력합니다.

3. 자주 쓰는 문서 3개를 적습니다. 예를 들면 안내 메일, 결과보고 요청문, 민원 회신 초안입니다.

4. 필수포함에는 반드시 들어가야 할 항목을 적습니다.

5. 금지표현에는 추정, 단정, 과장 표현을 넣지 않도록 적습니다.

6. AI에게 초안을 만들 때도 반드시 지식DB 근거만 사용하라고 지시합니다.

문서템플릿 예시

복붙 가능한 프롬프트

역할: 당신은 공공기관 문서 초안 지원 챗봇이다.

사용 자료:
- 지식DB
- 업무흐름
- 문서템플릿

작성 규칙:
- 자료에 있는 내용만 반영할 것
- 근거 없는 단정 표현 금지
- 문체는 정중하고 간결하게
- 문서 끝에 누락 확인 항목 2개를 붙일 것

출력 요청:
행사 종료 후 결과보고 제출을 안내하는 내부 메일 초안을 작성해줘.

결과 예시

예를 들어 메일 초안은 이렇게 나올 수 있습니다.

제목: 행사 결과보고 제출 안내

안녕하세요. 행사 종료 후 7일 이내에 결과보고서를 제출해 주시기 바랍니다. 결과보고 서식은 공용폴더-행사지원-서식모음에서 확인하실 수 있습니다. 예산 집행이 있었던 경우에는 정산 관련 증빙서류를 함께 준비해 주시기 바랍니다. 문의가 필요하시면 기획팀으로 연락해 주세요.

누락 확인: 제출기한 확인 / 첨부서류 포함 여부 확인

이렇게 하면 챗봇은 단순 안내를 넘어 문서 생산까지 도와주게 됩니다.

실습 8. 선택 실습: 엑셀 안에 챗봇 화면 만들기

목표

질문과 답변을 한눈에 보이는 워크북 화면으로 정리한다.

STEP BY STEP 실행

1. 새 시트를 만들고 이름을 챗봇화면으로 바꿉니다.

2. 셀 배치를 다음처럼 만듭니다.

3. A2에는 질문을 적고, B2부터 E2에는 AI가 만든 답변을 붙여 넣습니다.

4. 별도 시트 대화기록을 만들어 날짜, 질문, 답변 요약, 담당자 확인 여부를 저장합니다.

5. 반복 테스트를 하면서 어떤 질문에서 챗봇이 흔들리는지 기록합니다.

엑셀에서 질문칸, 답변칸, 대화기록 시트를 두는 방식은 초보자도 빠르게 프로토타입을 만들기 좋은 방법입니다. 이후 필요하면 버튼이나 VBA를 덧붙여 더 편하게 확장할 수 있습니다.⁴

복붙 가능한 프롬프트

아래 형식으로만 답해줘.

답변:
근거:
다음 단계:
확인 필요:

질문:
월간 보고는 어디로 제출하나요?

결과 예시

결과가 이 형식으로 고정되면, 워크북 안에서 답변을 모으고 비교하기가 쉬워집니다. 특히 팀 단위로 테스트할 때 아주 편합니다.

실전 적용: 처음부터 큰 챗봇을 만들지 마라

기관형 챗봇은 욕심내기 시작하면 끝이 없습니다. 법령도 넣고 싶고, 민원도 넣고 싶고, 보고서도 쓰게 하고 싶습니다. 하지만 처음부터 범위를 넓히면 오히려 관리가 안 됩니다.

처음에는 아래 순서가 좋습니다.

• 질문이 반복되는 한 가지 업무를 고릅니다.

• 그 업무의 공식 자료를 지식DB로 정리합니다.

• 사용자가 실제로 해야 할 순서를 업무흐름에 씁니다.

• 챗봇이 답할 수 있는 범위와 멈춰야 할 범위를 운영규칙으로 고정합니다.

• 테스트 질문 10개로 먼저 검증합니다.

작게 시작하면 수정이 쉽고, 믿고 쓸 수 있는 형태로 자라납니다.

자주 하는 실수와 바로잡는 법

첫 번째 실수는 챗봇 주제를 너무 넓게 잡는 것입니다. "기관의 모든 업무를 답하는 챗봇"은 멋있어 보이지만 시작점으로는 좋지 않습니다. 행사 결과보고 안내, 정산 서류 안내, 월간 보고 제출 안내처럼 좁혀야 합니다.

두 번째 실수는 문서를 많이 넣기만 하고 정리하지 않는 것입니다. 자료가 많다고 좋은 챗봇이 되지 않습니다. 오래된 서식과 최신 지침이 섞여 있으면 오히려 답변이 흔들립니다. 챗봇보다 먼저 자료 정리가 필요합니다.

세 번째 실수는 근거 없이도 답하게 두는 것입니다. 공공기관 업무에서는 특히 위험합니다. 답변만 보지 말고, 어떤 자료를 근거로 말했는지 함께 보이게 해야 합니다.

네 번째 실수는 사람 연결을 빼먹는 것입니다. 법령 해석, 예외 승인, 민감 민원처럼 사람이 판단해야 하는 구간은 반드시 남겨 둬야 합니다. 챗봇은 실무를 빠르게 만들 수는 있어도, 책임까지 대신하지는 않습니다.

다섯 번째 실수는 원본 데이터를 그대로 넣는 것입니다. 개인정보, 민감 정보, 내부 검토 의견은 처음부터 분리하는 습관이 중요합니다.

마무리

이번 장의 핵심은 하나입니다. 기관형 챗봇은 말 잘하는 AI가 아니라, 근거와 절차를 함께 안내하는 실무 도구여야 한다는 점입니다.

엑셀로 지식DB, 업무흐름, 운영규칙, 문서템플릿만 잘 정리해도 이미 챗봇의 뼈대는 완성됩니다. 여기에 질문 테스트를 거치면 내부 질의응답, 업무 안내, 문서 초안 지원까지 충분히 시작할 수 있습니다.

특히 공공기관에서는 챗봇이 모든 답을 하는 것보다, 근거를 보여 주고 모르면 담당자에게 넘기는 구조가 더 오래갑니다. 잘 만든 챗봇은 실무자를 대체하지 않습니다. 대신 반복 질문을 줄이고, 답변 품질을 맞추고, 사람이 더 중요한 판단에 집중하게 도와줍니다.

다음 장에서는 여기까지 만든 기능을 하나로 묶어, 실제 공공기관 업무 시나리오를 완성하는 종합 실전 프로젝트를 진행해 보겠습니다.

참고

¹Evaluating chatbot architectures for public service delivery: balancing functionality, safety, ethics, and adaptability

²공공기관 AI 챗봇 구축 사례: 한국수산자원공단의 수산관계법령 민원 대응 시스템 (2025)

³Google Sheets AI Q&A 어시스턴트

⁴Excel-based Chatbots Powered by OpenAI API: A Game Changer for Business Automation