LLM Wiki의 핵심 구조

LLM Wiki는 처음부터 거대한 시스템으로 만들 필요가 없다. 시작은 단순하다. 원문을 넣는 폴더, 정리된 지식을 넣는 폴더, AI에게 지시하는 규칙 파일, 그리고 전체 흐름을 추적하는 색인과 로그가 있으면 된다.

중요한 것은 도구의 화려함이 아니다. 어떤 정보가 원문이고, 어떤 정보가 해석이며, AI가 무엇을 수정할 수 있고, 무엇을 수정하면 안 되는지 분명히 나누는 것이다. 이 구분이 생기면 폴더 몇 개가 단순 저장소를 넘어 지식관리 시스템으로 바뀐다.

LLM Wiki는 다섯 요소로 움직인다

LLM Wiki의 기본 구조는 다음 다섯 요소로 나눌 수 있다.

my-llm-wiki/
  raw/
  wiki/
  index.md
  log.md
  CLAUDE.md 또는 AGENTS.md

여기서 raw/는 원문 보관소다. 웹 문서, PDF, 책 발췌, 회의록, 인터뷰 기록, 유튜브 자막처럼 아직 정리되지 않은 자료가 들어간다.

wiki/는 LLM이 읽고, 요약하고, 연결하고, 갱신하는 지식층이다. 이곳에는 개념 페이지, 인물 페이지, 프로젝트 페이지, 의사결정 기록, 비교 문서 같은 Markdown 파일이 쌓인다.

CLAUDE.md 또는 AGENTS.md는 AI에게 주는 운영 규칙이다. 사람으로 치면 업무 매뉴얼이다. "원문은 수정하지 말 것", "출처 없는 주장은 표시할 것", "모순을 발견하면 임의로 덮어쓰지 말고 기록할 것" 같은 규칙이 여기에 들어간다.

index.md는 위키의 입구다. 어디에 무엇이 있는지 알려주는 지도 역할을 한다.

log.md는 감사 기록이다. 언제 어떤 자료가 들어왔고 어떤 페이지가 바뀌었는지 남기는 작업 일지다.

이 다섯 요소가 함께 움직이면 LLM Wiki는 단순한 노트 폴더가 아니다. AI가 자료를 읽고, 지식을 갱신하고, 변경 이력을 남기는 작은 지식 운영체제가 된다.

raw/는 절대 수정하지 않는 증거 레이어다

LLM Wiki에서 가장 중요한 원칙은 원문과 해석을 분리하는 것이다. raw/는 원문 보관소다. 이곳의 자료는 가능하면 수정하지 않는다.

왜 그럴까? 위키 페이지는 언제든 잘못 요약될 수 있다. AI가 중요한 뉘앙스를 놓칠 수도 있고, 사람이 나중에 해석을 바꿀 수도 있다. 그때 돌아갈 수 있는 기준점이 필요하다. 그 기준점이 raw/다.

예를 들어 고객 인터뷰를 정리한다고 해보자. 고객이 "가격이 비싸다"고 말했다면, 위키에는 "가격 민감도가 높다"라고 정리될 수 있다. 하지만 이 둘은 완전히 같은 말이 아니다. 고객이 실제로 한 말은 raw/meetings/나 raw/interviews/에 남아 있어야 한다. 그래야 나중에 제품 전략을 세울 때 "우리가 해석한 것"과 "고객이 말한 것"을 구분할 수 있다.

좋은 raw/ 운영 원칙은 간단하다.

• 원문 파일은 가능한 한 그대로 보관한다.

• 파일명에는 날짜, 출처, 주제를 넣는다.

• 수정본이 필요하면 원본을 덮어쓰지 말고 새 파일로 저장한다.

• 위키 페이지에서 원문 파일의 위치를 표시한다.

예를 들면 다음과 같다.

raw/
  articles/
    2026-05-10_llm-agent-memory.md
  books/
    2026-05-12_second-brain-chapter-01.md
  meetings/
    2026-05-15_customer-interview-a.md
  papers/
    2026-05-16_retrieval-augmented-generation.pdf

이 구조에서 raw/는 창고가 아니라 증거 보관소다. 위키가 아무리 잘 정리되어도, 최종 근거는 항상 원문에 있어야 한다.

wiki/는 LLM이 관리하는 지식층이다

wiki/는 원문을 그대로 쌓아두는 곳이 아니다. 원문에서 뽑아낸 지식을 사람이 다시 읽고 쓸 수 있는 형태로 정리하는 공간이다.

예를 들어 RAG 관련 글 세 편, Karpathy의 LLM Wiki 아이디어, 사내 회의록 하나를 넣었다고 하자. 이 자료들은 각각 다른 위치에 있지만, 위키에서는 하나의 개념 페이지로 모일 수 있다.

wiki/
  concepts/
    rag.md
    llm-wiki.md
    agent-memory.md
  projects/
    startup-knowledge-base.md
  decisions/
    2026-05-15_use-markdown-wiki.md

wiki/concepts/rag.md에는 RAG의 정의, 장점, 한계, 관련 문서, 반론이 정리된다. 새로운 자료가 들어오면 AI는 이 페이지를 새로 만들거나 기존 페이지를 갱신한다. 이때 중요한 점은 "자료 하나당 페이지 하나"가 아니라는 것이다.

하나의 원문은 여러 위키 페이지를 업데이트할 수 있다. 고객 인터뷰 하나가 제품 아이디어 페이지, 가격 정책 페이지, 고객 페르소나 페이지를 동시에 바꿀 수 있다. 논문 하나가 모델 페이지, 기법 페이지, 연도별 타임라인을 함께 갱신할 수 있다.

반대로 하나의 위키 페이지는 여러 원문을 바탕으로 만들어질 수 있다. 이것이 위키의 힘이다. 자료는 흩어져 있어도, 지식은 주제별로 모인다.

위키 페이지에는 보통 다음 요소가 들어간다.

• 짧은 정의 또는 요약

• 핵심 주장

• 근거가 되는 원문 링크

• 관련 개념 링크

• 아직 불확실한 점

• 나중에 확인할 질문

이렇게 정리하면 AI에게 질문할 때도 답변의 질이 달라진다. AI는 단순히 파일 더미를 뒤지는 것이 아니라, 이미 정리된 지식층을 바탕으로 답한다.

Schema는 AI에게 주는 운영 규칙이다

LLM Wiki에서 CLAUDE.md 또는 AGENTS.md는 매우 중요하다. 이름은 도구에 따라 다를 수 있지만 역할은 같다. AI에게 "이 위키를 어떻게 다뤄야 하는지" 알려주는 규칙 파일이다.

AI에게 그냥 "이 자료를 정리해줘"라고 말하면 매번 결과가 달라진다. 어떤 날은 길게 요약하고, 어떤 날은 짧게 정리한다. 어떤 파일은 새로 만들고, 어떤 파일은 기존 문서를 덮어쓴다. 출처를 남기기도 하고 빼먹기도 한다.

Schema는 이런 흔들림을 줄인다. 여기서 Schema는 데이터베이스의 엄격한 구조만 뜻하지 않는다. 이 책에서는 AI가 따라야 할 운영 규칙, 문서 형식, 업데이트 기준을 통틀어 Schema라고 부른다.

예를 들면 다음과 같은 내용이 들어간다.

## 역할
너는 이 폴더의 지식관리자다. 원문을 보존하고, wiki/의 Markdown 문서를 갱신한다.

## 원칙
- raw/의 파일은 절대 수정하지 않는다.
- wiki/의 문서는 기존 내용을 보존하되, 새 근거가 있으면 갱신한다.
- 출처 없는 주장은 "출처 필요"로 표시한다.
- 기존 내용과 새 자료가 충돌하면 임의로 결론 내리지 말고 "모순" 섹션에 기록한다.

## 페이지 규칙
- 각 문서는 짧은 요약으로 시작한다.
- 관련 문서 링크를 포함한다.
- 근거가 되는 raw 파일 경로를 남긴다.

## 로그 규칙
- 작업 후 log.md에 날짜, 입력 자료, 변경한 문서, 남은 질문을 기록한다.

이런 규칙이 있으면 AI는 매번 새 비서처럼 행동하지 않는다. 같은 기준을 가진 위키 관리자로 행동한다.

특히 중요한 규칙은 "모른다고 표시하는 법"이다. AI는 빈칸을 채우려는 경향이 있다. 그래서 확실하지 않은 내용을 그럴듯하게 이어붙일 수 있다. Schema에는 반드시 불확실성을 다루는 규칙이 있어야 한다.

예를 들어 다음과 같이 지시할 수 있다.

• 원문에서 확인되지 않은 내용은 사실처럼 쓰지 않는다.

• 추정은 "추정"이라고 표시한다.

• 의견은 "해석" 또는 "관점"으로 분리한다.

• 모순되는 자료가 있으면 두 주장을 함께 남긴다.

이 규칙이 있어야 위키가 시간이 지나도 신뢰를 잃지 않는다.

index.md는 위키의 지도다

위키가 커지면 좋은 페이지가 있어도 찾지 못하는 문제가 생긴다. index.md는 이 문제를 줄이는 입구 문서다.

index.md는 모든 파일 목록을 기계적으로 나열하는 곳이 아니다. 위키의 구조를 사람이 이해할 수 있게 보여주는 지도다. 처음 들어온 사람도 "이 위키에는 어떤 지식이 있고, 어디서부터 읽으면 되는지" 알 수 있어야 한다.

예를 들면 다음과 같이 구성할 수 있다.

## 핵심 개념
- [[concepts/llm-wiki]]: LLM Wiki의 정의와 운영 방식
- [[concepts/rag]]: 검색 증강 생성의 장점과 한계
- [[concepts/agent-memory]]: 에이전트 기억 구조

## 진행 중인 프로젝트
- [[projects/personal-second-brain]]
- [[projects/startup-knowledge-base]]

## 최근 중요한 결정
- [[decisions/2026-05-15_use-markdown-wiki]]

## 검토가 필요한 문서
- [[concepts/rag]]: 최신 자료 반영 필요
- [[projects/startup-knowledge-base]]: 고객 인터뷰 추가 필요

AI는 새 페이지를 만들 때 index.md도 함께 갱신해야 한다. 그렇지 않으면 페이지는 생기지만 위키의 지도에는 표시되지 않는다. 이런 문서가 많아지면 나중에는 다시 찾기 어렵다.

좋은 index.md는 세 가지 질문에 답한다.

• 이 위키의 핵심 주제는 무엇인가?

• 지금 중요한 문서는 무엇인가?

• 다음에 검토해야 할 문서는 무엇인가?

이 세 질문에 답하면 index.md는 단순 목차를 넘어 운영 대시보드가 된다.

log.md는 변경 추적과 감사 기록이다

log.md는 위키의 작업 일지다. AI가 어떤 자료를 읽고, 어떤 문서를 만들고, 무엇을 바꾸었는지 기록한다.

처음에는 귀찮아 보일 수 있다. 하지만 위키가 커질수록 로그의 가치는 커진다. 왜 특정 주장이 들어갔는지, 언제 어떤 자료를 근거로 바뀌었는지, 어떤 판단을 사람이 검토해야 하는지 확인할 수 있기 때문이다.

간단한 로그 형식은 다음과 같다.

## 2026-05-19

### 입력 자료
- raw/articles/2026-05-19_llm-wiki-pattern.md

### 변경한 문서
- wiki/concepts/llm-wiki.md 업데이트
- wiki/concepts/rag.md에 비교 섹션 추가
- index.md에 LLM Wiki 항목 추가

### 발견한 이슈
- RAG와 LLM Wiki의 경계에 대한 설명이 문서마다 다름
- 출처 없는 주장 2개 발견

### 다음 작업
- wiki/concepts/agent-memory.md 생성 필요
- RAG 관련 최신 자료 추가 검토

이 정도만 남겨도 충분하다. 핵심은 모든 문장을 기록하는 것이 아니라, 나중에 추적할 수 있을 만큼 남기는 것이다.

팀 위키에서는 로그가 더 중요하다. 누가 봐도 "어떤 자료가 들어와서 어떤 지식이 바뀌었는지" 알 수 있어야 한다. AI가 자동으로 정리하더라도, 사람이 검토할 수 있는 흔적이 남아야 한다.

Markdown은 AI와 사람이 함께 읽기 쉽다

LLM Wiki의 기본 문서 형식으로 Markdown을 추천하는 이유는 단순하다. 사람이 읽기 쉽고, AI도 다루기 쉽기 때문이다.

Markdown은 특정 앱에 갇히지 않는다. 텍스트 파일이기 때문에 폴더로 관리할 수 있고, Git으로 변경 이력을 남길 수 있으며, 여러 도구에서 열 수 있다. Obsidian, VS Code, Cursor, Claude Code 같은 도구와도 잘 맞는다.

또 하나의 장점은 구조가 명확하다는 것이다. 제목, 목록, 링크, 코드 블록, 인용을 간단한 기호로 표현할 수 있다. AI에게도 "이 문서의 요약 섹션을 갱신해라", "관련 문서 목록을 추가해라", "모순 섹션을 만들어라"라고 지시하기 쉽다.

Obsidian을 함께 쓰면 문서 사이의 링크와 그래프를 보기 편하다. 하지만 LLM Wiki의 핵심은 Obsidian 자체가 아니다. Obsidian은 좋은 인터페이스일 뿐이다. 진짜 핵심은 Markdown 파일, 원문 보관소, 운영 규칙, 로그가 함께 작동하는 구조다.

작은 폴더가 지식 시스템이 되는 순간

LLM Wiki는 거창한 데이터베이스에서 시작하지 않는다. 처음에는 다음 정도면 충분하다.

my-llm-wiki/
  raw/
    articles/
    books/
    meetings/
  wiki/
    concepts/
    projects/
    decisions/
  index.md
  log.md
  CLAUDE.md

여기에 첫 자료를 넣고 AI에게 이렇게 요청한다.

raw/articles/에 있는 새 자료를 읽고,
관련된 wiki 페이지를 생성하거나 갱신해줘.
반드시 CLAUDE.md의 규칙을 따르고,
변경 내용은 log.md에 남겨줘.

이 한 문장이 LLM Wiki의 기본 작동 방식이다.

자료는 raw/에 들어간다. AI는 Schema를 읽고 작업 기준을 이해한다. 필요한 위키 페이지를 만들거나 갱신한다. 새 문서가 생기면 index.md에 연결한다. 마지막으로 log.md에 변경 내용을 남긴다.

이 흐름이 반복되면 지식은 대화창 안에서 사라지지 않는다. 파일로 남고, 링크로 연결되고, 다음 작업의 출발점이 된다.

핵심은 단순하다.

• raw/는 증거다.

• wiki/는 해석된 지식이다.

• CLAUDE.md 또는 AGENTS.md는 운영 규칙이다.

• index.md는 지도다.

• log.md는 기록이다.

이 다섯 가지를 구분할 수 있으면 LLM Wiki의 기본 구조를 이해한 것이다. 다음 단계는 실제 환경을 준비하는 일이다. 폴더를 만들고, Markdown 규칙을 정하고, AI가 위키 관리자로 일할 수 있는 최소 작업 공간을 구성하면 된다.