LLM Wiki는 처음부터 서버를 만들 필요가 없다. 벡터DB를 설치하지 않아도 되고, 검색 파이프라인을 설계하지 않아도 된다. 처음 필요한 것은 하나의 로컬 폴더, 몇 개의 하위 폴더, Markdown 파일, 그리고 그 폴더를 읽고 쓸 수 있는 AI 에이전트다.
Karpathy의 LLM Wiki 아이디어가 흥미로운 이유도 여기에 있다. 복잡한 제품이 아니라, 원문과 위키와 규칙을 분리해 지식이 누적되게 만드는 작업 패턴이기 때문이다.1 이 장에서는 개인용 LLM Wiki를 오늘 바로 시작할 수 있는 최소 환경으로 만든다.
먼저 하나의 루트 폴더를 만든다
기본 루트 폴더 이름은 단순하게 정하자.
my-llm-wiki/이 폴더가 앞으로 나의 AI 지식 작업실이 된다. 웹에서 저장한 글, PDF, 회의록, 책 요약, AI가 만든 위키 페이지, 작업 로그, 결과물이 모두 이 안에서 움직인다.
처음 구조는 다음 정도면 충분하다.
my-llm-wiki/
raw/
articles/
books/
papers/
meetings/
transcripts/
wiki/
concepts/
people/
projects/
books/
research/
decisions/
assets/
images/
pdfs/
logs/
outputs/
index.md
CLAUDE.md 또는 AGENTS.md터미널이 익숙하다면 다음처럼 만들 수 있다.
mkdir -p my-llm-wiki/{raw/{articles,books,papers,meetings,transcripts},wiki/{concepts,people,projects,books,research,decisions},assets/{images,pdfs},logs,outputs}
cd my-llm-wiki
touch index.md터미널이 익숙하지 않다면 Finder나 파일 탐색기에서 직접 폴더를 만들어도 된다. 중요한 것은 명령어가 아니라 구분이다. 원문은 raw/, 정리된 지식은 wiki/, 이미지와 PDF 같은 보조 파일은 assets/, 작업 기록은 logs/, 보고서나 글 초안 같은 결과물은 outputs/에 둔다.
처음부터 완벽한 분류를 만들려고 하지 말자. 폴더가 너무 많으면 자료를 넣기 전에 지친다. 개인용 위키의 시작점은 "헷갈리지 않을 만큼만 나누는 것"이다.
raw/와 wiki/는 절대 섞지 않는다
LLM Wiki의 첫 번째 운영 원칙은 원문과 해석을 분리하는 것이다.
raw/는 증거 자료다. 여기에 들어간 파일은 가능하면 수정하지 않는다. 웹 문서를 저장했다면 원문에 가까운 형태로 보관한다. 회의록을 넣었다면 당시 기록을 그대로 둔다. 책에서 발췌한 내용도 나중에 출처를 확인할 수 있게 파일명과 날짜를 남긴다.
예를 들면 다음과 같다.
raw/articles/2026-05-19_llm-wiki-karpathy.md
raw/books/2026-05-19_building-a-second-brain-ch01.md
raw/meetings/2026-05-19_product-strategy-meeting.md
raw/transcripts/2026-05-19_youtube-agent-memory.mdwiki/는 해석층이다. AI가 원문을 읽고 요약하고, 개념을 뽑고, 기존 페이지와 연결하고, 필요하면 내용을 갱신하는 공간이다.
wiki/concepts/llm-wiki.md
wiki/concepts/rag.md
wiki/projects/personal-second-brain.md
wiki/decisions/2026-05-19_use-markdown-wiki.md이 둘을 섞으면 위키가 금방 흐려진다. 원문인지 요약인지, 사실인지 해석인지, 내가 쓴 말인지 AI가 정리한 말인지 구분하기 어려워진다. 반대로 둘을 나누면 문제가 생겨도 돌아갈 기준점이 있다. AI가 요약을 잘못했다면 raw/로 돌아가 확인하면 된다. 새 자료와 기존 주장이 충돌하면 wiki/에서 모순을 표시하고, 근거는 raw/로 추적하면 된다.
이 분리가 LLM Wiki를 단순한 메모 폴더가 아니라 지식 축적 시스템으로 만든다. 매번 원문을 다시 뒤지는 것이 아니라, 원문 위에 정리된 지식층을 쌓아 올리는 구조가 되기 때문이다.
Markdown 규칙을 작게 정한다
LLM Wiki의 기본 문서 형식은 Markdown이 좋다. Markdown은 일반 텍스트라서 특정 앱에 갇히지 않는다. Obsidian, VS Code, Cursor, Claude Code 같은 도구가 모두 같은 파일을 읽고 쓸 수 있다. Git으로 변경 이력을 남기기도 쉽다.
처음에는 문서 규칙을 복잡하게 만들 필요가 없다. 다음 다섯 가지만 정해도 충분하다.
# 파일명 규칙
- 파일명은 영어 kebab-case를 기본으로 한다.
- 날짜가 중요한 문서는 YYYY-MM-DD를 앞에 붙인다.
# 페이지 기본 구조
- 한두 문장의 요약으로 시작한다.
- 핵심 내용은 H2 단위로 나눈다.
- 관련 페이지는 [[링크]]로 연결한다.
- 근거가 되는 raw 파일 경로를 남긴다.
- 불확실한 내용은 "확인 필요"로 표시한다.예를 들어 개념 페이지는 다음처럼 시작할 수 있다.
---
type: concept
updated: 2026-05-19
sources:
- raw/articles/2026-05-19_llm-wiki-karpathy.md
---
LLM Wiki는 AI가 원문을 읽고 Markdown 위키를 지속적으로 갱신하게 하는 지식 관리 패턴이다.
## 핵심 개념
## 관련 페이지
- [[rag]]
- [[agent-memory]]
## 근거
- raw/articles/2026-05-19_llm-wiki-karpathy.md처음부터 완벽한 프론트매터를 만들려고 애쓸 필요는 없다. 프론트매터는 Markdown 파일 맨 위에 쓰는 메타데이터 영역이다. 위 예시의 type, updated, sources 같은 정보가 여기에 해당한다. 나중에 Obsidian 플러그인이나 검색 도구를 쓸 때 도움이 되지만, 처음에는 최소한만 두면 된다.
Obsidian을 사람용 화면으로 쓴다
LLM Wiki의 본체는 폴더와 Markdown 파일이다. Obsidian은 그 파일을 사람이 읽고 탐색하기 쉽게 보여주는 화면이다. Obsidian에서는 로컬 폴더를 Vault로 열어 Markdown 노트를 관리할 수 있다.2
설정은 간단하다.
Obsidian을 설치한다.
"Open folder as vault"를 선택한다.
my-llm-wiki/폴더를 연다.왼쪽 파일 탐색기에서
wiki/를 중심으로 읽는다.내부 링크와 백링크, 그래프 뷰로 연결을 확인한다.
여기서 중요한 선택이 있다. wiki/ 폴더만 Vault로 열 수도 있고, my-llm-wiki/ 전체를 Vault로 열 수도 있다. 이 책에서는 전체 루트인 my-llm-wiki/를 Vault로 여는 방식을 권한다. 그래야 raw/, logs/, outputs/, CLAUDE.md까지 한눈에 볼 수 있다.
다만 평소 읽는 중심은 wiki/여야 한다. raw/는 참고 자료이고, wiki/가 지식 지도다. Obsidian에서 자주 볼 문서는 다음 세 가지다.
index.md: 위키의 입구wiki/concepts/: 핵심 개념wiki/projects/또는wiki/research/: 현재 진행 중인 작업
Obsidian을 잘 쓰려고 처음부터 플러그인을 많이 설치할 필요는 없다. 내부 링크, 검색, 백링크만으로도 충분하다. 도구를 꾸미는 시간보다 자료 하나를 넣고 위키 한 페이지를 갱신하는 시간이 더 중요하다.
Git을 최소 안전장치로 둔다
LLM이 파일을 수정할 수 있게 되면 반드시 안전장치가 필요하다. AI는 여러 파일을 빠르게 고칠 수 있지만, 그만큼 잘못된 변경도 빠르게 퍼뜨릴 수 있다. 그래서 Git을 쓰는 것이 좋다. Git은 파일의 변경 이력을 추적하고, 이전 상태로 되돌릴 수 있게 해주는 버전 관리 도구다.3
처음 한 번만 다음처럼 설정한다.
cd my-llm-wiki
git init
git add .
git commit -m "Initial LLM Wiki structure"이후 운영 습관은 단순하다.
# 작업 전 현재 상태 확인
git status
# AI가 ingest 작업을 끝낸 뒤 변경 확인
git diff
# 문제가 없으면 저장
git add .
git commit -m "Ingest article about LLM Wiki"개발자가 아니라면 모든 Git 명령을 외울 필요는 없다. 처음에는 세 가지만 기억하면 된다.
git status: 무엇이 바뀌었는지 확인한다.git diff: 실제 변경 내용을 본다.git commit: 지금 상태를 저장한다.
LLM Wiki에서 Git은 개발 도구라기보다 보험에 가깝다. AI가 기존 페이지를 이상하게 덮어썼다면 diff에서 발견할 수 있다. 나중에 특정 개념이 어떻게 바뀌었는지도 추적할 수 있다. 팀 위키라면 누가 어떤 변경을 받아들였는지 검토하는 기준이 된다.
에이전트는 파일을 다룰 수 있어야 한다
일반 챗봇에게도 자료를 붙여넣고 요약을 요청할 수 있다. 하지만 LLM Wiki를 운영하려면 조금 더 필요하다. 에이전트가 내 로컬 폴더를 읽고, 여러 Markdown 파일을 수정하고, 변경한 내용을 설명할 수 있어야 한다.
Claude Code, Codex, Cursor 같은 도구를 고를 때는 다음 기준으로 보면 된다. Claude Code는 프로젝트 파일을 읽고 수정하며 터미널에서 작업하는 에이전트형 도구로 소개된다.4
로컬 폴더 전체를 읽을 수 있는가?
raw/의 자료를 읽고wiki/의 여러 파일을 갱신할 수 있는가?작업 전후 변경 내역을 설명할 수 있는가?
사용자가 승인하기 전 위험한 변경을 멈출 수 있는가?
CLAUDE.md또는AGENTS.md같은 규칙 파일을 읽고 따를 수 있는가?
도구 이름보다 중요한 것은 역할이다. 우리는 AI에게 "답변자"가 아니라 "위키 관리자" 역할을 맡기려 한다. 위키 관리자는 새 자료를 읽고, 기존 페이지를 찾아보고, 필요한 문서를 고치고, 새 링크를 만들고, 작업 로그를 남긴다.
이 역할을 가능하게 하는 파일이 다음 장에서 다룰 Schema다. 지금은 루트에 CLAUDE.md 또는 AGENTS.md를 만들 자리만 준비해두면 된다.
my-llm-wiki/
CLAUDE.md아직 내용이 비어 있어도 괜찮다. 다음 장에서 이 파일에 AI의 행동 규칙을 적을 것이다.
첫 운영 루틴은 네 단계면 충분하다
환경 준비의 목표는 멋진 시스템을 완성하는 것이 아니다. 반복 가능한 최소 루틴을 만드는 것이다. 처음 루틴은 다음 네 단계면 충분하다.
첫째, 새 자료를 raw/에 넣는다.
raw/articles/2026-05-19_example-article.md둘째, 에이전트에게 ingest를 요청한다.
raw/articles/2026-05-19_example-article.md를 읽고 ingest 해줘.
관련된 wiki 페이지를 생성하거나 갱신하고,
index.md를 업데이트하고,
logs/에 작업 요약을 남겨줘.
raw/ 원문은 수정하지 마.셋째, 사람이 Obsidian에서 결과를 읽는다. 새 페이지가 너무 길지는 않은지, 근거 없는 주장이 사실처럼 쓰이지 않았는지, 기존 페이지와 연결이 자연스러운지 확인한다.
넷째, Git diff를 보고 저장한다.
git diff
git add .
git commit -m "Ingest first article"이 루틴을 한두 번만 반복해도 감이 온다. 자료는 raw/에 남고, 지식은 wiki/에 쌓이고, 작업 흔적은 logs/에 남고, 결과물은 필요할 때 outputs/로 뽑힌다.
자동화는 나중에 넓혀도 된다. 처음부터 웹 클리퍼, 스크립트, MCP 서버, 벡터 검색까지 붙이면 구조를 이해하기 전에 시스템이 복잡해진다. 먼저 작은 자료 3개로 실험하자. 기사 하나, 회의록 하나, 책 발췌 하나면 충분하다.
오늘의 완성 상태
이 장을 마치면 최소 환경은 다음 상태가 된다.
my-llm-wiki/
raw/ # 원문 보관소
wiki/ # AI가 갱신하는 지식층
assets/ # 이미지, PDF 등 보조 파일
logs/ # ingest, query, lint 작업 기록
outputs/ # 보고서, 글 초안, 슬라이드 등 결과물
index.md # 위키의 입구
CLAUDE.md # AI 운영 규칙 파일
.git/ # Git 변경 이력이것이 개인용 LLM Wiki의 최소 시스템이다. 아직 자동화도 없고, 멋진 대시보드도 없다. 하지만 핵심은 이미 갖췄다. 원문과 해석이 분리되어 있고, 사람이 읽을 화면이 있으며, AI가 작업할 폴더가 있고, 잘못된 변경을 되돌릴 안전장치가 있다.
다음 단계는 CLAUDE.md를 작성하는 것이다. 이 파일이 생기면 AI는 단순히 "요약해주는 도구"가 아니라, 정해진 규칙에 따라 내 지식 위키를 관리하는 운영자가 된다.
참고
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.