LLM Wiki: AI에게 내 지식 관리를 맡기는 법

안녕하세요. Jay입니다!

AI한테 자료를 잔뜩 넣고 질문하다 보면 이런 경험 있으시죠? 며칠 뒤 비슷한 걸 또 물으면, AI는 매번 처음부터 다시 찾고 다시 요약합니다. 좋은 답변도 대화창 속에 묻혀 사라지고요.

오늘은 이 문제를 겨냥한 패턴, LLM Wiki를 소개해 보겠습니다. AI 분야의 거물 안드레이 카파시(Andrej Karpathy)가 제안해 화제가 된 개념입니다.

📌 LLM Wiki가 뭐죠?

한 문장으로, 원본 자료 위에 AI가 관리하는 위키(markdown 지식층)를 쌓는 방식입니다. 구조는 3층이에요.

• Raw: 기사·논문·메모·회의록 같은 원본. 그대로 둡니다(수정 X).
• Wiki: AI가 쓰고 갱신하는 요약·개념·비교 문서. 사람은 읽고 검토합니다.
• Schema: AI가 위키를 어떻게 운영할지 정한 규칙(폴더 구조·인용 방식·점검 기준).

카파시의 비유가 직관적입니다. 옵시디언은 IDE, LLM은 프로그래머, 위키는 코드베이스. 즉 메모 앱 사용법이 아니라 *"지식을 계속 빌드하고 유지하는 시스템"*으로 보는 거죠.

🔄 RAG랑 뭐가 다른가요?

흔히 쓰는 방식(RAG)은 질문할 때마다 관련 조각을 검색해 답을 만듭니다. 빠르지만 해석이 누적되지 않아요. LLM Wiki는 반대로 *"질문 때마다 다시 조립하지 말고, 미리 정리해서 계속 업데이트하자"*는 접근입니다.

중요한 건 대체가 아니라 보완이라는 점이에요. 자료가 적은 개인 규모(약 100문서 내외)에선 복잡한 RAG 없이 잘 돌아가고, 규모가 커지면 검색 도구를 덧붙이면 됩니다.

🚀 1주만 가볍게 시작해보기

처음부터 인생 전체를 위키로 만들지 마세요. 주제 하나만 고르는 게 핵심입니다.

1. 주제 1개 선정 (예: 여행 준비, 프로젝트 온보딩)
2. 원본 자료 10~20개만 모아 raw/에 넣기
3. 위키 기본 파일 5개만 만들기 (overview·glossary·decisions 등)
4. AI에게 새 문서 생성보다 기존 페이지 업데이트를 우선시키기
5. 모든 변경은 diff로 검토 후 반영

💡 Jay의 운영 경험 — 두 달째 굴리고 있는 제 위키의 실물

사실 저도 옵시디언 + Claude로 개인 위키를 두 달 가까이 직접 운영 중입니다. 개념 소개로 끝내기 아쉬우니, 제 위키의 실제 구조를 보여드릴게요.

내 위키/
├── 운영규칙.md   ← Schema: AI가 지킬 규칙 (프론트매터 형식·기록 절차·금지사항)
├── index.md      ← 전체 프로젝트 현황 대시보드
├── log.md        ← 시간순 변경 기록 (추가만 하고 수정 안 함)
├── 회사/  개인/   ← Wiki: 프로젝트·회의록·사람 페이지 (AI가 생성·갱신)
└── raw/          ← Raw: 회의록 원본·문서 (불변, 읽기만)

운영해 보며 몸으로 배운 것 두 가지가 있습니다.

① 규칙 문서가 곧 품질입니다. 처음엔 규칙이 몇 줄이었는데, 지금은 "회의록엔 원본에 없는 추론을 섞지 말 것", "마감일은 완료 확인 전까지 지났어도 연체로 표시할 것" 같은 규칙이 수십 개 쌓였습니다. 전부 AI가 실수한 지점마다 하나씩 추가된 거예요. 규칙이 쌓일수록 같은 실수가 사라지는 게 이 패턴의 복리입니다.

② 사람 검토 게이트는 진짜로 필요합니다. 실제 사례로, AI가 대화를 정리하면서 기록한 날짜를 실제 사건 날짜로 착각해 위키에 적은 적이 있습니다. 며칠 뒤 제가 발견해 정정했는데, 그 사이 그 날짜 기준으로 후속 기록이 이어질 뻔했죠. 잘못된 요약이 공식 지식처럼 굳으면 유지보수 자동화가 아니라 환각 자동화가 됩니다. 그래서 원본은 읽기 전용, 중요한 기록은 사람이 확인 후 반영하는 원칙을 지키고 있습니다.

결론

LLM Wiki는 *"AI가 내 문서를 읽어주는 것"*이 아니라 *"AI가 내 지식 베이스를 함께 편집·유지하는 것"*에 가깝습니다. 자료가 계속 쌓이고 같은 질문이 반복된다면, 한 주제로 가볍게 시작해 보세요!

📚 참고 / 출처

• Andrej Karpathy, LLM Wiki 가이드(gist) — GeekNews 정리
• 박제창(Dreamwalker), 「LLM Wiki는 무엇이고, 왜 지금 주목받는가」 — Medium

다음에도 유익한 포스팅으로 찾아오겠습니다. 감사합니다!