LLM Wiki: AI에게 내 지식 관리를 맡기는 법

안녕하세요. Jay입니다!

AI한테 자료를 잔뜩 넣고 질문하다 보면 이런 경험 있으시죠? 며칠 뒤 비슷한 걸 또 물으면, AI는 매번 처음부터 다시 찾고 다시 요약합니다. 좋은 답변도 대화창 속에 묻혀 사라지고요.

오늘은 이 문제를 겨냥한 패턴, LLM Wiki를 소개해 보겠습니다. AI 분야의 거물 안드레이 카파시(Andrej Karpathy)가 제안해 화제가 된 개념입니다.

📌 LLM Wiki가 뭐죠?

한 문장으로, 원본 자료 위에 AI가 관리하는 위키(markdown 지식층)를 쌓는 방식입니다. 구조는 3층이에요.

• Raw: 기사·논문·메모·회의록 같은 원본. 그대로 둡니다(수정 X).
• Wiki: AI가 쓰고 갱신하는 요약·개념·비교 문서. 사람은 읽고 검토합니다.
• Schema: AI가 위키를 어떻게 운영할지 정한 규칙(폴더 구조·인용 방식·점검 기준).

카파시의 비유가 직관적입니다. 옵시디언은 IDE, LLM은 프로그래머, 위키는 코드베이스. 즉 메모 앱 사용법이 아니라 *"지식을 계속 빌드하고 유지하는 시스템"*으로 보는 거죠.

🔄 RAG랑 뭐가 다른가요?

흔히 쓰는 방식(RAG)은 질문할 때마다 관련 조각을 검색해 답을 만듭니다. 빠르지만 해석이 누적되지 않아요. LLM Wiki는 반대로 *"질문 때마다 다시 조립하지 말고, 미리 정리해서 계속 업데이트하자"*는 접근입니다.

중요한 건 대체가 아니라 보완이라는 점이에요. 자료가 적은 개인 규모(약 100문서 내외)에선 복잡한 RAG 없이 잘 돌아가고, 규모가 커지면 검색 도구를 덧붙이면 됩니다.

🚀 1주만 가볍게 시작해보기

처음부터 인생 전체를 위키로 만들지 마세요. 주제 하나만 고르는 게 핵심입니다.

1. 주제 1개 선정 (예: 여행 준비, 프로젝트 온보딩)
2. 원본 자료 10~20개만 모아 raw/에 넣기
3. 위키 기본 파일 5개만 만들기 (overview·glossary·decisions 등)
4. AI에게 새 문서 생성보다 기존 페이지 업데이트를 우선시키기
5. 모든 변경은 diff로 검토 후 반영

💡 Jay의 운영 경험

사실 저도 옵시디언 + Claude로 개인 위키를 직접 운영 중입니다. 회사·개인 프로젝트 현황을 AI가 정리·갱신해 주는데, 확실히 "저번에 그거 어떻게 결정했더라?" 같은 반복 질문이 줄더라고요. 핵심은 사람 검토 게이트예요. 자칫 잘못된 요약이 공식 지식처럼 굳으면, 유지보수 자동화가 아니라 환각 자동화가 됩니다. 그래서 원본은 읽기 전용, 핵심 페이지는 사람이 승인 후 반영하는 원칙이 꼭 필요합니다.

결론

LLM Wiki는 *"AI가 내 문서를 읽어주는 것"*이 아니라 *"AI가 내 지식 베이스를 함께 편집·유지하는 것"*에 가깝습니다. 자료가 계속 쌓이고 같은 질문이 반복된다면, 한 주제로 가볍게 시작해 보세요!

📚 참고 / 출처

• Andrej Karpathy, LLM Wiki 가이드(gist) — GeekNews 정리
• 박제창(Dreamwalker), 「LLM Wiki는 무엇이고, 왜 지금 주목받는가」 — Medium

다음에도 유익한 포스팅으로 찾아오겠습니다. 감사합니다!