오늘도 공부

LLM을 개인 지식관리나 리서치에 활용할 때 가장 흔한 구조는 RAG(Retrieval-Augmented Generation)다.문서들을 저장해 두고, 사용자가 질문하면 관련 문서 조각을 검색한 뒤 LLM에게 전달한다.Documents ↓Chunking ↓Embedding / Index ↓Retrieval ↓LLM ↓Answer이 방식은 효율적이다.하지만 한 가지 구조적인 문제가 있다.매번 지식을 다시 조립해야 한다.100개의 문서를 읽고 5개의 자료를 연결해 어떤 결론을 만들었다고 하더라도, 다음 질문에서는 다시 검색하고 다시 조합해야 한다.LLM 입장에서는 이전에 수행했던 분석이 하나의 지식 구조로 축적되지 않는다.Karpathy가 공개한 LLM Wiki 아이디어는 바로 이 문제를 ..

AI 에이전트 시스템의 문제는 모델 성능만으로 해결되지 않는다.실제 운영 환경에서 더 자주 문제가 되는 것은 다음 세 가지다.작업이 실패했을 때 누가 다시 시작할 것인가여러 에이전트가 사용하는 공유 상태를 어디에 저장할 것인가실제 외부 시스템을 변경하기 전에 누가 승인할 것인가에이전트를 여러 개 붙여 놓는다고 안정적인 시스템이 만들어지는 것은 아니다.필요한 것은 에이전트 군집(Swarm) 자체가 아니라, 에이전트가 어떤 작업을 수행해야 하는지 판단하고 결과를 검증하며 다시 작업으로 되돌리는 제어 시스템(Control System) 이다.이 글에서는 다음과 같은 구조를 사용한다.Grok Bot │ │ Outer Loop ▼Coordinator │ ├── Knowledge Graph ├..