LangGraph AI 에이전트 시스템 구축

https://www.youtube.com/watch?v=edsshVochqM&list=WL

아래 내용은 원문 영상을 보고 요약한 내용입니다. (영상을 보시는 걸 추천드립니다)

랭그랩(LangGraph) 기반 AI 에이전트 시스템 구축하기

1. 기존 랭 체인의 한계

기존 랭 체인(LangChain)은 AI 기반 애플리케이션을 구축하는 데 유용하지만 몇 가지 한계를 가지고 있습니다.

1.1. 프로덕션 환경에서의 어려움

• 고객 요구사항 증가에 따른 데이터 통합 및 유지보수의 어려움
• 새로운 AI 모델 실험 및 파이프라인 변경 시 높은 의존성 문제

1.2. 리니어 스트럭처드 레그의 한계

• 기존 방식은 모든 프로세스를 순차적으로 실행해야 하며, 특정 단계에서 오류가 발생하면 전체 흐름이 영향을 받음
• 검색 후 생성 단계로 바로 이어지기 때문에 검색 결과가 부정확해도 생성된 답변이 잘못될 가능성이 높음

2. 랭그랩(LangGraph)의 특징

2.1. 동적이고 유연한 AI 시스템 설계

• 랭그랩을 활용하면 기존의 선형적인 프로세스를 동적인 그래프 구조로 변환 가능
• 모듈 단위로 개발하여 독립성을 보장하고, 필요할 때 자유롭게 교체 가능

2.2. 사이클(Cycle)과 브랜칭(Branching) 기능

• 사용자의 요청에 따라 서로 다른 워크플로우를 실행 가능
• 예를 들어, 요약 요청이 들어왔을 때 뉴스 요약은 웹 검색을 먼저 수행하고, 회의록 요약은 DB 검색을 먼저 수행하는 등 유연한 설계 가능

2.3. 병렬 처리(Fan-Out & Fan-In)

• 검색을 병렬로 진행해 시간을 절약하고, 결과를 합쳐 더 나은 응답 생성 가능
• 여러 AI 모델을 병렬 실행 후 결과를 종합하는 방식도 가능

2.4. 메모리 관리

숏텀 메모리(Short-Term Memory)

• 사용자별 대화 내역을 관리하여 멀티턴 대화 구현 가능
• 특정 시점으로 롤백하여 이전 단계부터 다시 실행 가능 (타임 트래블 기능)

롱텀 메모리(Long-Term Memory)

• 사용자의 이름, 직업, 선호도 등 장기적인 정보를 저장하고 활용 가능
• 사용자 정보 추출 후 저장하여 이후 대화에서 활용

2.5. 휴먼 인 더 루프(Human-in-the-Loop)

• 중간 과정에서 사람이 개입하여 피드백을 제공하거나 수정 가능
• 상담사 개입 기능을 통해 AI 응답이 어려운 경우 사람에게 연결 가능

3. 멀티에이전트 협업 시스템 구축

3.1. 기존 방식의 문제점

• 사람이 직접 개입해야 하는 상황이 많아 효율성 저하
• 새로운 에이전트를 추가할 때마다 라우팅 로직이 복잡해짐

3.2. 슈퍼바이저 패턴(Supervisor Pattern)

• 중앙에 슈퍼바이저 에이전트를 두어 작업을 조율
• 각 에이전트는 슈퍼바이저에게만 작업 결과를 전달하며, 슈퍼바이저가 최적의 라우팅을 결정
• 새로운 에이전트 추가 시 슈퍼바이저에만 반영하면 되므로 확장성이 뛰어남

3.3. 레그프레스(LangGraph Press) 활용

• 슈퍼바이저 패턴을 쉽게 구현할 수 있는 라이브러리 제공
• 기존의 복잡한 그래프 구조도 하나의 노드로 간소화 가능
• 멀티에이전트 협업 네트워크 구축을 쉽게 지원

4. 정리 및 결론

랭그랩(LangGraph)은 기존 랭 체인의 한계를 극복하고 보다 유연한 AI 시스템 구축을 가능하게 해 줍니다. 특히 멀티에이전트 협업 네트워크와 슈퍼바이저 패턴을 활용하면 복잡한 작업을 효율적으로 분배하고 관리할 수 있습니다.