AI 기반 에이전트 프레임워크

https://www.youtube.com/watch?v=mZaQc2GDt8Q

아래 내용은 위 영상을 요약한 내용입니다. 

 

AI 기반 에이전트 프레임워크: 효과적인 워크플로우 패턴 분석

최근 엔트로픽(Anthropic)에서 "Building Effective Agents"라는 흥미로운 기사를 발표했습니다. 이 기사에서는 다양한 산업 분야에서 AI 기반 에이전트 프레임워크를 구축한 경험과 인사이트를 공유했는데요. 1년 이상의 실전 경험을 바탕으로 효과적인 에이전트 시스템을 정리한 만큼, 매우 가치 있는 정보들이 포함되어 있었습니다.

이러한 개념을 제대로 이해하기 위해 저는 직접 기사에서 소개된 워크플로우 블루프린트를 활용하여 n8n에서 실습해 보았습니다. 이번 글에서는 각 워크플로우를 단계별로 살펴보며, 효과적인 에이전트 시스템을 구축하는 방법을 소개하겠습니다. 특히, 워크플로우와 에이전트의 차이점도 함께 다룰 예정이니 끝까지 읽어 주세요!

---

1. 프롬프트 체이닝(Prompt Chaining)

개념

프롬프트 체이닝이란 하나의 작업을 여러 개의 작은 단계로 나누어 처리하는 방식입니다. 각 단계에서 LLM(대형 언어 모델)은 이전 단계의 출력을 입력으로 받아 점진적으로 더 정교한 결과를 생성합니다.

활용 예시

보고서를 작성하는 작업을 예로 들어보겠습니다.

1. 핵심 포인트 및 주제 선정: 주어진 주제에 대한 주요 포인트와 논점을 생성
2. 보고서 개요 생성: 선정된 포인트를 바탕으로 보고서의 개요 작성
3. 최종 보고서 작성: 개요를 바탕으로 완성된 보고서 생성

이러한 구조를 통해 한 번에 복잡한 작업을 수행하는 것이 아니라 단계별로 세분화하여 보다 높은 정확도의 결과를 얻을 수 있습니다.

---

2. 라우팅(Routing)

개념

라우팅은 입력을 분류하여 적절한 후속 작업으로 전달하는 방식입니다. 이를 통해 특정 유형의 입력에 대해 맞춤형 응답을 생성할 수 있습니다.

활용 예시

예를 들어, 이메일 관리 시스템을 구축한다고 가정해 보겠습니다.

• 사용자가 이메일을 보낼 때 요청을 분석하여 해당 요청이 캘린더, 지메일 또는 슬랙 관련 작업인지 분류
• 각각의 요청을 해당하는 AI 에이전트에 전달하여 적절한 응답 생성

이렇게 하면 단일 LLM에 모든 책임을 부여하는 것이 아니라 각 작업을 전문적으로 처리할 수 있어 성능을 최적화할 수 있습니다.

---

3. 병렬 처리(Parallelization)

개념

LLM이 여러 개의 작업을 동시에 수행하여 결과를 종합하는 방식으로, 두 가지 주요 유형이 있습니다.

1. 섹셔닝(Sectioning): 독립적인 서브 태스크를 병렬로 실행하여 시간 단축
2. 투표(Voting): 동일한 작업을 여러 번 실행하여 다양한 출력을 생성하고 최적의 결과 선택

활용 예시

• 섹셔닝: 여행 계획 수립 시, 호텔 추천, 레스토랑 추천, 관광지 추천을 각각의 LLM이 동시에 수행
• 투표: 광고 슬로건 생성 시, 다양한 모델이 개별적으로 생성한 결과 중 가장 적절한 문구 선택

---

4. 오케스트레이터-워커 패턴(Orchestrator-Workers Pattern)

개념

중앙 LLM(오케스트레이터)이 작업을 동적으로 분해하여 여러 개의 하위 LLM(워커)에게 할당하는 방식입니다.

활용 예시

• 번역 시스템에서 사용자가 입력한 문장을 여러 개의 언어로 번역할 때, 중앙 오케스트레이터가 번역할 언어를 파악한 후 각 언어에 맞는 번역기를 병렬로 실행

이 방식은 작업의 유연성을 높이고 확장성을 확보하는 데 효과적입니다.

---

5. 평가자-최적화 패턴(Evaluator-Optimizer Pattern)

개념

하나의 LLM이 출력을 생성하고, 다른 LLM이 이를 평가하여 피드백을 제공하는 방식입니다. 평가자가 결과를 승인하면 다음 단계로 진행되고, 거부하면 최적화를 반복합니다.

활용 예시

• 고객 서비스 이메일 작성 시스템에서, 고객의 문의에 대한 응답을 생성한 후 평가 LLM이 이를 검토하여 문장 명확성, 친절한 어조, 서명 포함 여부 등을 평가
• 부족한 점이 있다면 피드백을 제공하여 다시 응답을 생성하는 과정을 반복

이를 통해 품질이 보장된 최종 출력을 얻을 수 있습니다.

---

6. 에이전트(Agents)와 워크플로우의 차이

워크플로우와 에이전트의 가장 큰 차이점은 사전 정의된 단계의 유무입니다.

• 워크플로우: 작업이 정해진 순서대로 진행됨 (예: 여행 추천 시스템)
• 에이전트: 스스로 최적의 실행 방법을 결정하며, 유연한 의사 결정을 수행 (예: 캘린더 관리 에이전트)

이 차이를 이해하면 AI 시스템을 설계할 때 보다 효과적인 방법을 선택할 수 있습니다. 예를 들어, 반복적이고 명확한 작업에는 워크플로우를, 복잡하고 동적인 작업에는 에이전트를 사용하는 것이 좋습니다.

---

결론

이번 글에서는 AI 기반 에이전트 시스템을 구축할 때 활용할 수 있는 다양한 패턴을 살펴보았습니다. 엔트로픽의 연구 내용을 기반으로 한 만큼, 실제로 적용 가능한 인사이트가 많았는데요. 각 패턴을 잘 활용하면 더욱 효율적이고 강력한 AI 시스템을 구축할 수 있을 것입니다.

감사합니다!