LLM 기반 자율 에이전트(Agent) 개발 및 워크플로우 자동화

728x90

0. 들어가며 — 에이전트를 한 줄로 정의하면

Agent = Planning + Memory + Tool Use

LLM이 질문에 답하는 존재라면, 에이전트(Agent)는 목표를 받아 스스로 계획하고, 기억하고, 도구를 사용해 일을 끝내는 존재다. 위 한 줄 정의가 이 글 전체의 뼈대다. 이 글은 LLM 기반 자율 에이전트 개발 교육 내용을 정리한 것으로, 에이전트의 3요소부터 워크플로우 자동화, RAG의 다음 단계, 그리고 멀티 에이전트 시스템(MAS)까지를 다룬다.

1. 에이전트의 3요소

• Planning(계획) — 목표를 실행 가능한 단계로 분해한다. CoT(Chain of Thought) 프롬프팅이 계획 능력의 기반이 된다.
• Memory(기억) — 대화 맥락을 유지하는 단기 기억과, 벡터 저장소 등에 축적하는 장기 기억으로 나뉜다. 기억이 없으면 매 턴이 첫 만남이 된다.
• Tool Use(도구 사용) — 검색, 계산, API 호출, 파일 조작 등 LLM 혼자 할 수 없는 일을 외부 도구로 수행한다. 벤더에 따라 Tools, Action, Trigger 등으로 부르는 이름은 다르지만 개념은 같다.

2. 워크플로우는 상태 머신이다

에이전트 워크플로우를 설계할 때 가장 유용한 관점이 상태 머신(State Machine)이다. "지금 어떤 상태이고, 어떤 조건에서 다음 상태로 넘어가는가"를 명시하면, 에이전트의 자율성이 통제 가능한 범위 안에 들어온다. LangChain의 LCEL(LangChain Expression Language)이 체인을 선언적으로 조립하는 문법이라면, 뒤에서 다룰 LangGraph는 이 상태 머신 관점을 그래프로 구현한 프레임워크다.

3. 도구 생태계 — 에이전트의 손과 발

에이전트의 실용성은 결국 어떤 도구를 붙이느냐로 결정된다. 특히 웹 검색·크롤링은 거의 모든 에이전트의 기본기다.

서비스	성격	특징
Tavily	AI 에이전트 전용 실시간 검색 API	RAG 워크플로우에 최적화된 검색 결과 제공
SerpApi	구글 검색 결과 API	프록시·캡차 처리 대행, 구조화된 데이터 파싱
XCrawl	AI 웹 스크레이핑 API	임의 웹사이트에서 JSON/Markdown 구조화 추출

Tavily

SerpApi: Google Search API

XCrawl - AI Web Scraping API & Intelligent Scraper Tool

4. RAG에서 TAG로, 그리고 Reranking

검색 증강 생성(RAG)은 이제 기본값이고, 논의는 그 다음으로 넘어가고 있다. TAG(Table-Augmented Generation)처럼 정형 데이터(테이블·DB)를 직접 활용하는 접근이 그것이다. 또 하나의 필수 요소가 Reranking이다 — 벡터 검색이 뽑아 온 후보들을 관련도 순으로 다시 정렬해 상위 몇 개만 컨텍스트에 넣으면, 같은 모델로도 답변 품질이 눈에 띄게 올라간다. Cohere의 Rerank 모델이 대표적이다.

엔터프라이즈 AI: 개인, 보안, 사용자 정의 가능 | Cohere

5. 품질을 끌어올리는 패턴 — CoT와 Reflection

모델을 바꾸지 않고 에이전트의 출력 품질을 올리는 두 가지 대표 패턴이 있다.

• CoT(Chain of Thought) — 결론으로 점프하지 말고 중간 추론 단계를 밟게 한다. 계획 수립의 기본기.
• Reflection 패턴 — 에이전트가 자신의 출력을 스스로 검토하고 수정하게 한다. 특히 멀티 턴 Reflection(생성 → 자기 비평 → 재생성 반복)은 한 번의 생성으로는 나오지 않는 품질에 도달하게 해 준다. 행위와 평가를 분리한다는 점에서, 에이전트 버전의 셀프 코드리뷰라고 볼 수 있다.

이런 패턴들을 프롬프트 엔지니어링, RAG, 파인튜닝, 평가 지표 설계까지 아우르는 큰 그림으로 정리한 책이 칩 후옌(Chip Huyen)의 ‘AI 엔지니어링’이다.

AI 엔지니어링 | 칩 후옌

6. 멀티 에이전트 시스템(MAS)

하나의 만능 에이전트보다, 역할을 나눈 여러 에이전트가 협업하는 구조가 더 잘 동작하는 경우가 많다. 리서처·작성자·검토자처럼 역할을 분리하면 각 에이전트의 프롬프트가 단순해지고 품질 관리 지점이 명확해진다. 대표 프레임워크 세 가지의 성격이 뚜렷하게 다르다.

프레임워크	모델	강점
CrewAI	역할(Role) 기반 크루 구성	Gmail·Slack·Notion 등 도구 연동이 쉬운 노코드 스튜디오 + API
AutoGen (Microsoft)	이벤트 기반(event-driven) 멀티 에이전트	대화형 협업, 분산 에이전트, 결정적/동적 워크플로우 연구에 강함
LangGraph (LangChain)	그래프 기반 상태 머신	저수준 제어 가능 — 상태·분기·체크포인트를 명시적으로 설계

The Leading Multi-Agent Platform

AutoGen — AutoGen

LangGraph: Agent Orchestration Framework for Reliable AI Agents

선택 기준은 단순하다. 빠른 조립은 CrewAI, 에이전트 간 대화 실험은 AutoGen, 프로덕션급 통제와 상태 관리가 필요하면 LangGraph다. 2장의 상태 머신 관점이 여기서 다시 등장한다.

7. 인프라 관점 — 에이전트 시대의 하드웨어

에이전트가 상시 구동되는 시대에는 하드웨어 선택지도 함께 봐 둘 필요가 있다. AMD 라인업을 예로 들면, 프로그래머블 로직과 Arm 코어를 결합한 적응형 SoC, 임베디드 핵심 구성요소를 단일 보드에 담은 SOM(System-On-Module), 그리고 데이터센터의 네트워킹·스토리지·보안을 오프로드하는 Pensando DPU가 각각 엣지 추론, 임베디드 AI, AI 인프라 최적화를 담당한다. 에이전트를 어디서 돌릴 것인가(클라우드/온프레미스/엣지)에 따라 이 계층들이 선택지가 된다.

AMD 적응형 SoC

상업용 및 산업용 AMD SOM(System-On-Module)

AMD Pensando™ DPU 기술

8. 마치며

정리하면 — 에이전트는 Planning + Memory + Tool Use이고, 워크플로우는 상태 머신으로 설계하며, 검색·크롤링 도구와 Reranking으로 입력 품질을, CoT·Reflection으로 출력 품질을 끌어올린다. 규모가 커지면 MAS로 역할을 분리하되, 통제가 필요한 프로덕션이라면 LangGraph처럼 상태를 명시적으로 관리하는 프레임워크를 선택하는 것이 안전하다.