LLM Agent

LLM Agent

LLM Agent 는 LLM 이 사용자 입력이나 외부 환경에 따라 적절한 판단을 내려, 사전에 정의된 도구 (tool), 함수 (function), API 등을 자율적으로 호출하거나 실행할 수 있는 구조를 가진 시스템입니다. 즉, 단순한 문장 생성 모델이 아니라, 행동 가능한 의사결정 주체로서의 LLM 을 의미합니다.

LLM Agent 구현 방법

LLM Agent 는 단순한 답변 생성기를 넘어 복잡한 조건 분기를 스스로 판단해 다음 단계를 결정할 수 있어야 합니다. 이를 위해 LLM 에게 function call, tool use, 분기 판단을 학습시키거나 프롬프트로 유도합니다. LangChain 은 Agent 시스템을 쉽게 만들 수 있도록 도와주는 프레임워크입니다. 하지만 LangChain 없이도 프롬프트를 통해 LLM 에게 어떤 조건에서 어떤 JSON 을 반환하라고 시키고, 그 JSON 을 파싱하여 코드 단에서 특정 함수와 연결시키는 방식으로도 충분히 Agent 구조를 구현할 수 있습니다. 중요한 것은 행동 분기 구조를 설계하고, 그 분기를 LLM 이 스스로 선택할 수 있도록 만드는 것입니다.

LangChain

LangChain 에서 Agent 는 보통 아래와 같은 loop 를 자동으로 수행합니다.

1. 질문을 받아서 어떤 tool 을 써야 할지 결정
2. 선택된 tool 을 호출하고 결과 받음
3. 그 결과를 바탕으로 다시 생각해서 다음 action 결정
4. 필요하면 반복, 아니면 최종 답 생성