새로워지기/마흔의 생활코딩

LangGraph - 1. 개요

청춘만화 2024. 5. 9. 14:21

*지극히 주관적 개요:
Devika, Crew AI, phidata를 사용하면서 또는 사용할수록 강하게 느껴지는 점이 하나 있다면 지금 중요한 것은 ’ 프롬프트나 RAG가 아니라 얼마나 Agentic 한 LLM 애플리케이션을 얼마나 Locally 하게 구성할 수 있는가 ‘라고 생각한다. 물론 이때 구성의 주체는 operater가 아니라 End-User이다. 예컨대 종종 우리는 이런 말을 하곤 한다.

몸이 열개라도 모자라..

딱 -이럴때 쓸 수 있는 애플리케이션을 말하는 것이다.

*물론, 프롬프트나 RAG가 중요하지 않다는 것이 아니다. 다만 이렇게 급속히 그것도 규모의 경제로 바뀌는 상황에서 과연 내가 또는 우리 조직이 이 시장에서 살아남기 위해 집중해야 할 또는 집중할 수 있는 부분이 무엇인가에 대한 부분을 고민했을 때 난 그들과 같은 빅브라더나 넉넉한 캐시를 보유하고 있지 못하다는 측면에서 우선순위 또는 상대적인 측면에서 그렇다는 것이다.

그래서 기본기를 조금 더 다지고자.. 다시 LangGraph부터 틈틈히- 한 올 한 올, 차근차근!




LangGraph - 1. 개요 

👉   intro
Agent Executor
Chat Executor
Agent Supervisor
Hierarchical Agent Teams
Multi-agent Collaboration

 
 


LangGraph

'LangChain'를 사용하여 사용자 정의 에이전트를 더 쉽게 구축하고 단순한 체인 이상의 것을 구축할 수 있도록 하자는 취지로 만들어졌다. 
LangGraph는 제품에서 다이어그램 화할 수 있다면 엔지니어링에서도 정확하게 만들 수 있다는 아이디어를 기반으로 간단한 Graph로의 접근 방식을 사용하고 있다. 
 

먼저 구성 요소부터 하면, LangGraph는 노드와, 상태, 에지, 그래프로 구성된다. 

Node
수행하고자 하는 작업 내용으로 각 노드들은 서로 다른 다양한 작업들을 보유한다
  - Function (e.g., an external tool) 
  - LCEL Runnable 실행 가능(e.g., a RAG chain) 

Edge
노드와 노드 사이의 연결하여 각 노드가 가지고 있는 정보를 통해 커뮤니케이션하는 역할 수행
  - paths to take 가야 할 길(올바른 경로)
  - where to pass our state object next 다음에 상태 개체를 전달할 위치
  - the agent scratch Pad : what that is really tracking is it's tracking the state

State
각 노드가 수행한 작업들을 기억(상태 기록)하는 기능
이를테면, 얼마나 많은 이메일을 보냈는지?, 어떤 이메일을 확인했는지?, 어떤 초안을 읽었는지?, 어떤 이메일을 작성했는지?

Graph
노드와 엣지의 모음

 
LangGraph는 Agent 런타임에 자주 필요한 '주기적 그래프 workflows containing cycles'를 더 잘 생성할 수 있도록 LangChain 위에 구축된 모듈이다. 따라서 주요 용도는 앞서 언급했듯이 'LLM 애플리케이션'에 Agent를 호출하는 '주기 Cycles'을 추가하여 다음 수행할 작업을 지정하는 것이다. 이를테면 어떤 상태일때 특정 '체인'을 실행하거나 특정 '도구'로 이동하는지, 그리고 어떻게 다시 돌아올 것인지, 그리고 그래프나 시퀀스를 언제 완성하거나 끝내야 하는지를 결정하게 된다. 요컨데 LangGraph는 상태를 셰퍼딩하며 작업을 수행하도록 되어 있다. 
 
특정 언어나 프로그램이 아니더라도 모든 프로그래밍 그 차체는 '워크'와 '프로세스'를 갖는다. 그리고 프로세스의 '방향'은 프로세스 내 워크의 상태(실행 여부나 그 상태) 정보를 기반으로 이뤄지는데 이러한 일련의 내용은 기본적으로 scratch 코딩과 같이 그래프( workflows, diagram)형태로 표현될 수 있다. scratch 뿐만 아니라 aws workflow 나 graphql 또한 노드와 엣지 개념으로 구성되었는데 LangChain의 LangGraph도 이와 같은 아이디어로 만들어진게 아닌가 하는 생각이다.

 

지극히 문과적이고 개인적이고 또한 주관적 측면에서, 

LangGraph은
다양한 색(state)으로 표현된 점(node)이
방향(sign)을 갖은 선(edge)과 만나
구성된 다이어그램(graph)이다.
@normalstory

 

점(node)과 선(edge)으로 표현되는 하나의 다이어그램(graph)에 색(state)과 방향(sign) 정보를 기반으로 프로세스(flow)를 형성하는, 말 그대로 '하나의 워크플로(workflows)'라는 생각이 든다.
 
 

 

그럼 랭그래프를 구성하는 요소들에 대해 코드 베이스로 조금 더 구체적으로 살펴보자.

StateGraph

에이전트의 수명 주기 전반에 걸쳐 어떤 방식으로든 상태가 유지되도록 하는 역할을 한다. StateGraph는 그래프 Graph를 나타내는 클래스이다. StateGraph class는 상태 정의를 전달하기 위해 먼저 이 초기화 과정을 거친다. StateGraph는 central state 객체로서 작업이 수행되는 과정에서 그래프의 '노드'에 의해 업데이트되고 이 노드는 이 상태의 속성을 '키-값' 형태로 반환하게 된다.
여기서 속성의 업데이트는 두 가지 방식으로 이뤄질 수 있는데,

  1. 노드가 속성의 새 값을 반환하도록 하려는 경우, 속성을 '완전히 재정의'하는 방식이 있다. 그리고
  2. 속성의 값을 추가하는 말 그대로 '업데이트'하는 방식이 있는데 이 경우 속성이 수행된 작업의 목록(또는 이와 유사한 것)인 경우 노드가 수행한 새로운 작업을 반환하고 해당 작업이 속성에 자동으로 추가되도록 하려는 경우 사용될 수 있다. 

이 과정을 한번 더 서술히면, LangGraph는 말 그대로 Graph이긴 Graph인데, StatefulGraph이다. 따라서 이 '그래프'는 각 노드에 전달되는 '상태 개체'에 의해 '매개 변수화'된다. 그러면 앞서 설명한 바와 같이 각 노드는 해당 상태를 업데이트하는 연산으로써 '키-값' 형태 값을 반환하고 이때 이러한 연산은 1)상태의 특정 속성을 (재)설정하거나(예: 기존 값 덮어쓰기), 2)기존 속성에 추가할 수도 있다. 이러한 (재)설정 또는 추가 여부는 그래프를 구성하는 상태 객체에 주석 annotating을 달아 표시하게 된다. 
 

Nodes

그래프를 작성할 때 추가되는 노드는 StateGraph를 생성한 후 graph. add _node(이름, 값) 구문을 사용하여 추가할 수 있다. 'name' 매개변수는 에지를 추가할 때 노드를 참조하는 데 사용할 문자열이어야하고 'value' 매개변수는 호출할 함수 또는 실행 가능한 LCEL이어야 한다.
여기서 함수(또는 LCEL)는 상태 객체와 동일한 형식의 dictionary을 입력으로 받아들이고 업데이트할 상태 객체의 키가 포함된 dictionary을 출력할 수 있어야 한다. 이때 노드는 다양한 형태(역할)로 정의될 수 있는데 하나의 체인처럼 생각할 수 있고, 실제로도 실행 가능하기 때문에 하나의 도구가 되거나 체인의 역할을 할 수도 있다. 
예컨데

  1. 에이전트 노드로 정의되는 경우, 수행해야할 할 작업을 수행(또는 결정) 되고
  2. 도구를 호출하는 함수 노드로 정의되는 경우, '에이전트 노드'가 작업 수행 여부를 결정한 후 '도구 함수 노드'에게 작업을 요청을 하면 이 '도구 함수 노드'가 해당 작업을 실행하는 역할을 수행하게 된다.

 

Edges

엣지는 기본적으로 모든 노드와 노드를 연결 wires하는 역할을 한다. 그리고 그 형태는 두 가지 정도로 구성할 수 있는데 

  1. Normal Edge, 도구가 호출된 후에 항상 상담원에게 돌아가 다음에 수행할 작업을 결정하는 엣지와 
  2. Conditional Edge, 여러 경로 중 하나가 선택될 수 있는 조건부 노드가 있다. 참고로 '경로 선택'은 LLM이 결정하기 때문에 해당 노드가 실행되기 전까지는 알 수 없다. 그리고 조건부 엣지를 만들기 위해서는 세가지 구성 요소가 필요한데 
    • 노드의 출력을 살펴보고 다음에 수행할 작업을 결정하는, The upstream node
    • 다음에 호출할 노드를 결정하기 위한 문자열을 반환(출력)하는, 함수(Function)
    • 앞서 함수가 출력(키-값)을 다른 노드와 Mapping 하는 요소가 필요하다. 이때 키는 함수가 반환할 수 있는 가능한 값이어야 하고 값은 해당 값이 반환될 경우 이동할 노드의 이름이어야 한다.

 

Compiling the Graph

그래프를 컴파일을 하기 전에 'entry point'역할을 하는 노드를 지정하고 'end point'를 세팅한 다음, LangChain runnable처럼 호출 invoke하거나 스트림 stream 하는 형태로 그래프를 실행할 수 있다.
 

Agent Executor

LangGraph은 LangChain를 기반으로 만들어졌기 때문에 LangChain과 동일하게 input, chat_history, intermediate_steps(그리고 가장 최근의 에이전트 결과를 나타내는 agent_outcome) 등으로  Agent Executor를 구성할 수 있다. 
 
 
 
 
 

다음은 기본적인 Agent Executor, Chat Executor 예제와 Agent Supervisor, Hierarchical Agent Teams, Multi-agent Collaboration에 대한 실습 코드를 통해 조금 더 구체적으로 들여다 볼 예정이다.