1. LangChain의 첫걸음

🎯 이 챕터에서 배울 것

• LangChain을 사용하여 언어 모델(LLM)과 챗 모델을 초기화하는 방법
• predict와 predict_messages의 차이점 이해하기
• PromptTemplate을 사용하여 동적으로 프롬프트를 생성하는 방법
• OutputParser를 사용하여 모델의 출력을 원하는 형식으로 변환하는 방법
• LangChain Expression Language (LCEL)을 사용하여 여러 구성 요소를 연결(chain)하는 방법

---

LLM과 Chat Model

🎯 이번 단계에서 배울 것

• LangChain의 ChatOpenAI 모델을 초기화하는 방법
• predict 메소드를 사용하여 간단한 질문에 대한 답변을 얻는 방법

📝 1단계: ChatOpenAI 모델 초기화 및 사용

전체 코드 (notebook.ipynb):

from langchain.chat_models import ChatOpenAI

chat = ChatOpenAI()

b = chat.predict("How many planets are there?")

b

🔍 코드 상세 설명

1. ChatOpenAI란?
ChatOpenAI는 LangChain 라이브러리에서 제공하는 구성 요소로, OpenAI의 GPT 모델(예: GPT-3.5, GPT-4)과 상호작용할 수 있게 해주는 다리 역할을 합니다. 이 클래스를 사용하면 복잡한 API 호출 없이 Python 코드 내에서 직접 대화형 AI 모델을 사용할 수 있습니다.

• 왜 사용하는가?: OpenAI의 강력한 언어 모델을 우리 애플리케이션에 쉽게 통합할 수 있습니다.
• 어떻게 작동하는가?: ChatOpenAI()를 호출하면, 내부적으로 OpenAI API에 연결할 준비를 합니다. 이 때, 시스템에 OPENAI_API_KEY 환경 변수가 설정되어 있어야 합니다.

2. .predict() 메소드
.predict()는 가장 간단하게 모델에게 질문을 던지고 답변(문자열)을 받는 방법입니다.

• 사용법: chat.predict("질문 내용") 형태로 사용하며, 문자열을 입력받아 문자열을 반환합니다.

비교 예시:

# Before (LangChain 사용 전)
# import openai
# openai.Completion.create(model="text-davinci-003", prompt="...")
# 위와 같이 복잡한 API 호출이 필요했습니다.

# After (LangChain 사용 후)
chat = ChatOpenAI()
chat.predict("How many planets are there?")
# 단 두 줄로 모델의 응답을 받을 수 있습니다.

✅ 체크리스트

• langchain 라이브러리가 설치되었나요?
• OPENAI_API_KEY 환경 변수를 설정했나요?
• ChatOpenAI를 import하고 초기화했나요?
• predict 메소드로 질문을 보내고 결과를 확인했나요?

---

Predict Messages

🎯 이번 단계에서 배울 것

• SystemMessage, AIMessage, HumanMessage의 역할 이해하기
• predict_messages를 사용하여 더 복잡한 대화 맥락을 전달하는 방법

📝 1단계: 다양한 역할의 메시지 사용하기

전체 코드 (notebook.ipynb):

from langchain.chat_models import ChatOpenAI
from langchain.schema import HumanMessage, AIMessage, SystemMessage

chat = ChatOpenAI(temperature=0.1)

messages = [
    SystemMessage(
        content="You are a geography expert. And you only reply in {language}.",
    ),
    AIMessage(content="Ciao, mi chiamo {name}!"),
    HumanMessage(
        content="What is the distance between {country_a} and {country_b}. Also, what is your name?",
    ),
]

chat.predict_messages(messages)

🔍 코드 상세 설명

1. 메시지 타입: System, AI, Human

• SystemMessage: 모델의 역할이나 행동 방식을 지시하는 메시지입니다. 예를 들어, “너는 번역가야” 또는 “친절하게 대답해” 와 같은 지침을 내립니다.
• HumanMessage: 사용자가 입력하는 메시지입니다.
• AIMessage: AI 모델이 이전에 했던 응답을 나타냅니다. 대화의 흐름을 유지할 때 사용됩니다.

2. .predict_messages() 메소드
.predict()가 단순한 문자열 질문만 받는 것과 달리, .predict_messages()는 위에서 설명한 메시지 객체들의 리스트를 입력으로 받습니다. 이를 통해 모델에게 역할, 이전 대화 내용 등 더 풍부한 맥락을 전달하여 정교한 답변을 유도할 수 있습니다.

비교 예시:

# Before (predict)
# 단일 질문만 가능
chat.predict("What is the distance between Mexico and Thailand?")

# After (predict_messages)
# 역할 부여와 이전 대화 내용을 포함한 다중 메시지 전달 가능
messages = [
    SystemMessage(content="You are a geography expert."),
    HumanMessage(content="What is the distance between Mexico and Thailand?"),
]
chat.predict_messages(messages)

✅ 체크리스트

• SystemMessage, AIMessage, HumanMessage를 import 했나요?
• 세 가지 메시지 타입의 역할을 이해했나요?
• 메시지 리스트를 만들어 predict_messages에 전달해 보았나요?

---

Prompt Templates

🎯 이번 단계에서 배울 것

• PromptTemplate과 ChatPromptTemplate의 사용법
• 템플릿을 사용하여 동적으로 프롬프트를 만드는 방법

📝 1단계: 템플릿으로 프롬프트 생성하기

전체 코드 (notebook.ipynb):

from langchain.chat_models import ChatOpenAI
from langchain.prompts import ChatPromptTemplate

chat = ChatOpenAI(temperature=0.1)

template = ChatPromptTemplate.from_messages(
    [
        ("system", "You are a geography expert. And you only reply in {language}."),
        ("ai", "Ciao, mi chiamo {name}!"),
        (
            "human",
            "What is the distance between {country_a} and {country_b}. Also, what is your name?",
        ),
    ]
)

prompt = template.format_messages(
    language="Greek",
    name="Socrates",
    country_a="Mexico",
    country_b="Thailand",
)

chat.predict_messages(prompt)

🔍 코드 상세 설명

1. ChatPromptTemplate이란?
ChatPromptTemplate은 메시지 목록의 템플릿을 만드는 도구입니다. {variable}과 같은 플레이스홀더를 사용하여 프롬프트의 일부를 동적으로 변경할 수 있습니다.

• 왜 사용하는가?: 매번 SystemMessage, HumanMessage 객체를 수동으로 만들 필요 없이, 정해진 틀에 변수만 바꿔 끼워넣어 효율적으로 프롬프트를 생성할 수 있습니다.

2. .from_messages()와 .format_messages()

• .from_messages(): 메시지 역할과 템플릿 문자열의 튜플 리스트를 받아 템플릿 객체를 생성합니다.
• .format_messages(): 생성된 템플릿 객체에 실제 변수 값을 전달하여 최종 메시지 리스트를 만듭니다.

시각화:

┌──────────────────────────────┐      ┌──────────────────────────┐      ┌────────────────────────────┐
│   ChatPromptTemplate         │      │     .format_messages()   │      │      Final Messages        │
│                              │      │                          │      │                            │
│ ("system", "...{lang}...")   │ +    │  lang="Greek", ...       │  ->  │ [SystemMessage(..Greek..)] │
│ ("human", "...{country}...") │      │  country="Mexico"        │      │ [HumanMessage(..Mexico..)] │
└──────────────────────────────┘      └──────────────────────────┘      └────────────────────────────┘

✅ 체크리스트

• ChatPromptTemplate을 import 했나요?
• from_messages를 사용해 템플릿을 만들었나요?
• format_messages에 변수를 전달하여 최종 프롬프트를 생성했나요?

---

Output Parser와 LCEL

🎯 이번 단계에서 배울 것

• BaseOutputParser를 상속받아 커스텀 파서를 만드는 방법
• LangChain Expression Language (LCEL)의 파이프(|) 연산자 사용법

📝 1단계: 출력 파서 정의 및 체인 연결

전체 코드 (notebook.ipynb):

from langchain.chat_models import ChatOpenAI
from langchain.prompts import ChatPromptTemplate
from langchain.schema import BaseOutputParser

class CommaOutputParser(BaseOutputParser):
    def parse(self, text):
        items = text.strip().split(",")
        return list(map(str.strip, items))

chat = ChatOpenAI(temperature=0.1)

template = ChatPromptTemplate.from_messages(
    [
        (
            "system",
            "You are a list generating machine. Everything you are asked will be answered with a comma separated list of max {max_items} in lowercase. Do NOT reply with anything else.",
        ),
        ("human", "{question}"),
    ]
)

# LCEL을 사용한 체인 연결
chain = template | chat | CommaOutputParser()

chain.invoke({"max_items": 5, "question": "What are the pokemons?"})

🔍 코드 상세 설명

1. BaseOutputParser
모델의 출력(주로 문자열)을 우리가 원하는 형태(예: 리스트, JSON)로 변환하는 역할을 합니다. BaseOutputParser를 상속하고 parse 메소드를 구현하여 커스텀 파서를 만들 수 있습니다.

• CommaOutputParser: 이 예제에서는 쉼표로 구분된 문자열을 Python 리스트로 변환하는 파서를 만들었습니다.

2. LangChain Expression Language (LCEL)
LCEL은 LangChain의 여러 구성 요소를 | (파이프) 연산자로 쉽게 연결할 수 있게 해주는 강력한 기능입니다. 데이터가 왼쪽에서 오른쪽으로 흐르며 각 단계를 거칩니다.

동작 흐름:

1. `chain.invoke`에 딕셔너리 전달
   {"max_items": 5, "question": "..."}
      |
      V
2. `template`이 딕셔너리를 받아 프롬프트(메시지 리스트) 생성
      |
      V
3. `chat` 모델이 프롬프트를 받아 응답(문자열) 생성
   "pikachu, charizard, bulbasaur, ..."
      |
      V
4. `CommaOutputParser`가 문자열을 받아 최종 결과(Python 리스트) 반환
   ['pikachu', 'charizard', 'bulbasaur', ...]

✅ 체크리스트

• BaseOutputParser를 상속하여 나만의 파서를 만들었나요?
• | 연산자를 사용하여 template, chat, parser를 연결했나요?
• chain.invoke()를 사용하여 전체 체인을 실행했나요?

---

Chaining Chains

🎯 이번 단계에서 배울 것

• 여러 개의 체인을 하나로 연결하는 방법
• 스트리밍 출력을 처리하는 방법

📝 1단계: 두 개의 체인 연결하기

전체 코드 (notebook.ipynb):

from langchain.chat_models import ChatOpenAI
from langchain.prompts import ChatPromptTemplate
from langchain.callbacks import StreamingStdOutCallbackHandler

chat = ChatOpenAI(
    temperature=0.1,
    streaming=True,
    callbacks=[
        StreamingStdOutCallbackHandler(),
    ],
)

# 첫 번째 체인: 요리 종류를 받아 레시피를 생성
chef_prompt = ChatPromptTemplate.from_messages(
    [
        ("system", "You are a world-class international chef..."),
        ("human", "I want to cook {cuisine} food."),
    ]
)
chef_chain = chef_prompt | chat

# 두 번째 체인: 레시피를 받아 채식주의자용으로 변경
veg_chef_prompt = ChatPromptTemplate.from_messages(
    [
        ("system", "You are a vegetarian chef..."),
        ("human", "{recipe}"),
    ]
)
veg_chain = veg_chef_prompt | chat

# 두 체인 연결
final_chain = {"recipe": chef_chain} | veg_chain

final_chain.invoke({"cuisine": "indian"})

🔍 코드 상세 설명

1. StreamingStdOutCallbackHandler
모델이 응답을 생성할 때, 전체 응답이 완료될 때까지 기다리는 대신 단어(토큰)가 생성될 때마다 실시간으로 출력해주는 콜백 핸들러입니다. 사용자 경험을 향상시킬 수 있습니다.

2. 체인 연결하기
LCEL을 사용하면 한 체인의 출력을 다른 체인의 입력으로 전달할 수 있습니다.

동작 흐름:

1. `final_chain.invoke`에 {"cuisine": "indian"} 전달
      |
      V
2. `chef_chain`이 'indian'을 받아 레시피(AIMessage) 생성
      |
      V
3. {"recipe": AIMessage(...)} 형태의 딕셔너리가 `veg_chain`으로 전달됨
      |
      V
4. `veg_chain`이 레시피를 입력받아 최종적인 채식 레시피를 스트리밍으로 출력

✅ 체크리스트

• StreamingStdOutCallbackHandler를 사용하여 실시간 출력을 확인했나요?
• 두 개 이상의 프롬프트와 모델을 각각의 체인으로 만들었나요?
• 첫 번째 체인의 출력을 두 번째 체인의 입력으로 전달하도록 final_chain을 구성했나요?

---

Recap

🎯 이번 단계에서 배울 것

• 챕터 1에서 배운 모든 개념을 종합하여 하나의 체인을 완성하는 방법

📝 1단계: 최종 체인 완성 및 개선

전체 코드 (notebook.ipynb):

from langchain.chat_models import ChatOpenAI
from langchain.prompts import ChatPromptTemplate
from langchain.callbacks import StreamingStdOutCallbackHandler

# 1. 스트리밍 콜백을 포함한 챗 모델 초기화
chat = ChatOpenAI(
    temperature=0.1,
    streaming=True,
    callbacks=[
        StreamingStdOutCallbackHandler(),
    ],
)

# 2. 요리사 역할을 정의하는 프롬프트 템플릿
chef_prompt = ChatPromptTemplate.from_messages(
    [
        (
            "system",
            "You are a world-class international chef. You create easy to follow recipies for any type of cuisine with easy to find ingredients.",
        ),
        ("human", "I want to cook {cuisine} food."),
    ]
)

# 3. 요리사 체인
chef_chain = chef_prompt | chat

# 4. 채식주의자 요리사 역할을 정의하는 프롬프트 템플릿
veg_chef_prompt = ChatPromptTemplate.from_messages(
    [
        (
            "system",
            "You are a vegetarian chef specialized on making traditional recipies vegetarian. You find alternative ingredients and explain their preparation. You don't radically modify the recipe. If there is no alternative for a food just say you don't know how to replace it.",
        ),
        ("human", "{recipe}"),
    ]
)

# 5. 채식주의자 요리사 체인
veg_chain = veg_chef_prompt | chat

# 6. 두 체인을 연결한 최종 체인
final_chain = {"recipe": chef_chain} | veg_chain

# 7. 최종 체인 실행
final_chain.invoke({"cuisine": "indian"})

🔍 코드 상세 설명

이번 단계에서는 이전까지 배운 모든 것을 종합합니다.

• ChatOpenAI를 StreamingStdOutCallbackHandler와 함께 설정하여 실시간 응답을 받습니다.
• 각기 다른 역할을 가진 두 개의 ChatPromptTemplate (chef_prompt, veg_chef_prompt)을 정의합니다.
• 각 템플릿을 chat 모델과 | 연산자로 연결하여 두 개의 기본 체인(chef_chain, veg_chain)을 만듭니다.
• chef_chain의 출력을 veg_chain의 recipe 입력으로 매핑하여 final_chain을 구성합니다.
• invoke를 사용하여 전체 프로세스를 시작합니다.

이것이 바로 LangChain의 핵심 아이디어입니다. 작고 재사용 가능한 구성 요소(LLM, Prompt, Parser 등)를 만들어 LCEL을 통해 레고 블록처럼 조립하여 복잡한 애플리케이션을 구축할 수 있습니다.

💡 연습 과제

1. 번역 체인 추가하기: final_chain의 마지막에 번역가 역할을 하는 세 번째 체인을 추가하여, 최종 레시피를 스페인어로 번역하도록 만들어보세요.
2. 출력 파서 사용하기: chef_chain 다음에 CommaOutputParser와 유사한 파서를 추가하여, 레시피에서 재료 목록만 추출하도록 수정해보세요.

---

출처 : https://nomadcoders.co/fullstack-gpt