Model LLM dan Integrasi

Apa itu LLM, penyedia yang disokong LangChain, cara lapisan integrasi berfungsi serta contoh untuk OpenAI, Anthropic dan model Ollama setempat.

05Prompt dan Prompt Template 11LangChain dengan Penyedia LLM 03Menyediakan LangChain (Persekitaran dan Pemasangan)

4.1

Apa itu LLM?

Model Bahasa Besar (LLM) ialah model AI yang dilatih pada data teks yang sangat besar.
Ia boleh memahami, menjana dan memanipulasi bahasa manusia.
Contoh: OpenAI (GPT), Anthropic (Claude), Google (Gemini), Meta (Llama), dsb.
LangChain menyediakan integrasi mudah dengan pelbagai penyedia LLM melalui antara muka bersatu.

4.2

Penyedia LLM yang Disokong dalam LangChain

OpenAI (GPT-3.5, GPT-4, GPT-4o)
Anthropic (Claude)
Google (Gemini)
HuggingFace (model sumber terbuka seperti Llama)
Ollama (LLM setempat)
Cohere
Azure OpenAI
dan banyak lagi melalui integrasi komuniti

4.3

Seni Bina Integrasi

Aplikasi Anda

LangChainAntara muka LLM

OpenAIGPT models

AnthropicClaude models

GoogleGemini models

HuggingFaceModel sumber terbuka

OllamaModel setempat

ResponsTeks, token, dsb.

4.4

Contoh Integrasi OpenAI

python

from langchain_openai import ChatOpenAI

# Create LLM instance
llm = ChatOpenAI(
    model="gpt-3.5-turbo",
    temperature=0.7,
    api_key="your_api_key"
)

# Simple invocation
response = llm.invoke("Explain LangChain in simple words.")
print(response.content)

4.5

Contoh Integrasi Anthropic (Claude)

python

from langchain_anthropic import ChatAnthropic

llm = ChatAnthropic(
    model="claude-3-sonnet-20240229",
    temperature=0.7,
    api_key="your_api_key"
)

response = llm.invoke("What is LangChain?")
print(response.content)

4.6

Menggunakan LLM Setempat dengan Ollama

python

from langchain_community.llms import Ollama

llm = Ollama(
    model="llama3",
    base_url="http://localhost:11434"
)

response = llm.invoke("Tell me a joke.")
print(response)

4.7

Parameter Utama

Parameter	Penerangan
model	Nyatakan nama model LLM
temperature	Mengawal kerawakan (0.0 - 1.0)
api_key	Kunci API untuk penyedia
base_url	Diperlukan untuk model setempat (Ollama)
max_tokens	Bilangan token maksimum dalam respons
top_p	Parameter nucleus sampling
stop	Senarai jujukan henti