Sedang mengikuti modul ini?0 daripada 17 selesai
Modul 11 · Halaman 12 daripada 20 · 10 bahagian

LangChain dengan Penyedia LLM

Mengapa menggunakan beberapa penyedia, penyedia dan kelas yang disokong LangChain, antara muka model sembang yang dikongsi serta contoh OpenAI, Anthropic, Gemini, Ollama dan Hugging Face.

04Model LLM dan Integrasi03Menyediakan LangChain (Persekitaran dan Pemasangan)05Prompt dan Prompt Template
11.1

Apa itu Penyedia LLM?

  • Penyedia LLM menawarkan model bahasa berkuasa melalui API atau penempatan setempat.
  • LangChain menyokong pelbagai penyedia LLM dengan antara muka bersatu.
  • Anda boleh bertukar antara penyedia dengan mudah tanpa mengubah logik aplikasi.
  • Penyedia popular termasuk OpenAI, Anthropic, Google, Cohere, Hugging Face dan model setempat seperti Llama (melalui Ollama).
11.2

Mengapa Menggunakan Beberapa Penyedia LLM?

  • Pilih model terbaik untuk kes penggunaan anda.
  • Bandingkan prestasi, kos dan kelajuan.
  • Tukar penyedia dengan mudah menggunakan LangChain.
  • Gunakan model setempat untuk privasi dan penjimatan kos.
  • Beralih ke penyedia lain jika satu gagal.
  • Cuba pelbagai model untuk hasil lebih baik.
  • Menyokong LLM berasaskan awan dan setempat.
11.3

Penyedia LLM Popular yang Disokong LangChain

PenyediaContoh ModelCara Guna
OpenAIGPT-4, GPT-3.5ChatOpenAI
AnthropicClaude 3, Claude 2ChatAnthropic
GoogleGemini Pro, Gemini FlashChatGoogleGenerativeAI
CohereCommand R, Command R+ChatCohere
Hugging FaceModel sumber terbukaHuggingFacePipeline
Ollama (Setempat)Llama 3, Mistral, PhiOllama
Azure OpenAIGPT-4 (Azure)AzureChatOpenAI
AWS BedrockClaude, Llama, etc.BedrockChat
11.4

Antara Muka Bersatu dalam LangChain

BaseChatModelCommon interface
ChatOpenAI
ChatAnthropic
ChatGoogleGenerativeAI
Kaedah Samainvoke(), stream(), batch()
python
from langchain_core.language_models import BaseChatModel
11.5

Contoh 1: OpenAI (GPT-4)

python
from langchain_openai import ChatOpenAI

llm = ChatOpenAI(model="gpt-4", temperature=0.7)

response = llm.invoke("Explain microservices in simple words.")
print(response.content)
11.6

Contoh 2: Anthropic (Claude)

python
from langchain_anthropic import ChatAnthropic

llm = ChatAnthropic(model="claude-3-sonnet-20240229",
                    temperature=0.7)

response = llm.invoke("What is LangChain?")
print(response.content)
11.7

Contoh 3: Google Gemini

python
from langchain_google_genai import ChatGoogleGenerativeAI

llm = ChatGoogleGenerativeAI(
    model="gemini-pro",
    temperature=0.7
)
response = llm.invoke("List key features of LangChain.")
print(response.content)
11.8

Contoh 4: LLM Setempat dengan Ollama

python
from langchain_community.llms import Ollama

llm = Ollama(model="llama3")

response = llm.invoke("Explain RAG in simple words.")
print(response)
11.9

Contoh 5: Model Hugging Face

python
from langchain_huggingface import HuggingFacePipeline
from transformers import pipeline

pipe = pipeline("text-generation",
                model="mistralai/Mistral-7B-Instruct-v0.2",
                max_new_tokens=200)

llm = HuggingFacePipeline(pipeline=pipe)

response = llm.invoke("What is Docker?")
print(response)
11.10

Pengajaran Utama

  • LangChain menyokong pelbagai penyedia LLM.
  • Gunakan antara muka bersatu untuk bertukar antara model.
  • Pilih model yang sesuai mengikut kes penggunaan (kos, kelajuan, ketepatan).
  • Anda boleh menggunakan model awan (OpenAI, Claude, Gemini) atau model setempat (Ollama, Hugging Face).
  • Mudah mengintegrasi penyedia baharu dengan LangChain.
  • Membantu membina aplikasi AI yang fleksibel dan tahan masa depan.
  • Sentiasa uruskan kunci API dan had model dengan betul.