Vertex AI + LangChain で RAG 構築チュートリアル｜Vector Search・Gemini

Vertex AI Vector Search + LangChain + Gemini で本格 RAG (Retrieval-Augmented Generation) を構築するチュートリアルです。 Embedding 生成、Chunking、ANN 検索、Gemini への注入まで実装例で網羅します。

アーキテクチャ

Documents (PDF/MD/HTML)
       |
    Parse (Document AI / Unstructured)
       |
    Chunking (512-1024 tok, overlap 100)
       |
    Embedding (text-embedding-005)
       |
       v
Vertex AI Vector Search Index
       ^
       | (検索)
User Query → Embedding → Vector Search → Top-K → Gemini Pro → Answer

Step 1: ドキュメント前処理

# pip install langchain langchain-google-vertexai google-cloud-aiplatform
from langchain.text_splitter import RecursiveCharacterTextSplitter
from langchain_community.document_loaders import PyPDFLoader

loader = PyPDFLoader("doc.pdf")
docs = loader.load()

splitter = RecursiveCharacterTextSplitter(
    chunk_size=1024,
    chunk_overlap=100,
    separators=["\n\n", "\n", "。", "！", "？", " "],
)
chunks = splitter.split_documents(docs)
print(f"{len(chunks)} chunks")

Step 2: Embedding 生成

from langchain_google_vertexai import VertexAIEmbeddings

embeddings = VertexAIEmbeddings(model_name="text-embedding-005")

texts = [chunk.page_content for chunk in chunks]
vectors = embeddings.embed_documents(texts)
print(f"Vector dim: {len(vectors[0])}")  # 768

Step 3: Vertex AI Vector Search Index 作成

from google.cloud import aiplatform as ai

ai.init(project="my-project", location="asia-northeast1")

# Embedding を JSONL 形式で GCS にアップロード
# {"id": "doc1-chunk1", "embedding": [0.1, 0.2, ...]}

# Index 作成
index = ai.MatchingEngineIndex.create_tree_ah_index(
    display_name="my-rag-index",
    contents_delta_uri="gs://my-bucket/embeddings/",
    dimensions=768,
    approximate_neighbors_count=10,
    distance_measure_type="DOT_PRODUCT_DISTANCE",
)

# Endpoint デプロイ
endpoint = ai.MatchingEngineIndexEndpoint.create(
    display_name="my-rag-endpoint",
    public_endpoint_enabled=True,
)
endpoint.deploy_index(index=index, deployed_index_id="my_rag_v1")

Step 4: 検索 + Gemini 回答生成

from langchain_google_vertexai import ChatVertexAI
from langchain.prompts import ChatPromptTemplate

llm = ChatVertexAI(model_name="gemini-2.0-pro-001", temperature=0.3)

def search_and_answer(query: str) -> str:
    # 1. Embedding 化
    query_emb = embeddings.embed_query(query)

    # 2. Vector Search
    response = endpoint.find_neighbors(
        deployed_index_id="my_rag_v1",
        queries=[query_emb],
        num_neighbors=5,
    )
    top_chunks = [chunks[int(n.id.split("-chunk")[1])] for n in response[0]]

    # 3. Gemini で回答生成
    context = "\n\n".join([c.page_content for c in top_chunks])
    prompt = ChatPromptTemplate.from_template("""
以下のコンテキストに基づいてユーザーの質問に答えてください。
コンテキストにない情報は「分かりません」と回答してください。

# コンテキスト
{context}

# 質問
{query}

# 回答
""")
    chain = prompt | llm
    result = chain.invoke({"context": context, "query": query})
    return result.content

# 利用
print(search_and_answer("休暇申請の方法を教えてください"))

Step 5: ハイブリッド検索 (Vector + Keyword)

from langchain.retrievers import EnsembleRetriever
from langchain_community.retrievers import BM25Retriever

# Keyword 検索
bm25 = BM25Retriever.from_documents(chunks)

# Vector 検索 (Vertex AI Vector Search ラッパー)
from langchain_google_vertexai import VectorSearchVectorStore
vector_retriever = VectorSearchVectorStore.from_components(
    project_id="my-project",
    region="asia-northeast1",
    gcs_bucket_name="my-bucket",
    index_id="my-rag-index",
    endpoint_id="my-rag-endpoint",
).as_retriever()

# アンサンブル (重み付け)
ensemble = EnsembleRetriever(
    retrievers=[vector_retriever, bm25],
    weights=[0.7, 0.3],
)
results = ensemble.invoke("休暇申請")

Step 6: 評価

• RAGAS / TruLens / DeepEval で精度評価
• 主要指標: Faithfulness (幻覚しない)、Answer Relevance、Context Precision/Recall
• Vertex AI Gen AI Evaluation Service (2024〜) でマネージド評価

本番運用

• 新ドキュメント追加 → 自動 Embedding + Index 更新 (Cloud Functions + Pub/Sub)
• Cloud Run で API サービス化
• Vertex AI Agent Builder で UI 構築 (Optional)
• Citation (引用元) を回答に含める
• Safety Filter 設定 (BLOCK_MOST)
• Cloud Logging で全 Query / Response 保存 (品質改善)

料金例 (1000 ドキュメント, 月 10K query)

※ Google Cloud、Gemini は Google LLC、LangChain は LangChain, Inc. の所有物です。