Azure RAG パターン実装ガイド｜Chunking・Embedding・Azure AI Search・Hallucination 削減

RAG (Retrieval-Augmented Generation) は LLM の応答生成時に外部知識ベースから関連情報を検索・Prompt に含める手法で、Azure AI Foundry の中核パターンです。 Fine-tuning より低コスト・データ更新容易・Source 引用可能・Hallucination 削減という利点があり、AI-103 試験の最重要トピック。 本記事では、5 ステップパイプライン・Chunking 戦略・Azure AI Search・Hallucination 削減を網羅的に整理します。

RAG の基本

LLM 単独 (Closed-book) では『学習時点までの一般知識』しか答えられないが、RAG (Open-book) で組織固有データ・最新ニュースなどに基づく回答が可能。

代表的なユースケース

• 社内 Q&A Bot (社内ドキュメント・規程参照)
• Customer Support (FAQ・製品マニュアル参照)
• Legal Research (判例・契約書参照)
• Medical Q&A (論文・ガイドライン参照)
• E-commerce 商品推薦 (商品カタログ参照)

RAG の利点

• Fine-tuning より低コスト・高速
• データ更新が容易 (Re-index のみ)
• Source 引用可能で説明責任
• Hallucination 削減

5 ステップ RAG パイプライン

Azure AI Search の Vector Search

Azure AI Search は RAG の Vector Store として最も推奨される Azure ネイティブサービス。

主要機能

• Vector Search: HNSW Algorithm で高速 ANN 検索 (最大数億 Vector 対応)
• Hybrid Search: Vector + Full-text + BM25 で Recall 向上
• Semantic Ranking: 再順位付け (Microsoft 独自 BERT モデル)
• Filter: Metadata Field でフィルタリング
• Faceted Navigation: カテゴリ別集計
• Integrated Vectorization: Document Ingestion 時に Embedding 自動生成
• Index Replicas + Partitions: 高可用 + スケール

Pricing Tier

Chunking 戦略

Chunking は RAG 品質を左右する最重要設計。

推奨設計

• 一般 Document → 500 トークン + 100 Overlap + Recursive Character
• 長文記事 → 1,000 トークン + 200 Overlap
• 構造化 PDF → Document-structure-aware Chunking

Overlap (50-100 トークン重複) で文脈損失防止。本番運用では複数戦略を A/B Test で比較最適化。

Embedding モデル選定

Dimension Reduction (例: 3-large の 3,072 → 1,024 次元) で精度をやや犠牲にコスト削減も可能。 Multi-lingual 要件で多言語特化モデル (multilingual-e5-large) を選ぶケースも。 本番運用では Embedding モデルを途中変更すると全 Vector を Re-generate する必要、初期選定が極めて重要。

Retrieval 精度向上テクニック

1. Hybrid Search: Vector + Full-text + BM25 の Reciprocal Rank Fusion で総合 Score (10-30% 精度向上)
2. Semantic Ranking: Top 50 取得 → Microsoft Semantic Ranker で再順位付け → Top 5 → LLM へ
3. Query Rewriting: LLM で複数バリエーション生成 → 並列検索 → 結果統合 (HyDE パターン)
4. Multi-step Retrieval: 1 回目検索 → Result から追加 Query 生成 → 2 回目検索 (Agent パターン)
5. Filter: Metadata Field でドメイン絞り込み (Date Range・Author 等)
6. Re-ranker: Cohere Rerank API・Cross-encoder モデル
7. Chunk Enhancement: Heading・Summary・Question を Chunk に追加して Embedding 多様化

Hallucination 削減

Hallucination (LLM が事実でない応答を自信満々に生成する現象) 削減テクニック:

1. Grounding: Prompt で『提供された Context のみに基づき回答・Context にない情報は "わかりません" と回答』指示
2. Source Citation: Prompt で『回答には Source ID を付与』指示
3. Confidence Score: LLM に応答の確信度を出力させる
4. Groundedness Detection: Azure AI Foundry の組み込みメトリクスで自動検証
5. Multi-step Reasoning: Chain of Thought で推論プロセスを明示化
6. RAG 結果の検証: 生成後に LLM に Self-check させる
7. Temperature を 0 に近づける: 決定的応答で創造的捏造を抑制

Vector Store の選択肢

実装例 (Python + Azure SDK)

from openai import AzureOpenAI
from azure.search.documents import SearchClient
from azure.identity import DefaultAzureCredential

# Azure OpenAI client (Managed Identity)
client = AzureOpenAI(
    azure_endpoint='https://your-openai.openai.azure.com',
    azure_ad_token_provider=DefaultAzureCredential()
)

# Azure AI Search client
search_client = SearchClient(
    endpoint='https://your-search.search.windows.net',
    index_name='documents',
    credential=DefaultAzureCredential()
)

def rag_query(user_query: str) -> str:
    # 1. Embedding generation
    embedding = client.embeddings.create(
        input=user_query,
        model='text-embedding-3-large'
    ).data[0].embedding

    # 2. Vector search (Hybrid)
    results = search_client.search(
        search_text=user_query,
        vector_queries=[{
            'vector': embedding,
            'k_nearest_neighbors': 5,
            'fields': 'content_vector'
        }],
        select=['content', 'source'],
        query_type='semantic',
        semantic_configuration_name='default'
    )

    # 3. Context construction
    context = '\n\n'.join([f"[{r['source']}] {r['content']}" for r in results])

    # 4. Generation with grounding
    response = client.chat.completions.create(
        model='gpt-4o',
        messages=[
            {'role': 'system', 'content': '''You are a helpful assistant.
Answer ONLY based on the provided context. If the answer is not in the context, say "I do not know".
Always cite sources using [source_id].'''},
            {'role': 'user', 'content': f'Context:\n{context}\n\nQuestion: {user_query}'}
        ],
        temperature=0
    )

    return response.choices[0].message.content

運用ベストプラクティス

1. Document Ingestion は Azure AI Document Intelligence で構造化抽出
2. Chunking は Recursive Character + Overlap 100 トークン
3. Embedding は text-embedding-3-large (高精度) または small (コスト)
4. Azure AI Search Vector + Hybrid Search + Semantic Ranking
5. Grounding Prompt で Hallucination 抑制
6. Source Citation で説明責任
7. Azure AI Foundry の Groundedness Detection で自動評価
8. Prompt Flow + Evaluation で継続改善
9. Index 更新パイプライン自動化 (Pipeline + Notebook)
10. Managed Identity + Private Endpoint でセキュア

関連認定試験

• AI-103 (Developing AI Apps and Agents): ドメイン 2 で深く問われる本領域の本命認定
• AI-901 (AI Fundamentals、2026-06 GA): RAG 基礎
• AZ-204 (Developer Associate): 開発者視点での実装
• SC-100 (Cybersecurity Architect Expert): RAG セキュリティ
• DP-700 (Fabric Data Engineer): RAG 用データ準備
• DP-420 (Cosmos DB Specialty): Cosmos DB Vector RAG

よくある質問

本記事の技術情報は Azure AI Search RAG Documentation およびAzure AI Foundry Documentation に基づいています。 本記事は Microsoft Corporation の公式商品ではなく、いかなる提携・後援関係もありません。 Microsoft、Azure、Azure OpenAI、Azure AI Search は Microsoft group of companies の商標です。OpenAI は OpenAI, Inc. の商標です。 情報は 2026 年 5 月 24 日時点の公式公開資料に基づきます。最新情報は必ず公式ページをご確認ください。