Azure AI Foundry 完全ガイド｜Hub/Project・Prompt Flow・Agent Service・Model Catalog・Fine-tuning

Azure AI Foundry (旧 Azure AI Studio) は、Microsoft の統合 AI 開発プラットフォーム。Azure OpenAI・Azure AI Search・Azure AI Speech・Azure AI Vision・Azure AI Document Intelligence・Phi モデル・OSS モデル (Mistral・Llama 3・Hugging Face モデル) を統合管理。Hub (組織レベル)・Project (チーム/プロジェクトレベル) の 2 層構造で、複数チームの AI 開発を一元管理。代表的機能: 1) Model Catalog (1,800+ モデル一覧)、2) Playground (モデル試行)、3) Prompt Flow (LLM ワークフロー設計)、4) Agent Service (AI エージェント構築)、5) Evaluation (評価メトリクス・LLM-as-a-Judge)、6) Fine-tuning (モデル微調整)、7) Content Safety (有害コンテンツフィルタリング)、8) Tracing (LLM 呼び出し追跡)。AI-103 試験の中核で、現代 Azure AI 開発の標準プラットフォームです。

Azure AI Foundry の Hub-Project 階層構造: Hub (組織レベル): 1 つの Hub が組織や部門単位、共通インフラ (Storage Account・Key Vault・Application Insights・Container Registry) を集約管理、Compute Resources・Model Deployment・Connection を Hub レベルで共有。Project (チーム/プロジェクトレベル): Hub 配下に複数 Project、チーム / プロジェクト単位の分離、Project 内で Prompt Flow・Agent・Evaluation を実行、Hub の共有リソースを継承。代表的な構成: 1 組織 → 1-2 Hub (本番・非本番分離) → 各 Hub 内に 10-50 Project (チーム別)。アクセス制御: Hub Owner・Project Manager・Project Contributor の RBAC ロールで階層管理。Microsoft Fabric Workspace の Hub-Workspace と類似設計、大規模組織の AI ガバナンスを統合管理可能です。

Prompt Flow は Azure AI Foundry の LLM ワークフロー設計ツール。DAG (Directed Acyclic Graph) で複雑な LLM パイプラインを Visual + Code で定義。代表的なフロー: 1) ユーザー Query → 2) Query 分類 (LLM Node)、3) RAG 検索 (Python Tool で Azure AI Search 呼び出し)、4) Prompt Template で LLM Prompt 構築 (LLM Node)、5) GPT-4o で応答生成、6) Output 整形 (Python Tool)。各 Node は LLM Tool・Python Tool・Prompt Tool・Embedding Tool・Connection Tool などから選択。代表的なユースケース: 1) RAG パイプライン (検索 + 生成)、2) Multi-step Agent (複雑判断)、3) Document Q&A、4) Chatbot 構築、5) コード生成 + 検証。Microsoft 開発の OSS プロジェクトベース、ローカル開発も可能 (promptflow CLI)、本番デプロイは Managed Endpoint または Azure Functions / Container Apps へ展開可能です。

Azure AI Foundry Agent Service (旧 Azure AI Assistant API) は、複雑な LLM Agent を構築するマネージドサービス。Agent は『Tools (関数・API)』『Knowledge (ファイル・データソース)』『Behavior (System Message・Instructions)』を持ち、ユーザー Query に対して Multi-step 自律行動を実行。代表的な Tool: 1) Code Interpreter (Python コード実行・データ分析)、2) File Search (アップロードファイルの全文検索)、3) Bing Search (Web 検索)、4) Function Calling (カスタム API)、5) OpenAPI Tool (REST API 呼び出し)、6) Logic Apps Tool (300+ Connector で SaaS 連携)、7) Azure AI Search Tool (Vector + Hybrid 検索)。代表的なシナリオ: 1) Customer Support Agent (FAQ 検索 + チケット起票)、2) Data Analyst Agent (DB クエリ + Chart 生成)、3) Code Review Agent (PR 解析 + コメント)、4) Sales Agent (CRM データ参照 + メール下書き生成)。Multi-Agent パターン (複数 Agent 協業) もサポート、AI-103 試験の新ドメイン 3 の中核トピックです。

Azure AI Foundry の Evaluation は、LLM 応答の品質を継続評価する機能。評価メトリクス: 1) Groundedness (生成内容が Source データに準拠しているか・Hallucination 検知)、2) Relevance (Query との関連性)、3) Coherence (応答の論理的一貫性)、4) Fluency (自然な文章性)、5) Similarity (Ground Truth との類似度)、6) F1 Score (Precision + Recall)、7) Retrieval Score (RAG の Top-K 検索精度)、8) カスタムメトリクス (LLM-as-a-Judge で組織独自評価)。実装フロー: 1) Test Dataset 準備 (Query + Expected Answer + Context)、2) Evaluation Run 実行 (Prompt Flow + Test Dataset)、3) メトリクス自動計算、4) Results Dashboard で比較・トレンド分析。継続改善パターン: 1) Production Logs から Failed Cases 抽出、2) Test Dataset に追加、3) Prompt / Model 改善、4) Evaluation 再実行で改善確認。本番運用での品質保証の中核機能、CI/CD パイプラインに組み込んで継続評価する設計が標準です。

Azure AI Foundry Model Catalog は、1,800+ の AI モデルを統合カタログ化。提供元別: 1) Azure OpenAI (gpt-4o・gpt-4o-mini・o1・o3・DALL-E・Whisper・Embeddings)、2) Microsoft (Phi-3・Phi-4 シリーズ・Florence・Speech モデル)、3) Meta (Llama 3.1・Llama 3.2 / 3.3)、4) Mistral (Mistral Large・Codestral)、5) Cohere (Command R+)、6) Hugging Face (BERT・T5・各種 OSS モデル 1,500+)、7) NVIDIA・Stability AI 等のパートナーモデル。デプロイオプション: 1) Pay-as-you-go API (Microsoft マネージド、Token 単価)、2) Managed Compute (専用 VM、Fine-tuning 可能)、3) Serverless API (簡易デプロイ)、4) Container 経由ローカル実行 (一部 OSS モデル)。代表的な選定: 1) 汎用チャット → gpt-4o-mini、2) コスト最小・オンプレ実行 → Phi-4、3) コード生成 → Codestral、4) Open License 要件 → Llama 3.3、5) リアルタイム音声 → GPT-4o Realtime。Model Catalog でモデル比較・ベンチマークも提供されます。

Azure AI Foundry の Fine-tuning は、既存 LLM を組織独自データで微調整する機能。対応モデル: gpt-4o-mini・gpt-3.5-turbo・Phi-3 シリーズ等 (gpt-4o は本記事執筆時点 Limited Preview)。手順: 1) Training Dataset 準備 (JSONL 形式・最低 50 例・推奨 500-10,000 例)、2) Validation Dataset 準備 (Training の 10-20%)、3) Azure AI Foundry の Fine-tuning UI でジョブ作成、4) Hyperparameters 設定 (Epochs・Learning Rate・Batch Size)、5) 訓練実行 (数時間-数日、データ量による)、6) Evaluation で Fine-tuned モデルと Base モデル比較、7) Deployment して本番利用。代表的なユースケース: 1) 組織独自の Tone / Style 適応 (Brand Voice)、2) 業界専門用語の理解向上、3) 構造化出力の精度向上、4) 多言語対応強化、5) Few-shot 例を Fine-tuning に置換でコスト削減 (Prompt 短縮)。コスト: Training 時間 × 単価 + Fine-tuned モデルの Hosting 月額 (約 3-15 USD/h)。RAG で十分なケースが多く、Fine-tuning は最終手段として検討するのが現実的です。

AI-103 (Developing AI Apps and Agents on Azure、2026-06 GA) で Azure AI Foundry が中核として深く問われる本領域の本命認定 (Prompt Flow・Agent Service・Evaluation・Model Catalog・Fine-tuning すべて出題)。AI-901 (AI Fundamentals、2026-06 GA・AI-900 後継) で AI Foundry 基礎、SC-100 (Cybersecurity Architect Expert) で AI セキュリティ・Responsible AI、AZ-305 (Solutions Architect Expert) で AI アーキテクチャ。Microsoft の AI 戦略の中核プラットフォームで、AI エンジニアにとって必須スキル、AI-103 学習の最重要領域です。