Azure OpenAI Service 入門｜モデル選定・PTU・Prompt Engineering・Function Calling・Embeddings

Azure OpenAI Service は OpenAI の GPT モデル (gpt-4o・gpt-4o-mini・o1・o3 シリーズ)・DALL-E (画像生成)・Whisper (音声認識)・Embeddings モデルを Microsoft Azure 上で提供するマネージドサービス。OpenAI API (Native) と機能・性能はほぼ同等だが、Azure 統合のメリット: 1) Microsoft Entra ID 認証 + Managed Identity 対応 (Secret 不要)、2) Private Endpoint で完全プライベート (Public Internet 経由不要)、3) Customer-Managed Key で暗号化、4) Microsoft Defender for AI 統合、5) SOC 2 / HIPAA / ISO 27001 / PCI DSS / FedRAMP 等エンタープライズコンプライアンス、6) Azure SLA 99.9% (Provisioned Throughput Units で 99.99%)、7) Microsoft 365・Power Platform 統合。エンタープライズで生成 AI を本番運用する場合の標準選択肢で、AI-103 試験の中核トピックです。

Azure OpenAI が提供する主要モデル: 1) gpt-4o (Multimodal・画像入力対応・高性能・低コスト・標準推奨)、2) gpt-4o-mini (高速・最低コスト・gpt-4o の約 1/10 価格・大量処理向け)、3) gpt-4 Turbo (旧世代、長期サポート)、4) o1-preview / o1-mini (Reasoning モデル・複雑推論向け・コスト高)、5) o3-mini (最新 Reasoning モデル、コスト効率良)、6) text-embedding-3-large / small (Embedding 生成・RAG 必須)、7) DALL-E 3 (画像生成)、8) Whisper (音声認識)、9) GPT-4o Realtime (リアルタイム音声対話)。判断: 1) 一般的なチャット・要約 → gpt-4o-mini (コスト最適)、2) 高精度要求 → gpt-4o、3) 複雑な推論・数学・コーディング → o1 / o3、4) RAG の Embedding → text-embedding-3-large。Model Catalog で Quota 申請後に Deploy、Region により利用可能モデルが異なる点に注意が必要です。

Standard Deployment (Pay-as-you-go): トークン単価課金 (入力 + 出力)、共有リソース、需要に応じてスケール、Throughput 制限あり (毎分トークン数 TPM)、開発・PoC・小規模本番向け。Provisioned Throughput Units (PTU): 固定容量予約・固定月額、専用リソース、レイテンシ保証、大規模本番・SLA 99.99% 要件向け、最小 50 PTU 月数十万円〜。判断: 月数百万 Token 以下 → Standard、月数千万 Token 以上 + レイテンシ保証要件 → PTU、エンタープライズ本番アプリ → PTU 推奨。Global Standard と Data Zone Standard の選択もあり: Global Standard は Microsoft 全 Region で処理 (データ Region 不問)、Data Zone Standard は特定データレジデンシー Region 内処理 (GDPR / 日本データレジデンシー要件)。Reserved Capacity (1 年契約) で PTU 月額大幅割引も可能です。

Prompt Engineering は LLM への入力 (Prompt) を設計する技法。基本構造: 1) System Message (アシスタントの役割・制約定義、最重要)、2) User Message (ユーザーの質問・指示)、3) Assistant Message (応答、ChatHistory として保持)。代表的なテクニック: 1) Zero-shot (例示なし、シンプル質問)、2) Few-shot (3-5 例示で動作パターン学習)、3) Chain of Thought (CoT、『ステップバイステップで考えて』指示で推論精度向上)、4) Role Playing (『あなたは医療専門家です』のような役割付与)、5) Structured Output (JSON Schema 指定で構造化応答)、6) Temperature 調整 (0 = 決定的・1 = 創造的)、7) Top-p 調整 (確率分布の累積閾値)、8) Frequency Penalty / Presence Penalty (繰り返し抑制)。本番運用では Prompt Library を組織で集中管理、A/B Test で継続改善、Prompt 漏洩防止 (Prompt Injection 対策) の設計が重要です。

Function Calling (Tool Calling) は LLM が外部関数 / API を自律的に呼び出す機能。代表的なユースケース: 1) 天気 API 呼び出し (『東京の天気は?』→ get_weather('Tokyo') 呼び出し → 結果を要約)、2) データベースクエリ (『2024 年の売上は?』→ query_sales('2024') 呼び出し → 結果を Format)、3) 計算実行 (『複雑な税金計算』→ calculate_tax 呼び出し)、4) Email 送信 (『Slack に通知して』→ send_slack_message 呼び出し)、5) 他 LLM API 呼び出し (Multi-Agent パターン)。実装フロー: 1) Functions Schema 定義 (関数名・引数・型・説明)、2) ChatCompletion 呼び出し時に Tools 引数で関数リスト送信、3) LLM が呼び出し必要と判断したら tool_calls 配列を返却、4) クライアントが対応関数を実行、5) 結果を Tool Message として LLM に返却、6) LLM が結果を踏まえて最終応答生成。Azure AI Foundry Agent Service で複雑な Multi-step Function Calling を抽象化、より高度な Agent パターンが実装可能です。

Embeddings は『テキスト → ベクトル (高次元数値配列)』変換、意味的類似度を計算可能にする技術。text-embedding-3-large は 3,072 次元 (高精度)・small は 1,536 次元 (高速・低コスト)。動作: 1) Document を Chunks (200-1,000 トークン単位) に分割、2) 各 Chunk を Embedding API で Vector 化、3) Vector を Vector Database (Azure AI Search Vector・Cosmos DB Vector・PostgreSQL pgvector) に保管、4) ユーザーの Query も Embedding API で Vector 化、5) Cosine Similarity / Dot Product で Query Vector に近い Chunks を検索 (Top-K)、6) 検索結果 Chunks を GPT-4o の Prompt に含めて応答生成 (RAG パターン)。Azure AI Search の Vector Search は組み込み機能で、Hybrid Search (Vector + Full-text + BM25) で精度向上。RAG の詳細実装は RAG パターン実装ガイド記事を参照してください。

Azure OpenAI のセキュリティ機能: 1) Microsoft Entra ID 認証 + Managed Identity (API Key 不要のシークレットレス)、2) Private Endpoint で完全プライベート (privatelink.openai.azure.com)、3) Customer-Managed Key で暗号化 (Key Vault 連携)、4) Microsoft Defender for AI で異常使用検知、5) Content Filter で Hate / Self-harm / Sexual / Violence の自動 Block (4 段階強度)、6) Prompt Shield で Jailbreak / Prompt Injection 検知 (Direct + Indirect Attack)、7) Groundedness Detection で Hallucination (幻覚) 検知、8) Protected Material Detection で著作権侵害コンテンツ検知、9) Usage Logs (Diagnostic Logs) で全 Prompt / Response 監査ログ送信、10) Token 消費の Cost Management 統合。本番運用では Content Filter + Prompt Shield + Microsoft Sentinel 統合で異常検知 + Logic App Playbook 自動応答が標準パターン、Responsible AI 6 原則準拠の実装が必須です。

AI-103 (Developing AI Apps and Agents on Azure、2026-06 GA) のドメイン 2 (Generative AI 30-35%) で Azure OpenAI が深く問われる本領域の本命認定。AI-901 (AI Fundamentals、2026-06 GA・AI-900 後継) で生成 AI 基礎、AZ-204 (Developer Associate、2026-07 リタイア注意) で開発者視点での Azure OpenAI SDK、SC-100 (Cybersecurity Architect Expert) で AI セキュリティ・Responsible AI、DP-700 (Fabric Data Engineer) で AI 用データ準備パイプライン、AZ-305 (Solutions Architect Expert) で AI アーキテクチャ判断。Azure AI エンジニアにとって Azure OpenAI の理解は必須で、AI-103 学習の中核領域です。