RAG基盤比較 — Azure AI Search vs Amazon Bedrock Knowledge Base、法人選定ガイド

結論：3行で終わらせる

• 既存 Microsoft Azure 環境・OpenAI モデル中心 → Azure AI Search + Azure OpenAI
• 既存 AWS 環境・Claude / Llama / Amazon Titan などマルチモデル → Amazon Bedrock Knowledge Base
• 両者ともマネージドで開発工数を大幅に削減。決定要因は既存クラウドスタックとモデル選択肢

1. RAG マネージドサービスとは

RAG（Retrieval-Augmented Generation）は、LLM が自社データを参照して回答する仕組み。自前でベクトルDB・チャンキング・インデックス管理を組むと運用負荷が大きい。AWS / Azure はこれをマネージドサービス化し、データソース指定だけで RAG パイプラインを構築できる仕組みを提供している。LangChain / LlamaIndex 等のフレームワークと組み合わせる選択肢もあるが、運用負荷・コンプラ要件次第で「マネージド側に寄せる」判断も多い。

2. 各サービスの位置づけ

Azure AI Search（旧 Cognitive Search）

Microsoft Azure のフルマネージド検索サービスで、ベクトル検索・キーワード検索・ハイブリッド検索を統合提供。Azure OpenAI Service と組み合わせて RAG 基盤を構成するのが標準パターン。Microsoft 製品（SharePoint / OneDrive / Microsoft 365）との連携が深く、社内ドキュメントを直接インデックス化しやすい。Azure Active Directory 統合・Private Link でのネットワーク分離も標準対応。

Amazon Bedrock Knowledge Base

AWS Bedrock の RAG 機能。S3 / SharePoint / Confluence / Salesforce 等の多様なデータソースをサポートし、Anthropic Claude / Amazon Titan / Meta Llama / Mistral 等のマルチモデル選択が可能。OpenSearch Serverless / Pinecone / Aurora PostgreSQL（pgvector）等のベクトルストアと組み合わせられる柔軟性が強み。AWS IAM / VPC / KMS との統合で、AWS ガバナンスフレームワークに乗せやすい。

3. 比較表

4. 開発工数の比較

Azure AI Search のRAG構築フロー

1. Azure AI Search リソース作成 → 2. データソース指定（Blob Storage / SharePoint 等） → 3. インデックス自動生成（チャンキング・エンベディングを自動処理）→ 4. Azure OpenAI Service と接続 → 5. クエリエンドポイントから RAG 動作確認。Azure Portal の GUI で多くの作業を完結でき、PoC レベルなら 1〜2 日で動かせる。

Bedrock Knowledge Base のRAG構築フロー

1. Bedrock Knowledge Base 作成 → 2. データソース（S3 等）指定 → 3. ベクトルストア選択（OpenSearch Serverless が初期設定で楽）→ 4. Embedding モデル選択（Titan Embeddings / Cohere）→ 5. RetrieveAndGenerate API 経由で LLM 統合。AWS Console + IAM 設定が必要だが、PoC は 1〜2 日で構築可能。

5. ユースケース別の選び方

Microsoft 365 中心の組織

推奨: Azure AI Search。SharePoint / OneDrive / Teams のドキュメントを直接インデックス化でき、Microsoft 365 のアクセス権限を継承する設定も可能。「ユーザーが閲覧できるドキュメントだけが RAG の文脈に入る」という権限統合が標準で実現しやすい。

AWS 既存ユーザー・マルチモデル使い分け

推奨: Bedrock Knowledge Base。AWS のガバナンスフレームワーク（IAM / VPC / CloudTrail）に乗せやすく、複数LLMの並行検証も容易。Claude / Titan / Llama を切り替えて精度比較する PoC が組みやすい。

コスト最重視・小規模試行

推奨: 用途次第。Azure AI Search は Free 階層あり（小規模試行向け）、Bedrock は従量課金で初期コストを抑えやすい。月額予算と想定クエリ数で試算して選ぶ。LLM 呼出コストとベクトルストアコストが運用コストの大半を占める点に注意。

データレジデンシー必須

両者とも日本リージョンに対応（東日本・東京）。データ主権要件があるならどちらも選択肢に入る。Azure は東日本・西日本の冗長構成、AWS は東京・大阪の冗長構成が組める。

オンプレ要件・ハイブリッドクラウド

両者ともクラウド SaaS / PaaS 提供。完全オンプレ要件なら、自前で LangChain / LlamaIndex + ベクトルDB（Weaviate / Qdrant / Milvus 等）を組む必要がある。

6. 法人選定で必ず確認する追加ポイント

6-1. インデックス権限とアクセス制御

「ユーザーが見ていいドキュメントだけが RAG の文脈に入るか」が最大のセキュリティ論点。Azure AI Search は SharePoint / OneDrive のアクセス権限を継承する Document-level security 機能を提供。Bedrock も SharePoint コネクタ等で類似機能を提供。設計時に「権限の継承範囲」を必ず確認すること。

6-2. データ暗号化と KMS / Customer-managed Keys

保管時・転送時の暗号化は両者とも標準対応。「自社管理鍵」での暗号化要件があれば、Azure は Customer-managed Keys（CMK）、AWS は KMS Customer Master Key（CMK）に対応。金融・医療等の規制業界では CMK 利用が標準要件。

6-3. 監査ログとコンプライアンス

誰がいつどのデータに対して RAG クエリを実行したかの監査ログ。Azure は Azure Monitor / Log Analytics、AWS は CloudTrail / CloudWatch Logs で取得可能。SIEM 連携（Splunk / Datadog 等）も両者で標準サポート。SOC2 / ISO 27001 / PCI-DSS / HIPAA 等の認証範囲は両クラウド共に広い。

6-4. 障害時の運用負荷とSLA

両者ともマネージドサービスで稼働率 SLA を提供（具体的な % は公式参照）。障害時はベンダー側が復旧責任を負うが、自社側でも「インデックス再構築・データソース再同期」の運用手順を整備しておくこと。マネージドだから完全に放置できるわけではない。

編集部の助言: 「既存クラウド契約に乗る」が90% の決定要因。Azure 既存なら Azure AI Search、AWS 既存なら Bedrock Knowledge Base が「契約・請求・運用フレームワーク」面で圧倒的に楽。マルチクラウド運用は工数増と認識すること。

Q. LangChain / LlamaIndex を使わずにマネージドだけで組めますか？

A. 可能。両サービスとも標準APIで RAG パイプラインを完結できる設計。複雑なエージェント機能・カスタム検索ロジックが必要なら LangChain / LlamaIndex 併用、シンプルな RAG ならマネージドのみで十分。

Q. コスト試算はどう組み立てる？

A. 3要素の合算: (1) インデックス・ベクトルストア（容量ベース）、(2) Embedding 生成（トークン数ベース）、(3) LLM 呼出（入力/出力トークンベース）。月間想定クエリ数と平均トークン数で見積もる。両クラウドとも料金計算ツールを公式提供。

Q. Pinecone や Weaviate などの専用ベクトルDB と比べて？

A. 専用ベクトルDB は機能特化で性能・柔軟性で優位な面あり。マネージドRAG は「クラウド統合の楽さ」「AWS / Azure の請求一元化」「企業ガバナンス適合」で優位。検索精度を限界まで詰めたいなら専用 DB、運用負荷を最小化したいならマネージド。

Q. リトリーバル精度を上げるコツは？

A. (1) チャンクサイズの最適化、(2) Hybrid Search（ベクトル + キーワード）の活用、(3) Reranking 機能の有効化、(4) メタデータフィルタリング、(5) Embedding モデルの選定（日本語コンテンツなら multilingual モデルが有利）。

Q. エンタープライズ移行のステップは？

A. Step 1: 限定 PoC（5〜10名、特定業務のみ）→ Step 2: パイロット部門展開（30〜50名）→ Step 3: 全社展開（権限設計を厳密に）。Step 1 で「精度・コスト・運用負荷」を実測し、稟議の根拠資料にすること。

まとめ

Azure AI Search と Bedrock Knowledge Base は、社内データ活用AIチャット（RAG）構築の二大選択肢。Azure は Microsoft 365 連携・OpenAI モデル中心の運用に最適、AWS Bedrock はマルチモデル選択肢と AWS ガバナンス統合が強み。決定要因は「既存クラウドスタック」が9割。

法人運用ではアクセス権限継承・データ暗号化・監査ログ・SLA を契約前に書面確認。両者ともマネージドで開発工数を大幅削減できるが、「マネージドだから運用ゼロ」ではない点に注意。LangChain / LlamaIndex との併用も選択肢で、複雑なエージェント機能を組むならフレームワーク追加も検討。