Dify をセルフホストして社内AIを作る — 判断材料と手順の全体像

まず結論

• 評価するだけ → クラウドの Sandbox（無料・200メッセージクレジット）
• 小さく業務に使う → クラウドの Professional（年$590・月5,000クレジット）
• 社内文書を外に出せない、または実行量が多い → OSS版を自前運用

注意したいのは Sandbox の200クレジットが月あたりではなく総量であることだ。使い切ると追加されない。評価のつもりで社内に見せて回ると、デモの途中で止まる。評価の計画は200回で何を確かめるかを先に決めてから始める。

2. 自前運用を選ぶ条件

OSS版は Docker で動かせる。ライセンス費用はかからない。それでも全員に勧められるわけではなく、選ぶ理由は実質2つしかない。

1つめは、扱うデータを外部のクラウドに置けないこと。社内規程や顧客との契約で保存先が制約されている場合、クラウド版は選択肢から外れる。2つめは、実行量が多くてクレジット課金が割高になること。月10,000メッセージを超えるあたりから、サーバー代のほうが安くなる計算になる。

逆に、「無料だから」という理由だけで自前運用を選ぶと高くつく。アップデート、バックアップ、障害対応、セキュリティパッチの適用が自分の仕事になる。年$590はこれを代わりにやってもらう費用と見るほうが実態に近い。

3. 自前運用で必要になるもの

• Docker と Docker Compose が動くサーバー（クラウドのVMで足りる）
• 永続ボリューム（ベクトルDBとアップロードした文書の保存先）
• リバースプロキシとTLS証明書（社内からのアクセスだけなら簡略化できる）
• LLM の APIキー（OpenAI・Anthropic 等、または社内で動かすモデル）
• バックアップの手順（文書とベクトルインデックスの両方）

LLM のAPIキーが別に必要な点を見落としやすい。Dify 自体は無料でも、モデルの利用料は実費で発生する。社内文書に答えさせるチャットボットを100人が1日5回使えば、月に15,000回の呼び出しになる。モデルの単価に15,000を掛けた額が毎月の固定費になる。

4. 手順の全体像

具体的なコマンドは公式ドキュメントが正確なので、ここでは全体の流れと、各段階で決めることだけを示す。

• 1. サーバーを用意し、Docker をインストールする
• 2. 公式リポジトリの docker compose 構成を取得して起動する
• 3. 管理者アカウントを作り、使うLLMのAPIキーを登録する
• 4. ナレッジに社内文書を投入し、チャンクの分割単位を調整する
• 5. アプリを作り、プロンプトと参照するナレッジを指定する
• 6. 社内向けに公開し、アクセス制御を設定する

4の「チャンクの分割単位」が品質を最も左右する。文書を細かく切ると文脈が失われ、大きく切ると関係のない部分まで拾う。マニュアルのような構造化された文書は見出し単位、議事録のような流れのある文書は固定長での分割が扱いやすい。ここは実際の質問で試しながら調整する工程になる。

5. 運用でつまずく点

最も多いのは「答えが古い」である。社内文書を一度投入したあと、元の文書が更新されてもナレッジは自動で追随しない。更新の手順を決めて誰かの業務に組み込まないと、半年後には誤った内容を自信をもって答えるボットになる。

次に多いのは権限である。全社の文書を1つのナレッジに入れると、本来見られない情報が回答として出てくる。部署ごとにナレッジとアプリを分けるか、投入する文書を公開範囲で絞る設計が必要になる。

よくある質問

Q. OSS版とクラウド版で機能は同じですか。

A. 中核の機能はOSS版でも使えますが、SSO や高度な権限管理、交渉可能なSLAは Enterprise の領域です。必要な機能が上位プラン限定かどうかは公式の比較表で確認してください。

Q. 社内で動かすモデルと組み合わせられますか。

A. OpenAI 互換のエンドポイントを持つモデルであれば接続できます。社内でモデルを動かす場合、GPU の調達と運用が別の課題になります。

Q. 1人で運用できますか。

A. 技術的には可能ですが、その1人が休めなくなります。業務で使うなら、最低2人が中身を理解している状態を作ってから本番にしてください。