LLMガードレールツールの比較 — 何を止めたいのかで選ぶ

3つの層

入力防御と出力検査はアプリケーションの中に入る。方針強制はアプリケーションの手前に入るので、位置が違う。

外部から来たデータをAIに読ませている場合に必要になる。社内の管理された文書しか読ませていないなら、優先度は下がる。

ただし前提として、権限設計で被害を限定しておくことが先である。検査の層だけで守ろうとすると、通された攻撃に対して何も残らない。

出力検査が必要な条件

出力が利用者に直接見える場合である。社内向けで、担当者が読んでから使う構成なら優先度は低い。顧客向けのチャットや自動返信では必須に近い。

検査する内容は用途で決まる。個人情報の混入、他社の名前、不適切な表現、約束してはいけない内容（返金、納期、法的な助言）。業種ごとに固有のものがあるので、汎用製品の既定ルールだけでは足りない。

方針強制が必要な条件

複数の部署が複数のモデルを使っている状態で、どのデータをどのモデルに送ってよいかを制御したい場合である。Credal はこの層を社内アプリの形で提供し、Portkey はゲートウェイとして提供する。

1つのチームが1つのモデルを使っているだけなら、この層は不要である。アプリケーション側の設定で足りる。

費用と効果の順序

予算が限られる場合の順序は、権限設計（費用ゼロ）→ 出力検査の自前実装（開発工数）→ 方針強制（組織が複雑なら）→ 入力防御の製品（外部データを読むなら）になる。製品を買う前にできることが多い層である。

よくある質問

Q. 自前実装でどこまでできますか。

A. 出力検査は正規表現と禁止語リストで相当やれます。入力防御は攻撃パターンの追随が必要なので、製品を使う価値が出やすい層です。