AIサンドボックスを業務で用意するときは、AIが読める情報、変更できる対象、接続できる先を先に決めます。「試験用」という名前を付けるだけでなく、本番の顧客情報や外部への送信に届かない境界を設計することが出発点です。
本記事ではAIサンドボックスを、AIとその連携機能を限定したデータ・権限・接続先で試す環境として扱います。対象は業務試行の技術的な隔離環境です。以下の確認表と手順は、一次資料を踏まえた設計案であり、特定製品の標準設定や安全性の保証ではありません。
AIサンドボックスでは何を隔離するのか
まず、AIが文章を生成する部分と、その指示でファイルや業務システムを操作する部分を書き出します。例えば問い合わせ対応なら、「資料を検索する」「回答案を作る」「メールを送信する」は別々の処理として整理できます。
AnthropicのSandbox Runtimeは、ファイルの読み書きとネットワークの両方を隔離対象にしています。業務試行でも、保存先だけでなく通信先を確認する際の参考になります。Anthropicの隔離モデル
試行用のフォルダーを分けた場合も、連携先の認証情報、検索対象の文書、送信機能まで順に点検してください。回答する業務自体が決まっていなければ、AIチャットボットの回答範囲と引継ぎの設計から整理できます。
最初に決める六つの境界
問い合わせへの回答案を作る試行を例に、次の形で要件をまとめます。製品名から選ぶ前に、業務担当者が「どこまで許すか」を記入し、環境管理者が制御方法を決める進め方です。
| 対象 | 初回の試行での設定案 | 開始前に確かめること |
|---|---|---|
| 入力データ | 架空の問い合わせと試行用資料から始める | 添付・検索結果に本番情報が混ざっていないか |
| 利用者と認証 | 試行専用のIDと資格情報を用意する | 本番の共有アカウントや鍵を使っていないか |
| 読み書き | 指定資料の参照と試行用保存先への出力に絞る | 対象外の参照・更新が拒否されるか |
| 外部接続 | 必要なモデルAPIなど接続先を列挙する | 許可していない宛先への通信が拒否されるか |
| 業務操作 | 送信や登録は模擬の受付先へ向ける | 実在の顧客や本番システムに届かないか |
| 継続時間と使用量 | 実行時間・呼出回数・停止担当を決める | 上限や停止操作で処理が止まるか |
実データが必要になったら、必要な項目と件数、持ち込む理由、閲覧できる人を改めて整理します。氏名欄だけを置き換えて終わらせず、自由記述や添付にも残すべきでない情報がないか確認しましょう。
外部のモデルAPIへ入力を送る構成なら、その送信先も設計表へ含めます。入力の保持・利用条件、ログの保存先は採用サービスと契約で確認し、持ち込める情報の範囲を決めてください。
権限は実行先でも制限する
OWASPは、AIが使う機能と権限の最小化、重要操作への人の承認、連携先での認可を挙げています。操作を許してよいかという判断をLLMだけに任せない考え方です。OWASPの過剰な権限・自律性への対策
例えば資料の要約が目的なら、文書を削除する機能まで渡す必要があるかを見直します。「削除しないで」と指示するだけで済ませず、連携に使うIDで削除操作が拒否される構成にします。
送信の承認を試す場合は、承認画面に宛先と送信内容を表示し、承認済みの内容だけを実行に渡す設計にしましょう。承認後に宛先や本文が変わったら再確認する条件も決めます。初回の試行では、承認後の送信先もテスト用に固定すると、操作の流れを限定した範囲で確かめられます。
「できること」と「拒否されること」を対で試す
環境が動いたら、正常な回答が出ることに加え、境界を越える操作が実行されないことを確認します。ここでは架空の資料とテスト用の宛先を使います。
| 試験 | 期待する結果 | 残す証拠 |
|---|---|---|
| 許可した資料から回答案を作る | 資料を参照し、試行用保存先に出力する | 参照資料・出力先・実行結果 |
| 対象外の文書を指定する | 参照を拒否する | 認可結果と対象文書の識別情報 |
| 読み取り用IDで更新を要求する | 実行先が更新を拒否する | 実行先の拒否記録と更新されていないこと |
| 未許可のテスト宛先へ接続する | 通信を拒否する | 接続制御の記録 |
| 承認なしで送信を要求する | 送信されない | 承認状態とテスト受付先の記録 |
| 実行中に停止操作を行う | 新規呼出しが止まる | 停止時刻・残った処理の状態 |
AIの回答に「実行しません」と表示されたことだけで合否を決めず、連携先や通信制御側の記録も突き合わせます。拒否の試験が失敗したら、原因を直し、同じ条件で再試験してから対象を広げます。
停止と記録も試行環境に含める
OWASPは、ログ監視と呼出頻度の制限を被害の限定策として示しています。ただし、それらは権限の制限を置き換えるものではありません。OWASPの監視・レート制限の説明
運用案として、誰が何を依頼し、どの機能が、どの対象へ、何を実行したかを追える記録を用意します。入力全文を無条件に保存せず、保存する項目、閲覧者、保持期間を定めます。
停止手順には、試行の新規受付を止める操作と、処理中・待機中の仕事を確認する操作を含めてください。試行終了時には、作成物、ログ、資格情報をそれぞれどう片付けるかも決めておきます。
本番へ進める前に、境界の変更を審査する
拡大の判断は「回答が良かったか」と「許可していない操作が止まったか」を分けて記録します。回答の正確さは業務側で、権限・接続・停止の動作は環境管理側で確認する分担が考えられます。
本番データ、外部送信、新しい連携先の追加は、それぞれ境界の変更として扱います。何を追加し、誰が承認し、どの拒否試験を再実施するかを記録してください。AIサンドボックスの設計表に変更箇所を残せば、試行を続ける範囲と本番へ進める範囲を具体的に判断できます。