AIエージェントに社内データを触らせる前に決めること｜権限・記録・止め方
検索して答えるだけなら、事故は「見えてはいけない情報が見えた」で収まります。実行まで任せると、誤送信・誤登録・誤削除が実害になります。実行を許す前に決めるべき項目は多くありません。先に決めておけば、途中で止まらずに済みます。
結論から
- 権限は人に付ける。エージェント専用の万能アカウントを作らない
- 何をしたかの記録を、後から人が追える形で残す
- 止め方(誰が、どうやって、どこまで巻き戻すか)を先に決める
決めておく5項目
| 項目 | 決めること |
|---|---|
| 権限 | 誰の権限で動くか。異動と退職でどう切れるか |
| 範囲 | 触ってよいデータと、触らせないデータの線引き |
| 記録 | いつ・何を・どの根拠で実行したかを残す場所と保管期間 |
| 承認 | 人の承認を挟む操作の一覧(金額・宛先・削除など) |
| 停止 | 誰が止められるか。止めたあと、どこまで戻せるか |
承認を挟むべき操作
- 社外への送信(メール、フォーム、公開)
- 金額が動く操作(発注、支払、値引きの適用)
- 削除と上書き(復元できない操作)
- 個人情報を含むデータの書き出し
- 権限そのものの変更
外部に出す範囲を先に決める
利用するAIサービスに、入力内容が学習に使われない契約形態があるかを確認します。そのうえで、そもそも渡さなくても成立する情報は渡さない設計にします。氏名や連絡先を伏せたまま処理できる業務は少なくありません。
「渡さない」で設計できると、契約や社内規程の議論が短く済みます。技術的な対策を積む前に、範囲を絞れないかを検討する価値があります。
よくある事故の形
| 事故 | 原因 | 予防 |
|---|---|---|
| 見えてはいけない資料が回答に出た | 権限を人ではなく共通アカウントに付けた | 利用者本人の権限で動かす |
| 誤った内容で社外に送信された | 承認を挟んでいなかった | 社外向けは必ず人が確認する |
| 何が起きたか追えない | 記録が残っていない | 実行の記録を最初から設計に入れる |
| 外部サービスに機微な情報を送っていた | 渡す範囲を決めずに全部渡した | 渡さずに済む情報を先に外す |
よくあるご質問
- まず何から着手すべきですか
- 読み取りだけを許して、実行は人が承認する構成から始めてください。この構成でも作業時間は減り、事故の範囲は限定されます。
- 社内規程の整備も必要ですか
- 実行まで任せる段階では必要になります。まずは対象業務を限定した運用ルールから作り、範囲を広げるときに規程へ上げる進め方が現実的です。