生成AIの社内ルールが形骸化する原因と見直し方|禁止だけにしない運用設計・承認フロー・KPI

生成AIの社内ルールが形骸化する原因と見直し方|禁止だけにしない運用設計・承認フロー・KPI

DX推進

生成AIの社内定着・業務効率化のご相談を承っています

戦略策定から現場研修まで、Mojiが一貫して支援します。

無料で相談する

事業開発・SEO/AIO担当

株式会社Moji ビジネス開発・コンテンツマーケティング担当 鹿児島県出身。大学2年次から複数のスタートアップで長期インターンを経験し、営業・事業開発と0→1の立ち上げに携わる。2026年9月より、生成AI特化の開発会社・株式会社Mojiに参画。AI開発プロジェクトの事業開発と運営体制づくりを担当しながら、自社メディアのコンテンツ運用をリードしている。

生成AIの社内ルールが未整備のまま導入が進むと、社員は「何を入力してよいか」「どの業務なら使えるか」「誰に確認すればよいか」を判断できません。一方で、禁止事項だけを増やすと、業務上の必要性を解消できず、個人契約や未承認サービスによる利用が見えない場所へ移るおそれがあります。

重要なのは、規程を作ること自体ではなく、現場が利用直前に判断でき、管理部門が承認・変更・例外・事故を追跡できる運用にすることです。本記事では、ルールが形骸化する兆候を診断し、禁止文を用途別の判断表へ変換する手順、レベル2・3で使う承認フロー、四半期ごとに見直すKPIを示します。

本記事の診断表、判定表、利用レベル、承認フロー、KPI、テンプレートは、特記がない限りMojiによる実務上の提案です。個人情報、営業秘密、契約上の守秘義務、著作権、業法などの法的判断は、利用するサービスの契約・設定とともに、各社の法務、情報セキュリティ、個人情報保護担当者へ確認してください。公的資料・公式資料は2026年11月2日に確認しました。

結論:生成AIの社内ルールは「禁止リスト」ではなく、現場が選べる運用表にする

形骸化しにくいルールには、少なくとも次の3つがそろっています。

  1. 許可される低リスク業務が先に分かる:公開情報の要約、構成案、匿名化済みの下書きなど、申請なしで始められる範囲を明示する。
  2. 迷ったときの分岐がある:入力情報、出力の利用先、外部操作の有無で、条件付き許可・個別審査・利用不可へ分ける。
  3. 実態に合わせて更新される:利用者の迷い、例外申請、確認差し戻し、インシデントを記録し、四半期ごとに見直す。

NISTの「Generative AI Profile」は、AI RMF 1.0に付随する生成AI向けの横断的な資料です。AI製品・サービス・システムの設計、開発、利用、評価に信頼性に関する考慮を組み込むための参考資料として位置付けられています。自社ルールでは、全社共通の禁止文だけで済ませず、業務の用途・データ・操作・影響に応じて統制を変える際の参照先になります。NIST AI 600-1: Generative AI Profile

まず診断:社内ルールが形骸化している7つの兆候

次の項目で3つ以上当てはまる場合は、周知不足だけではなく、ルールの構造と現場業務が合っていない可能性があります。以下の表はMojiによる診断例です。

兆候

起きやすい問題

優先して見直す箇所

「生成AIは原則禁止」だけで、許可業務がない

安全な代替手段がなく、未承認利用が起きても把握しにくい

低リスク業務の事前許可

社員から「この情報は入れてよいか」の質問が繰り返される

情報区分がツール名や抽象語だけで書かれている

情報区分ごとの入力条件

申請がほとんど来ない、または審査待ちが長い

申請経路が重すぎる、申請対象が広すぎる

利用レベルと承認者の分離

「人が確認する」と書いてあるが、何を見るか不明

誤情報、機密情報、契約条件の見落とし

成果物・操作別の確認項目

承認済みツール一覧だけが更新される

用途、接続先、契約、設定が変わっても再評価されない

変更時の再評価条件

例外申請や誤入力の報告先がない

現場の独自対応が増え、リスクと改善材料が残らない

例外・インシデントの受付経路

利用件数だけを見て「定着」と判断している

品質低下、確認負荷、未承認利用を見落とす

成果・品質・リスクを含むKPI

未承認のAI利用を把握し、全面禁止ではなく代替手段と監査を組み合わせる進め方は、シャドーAIのリスクと対策|全面禁止に頼らない可視化・公式代替・監査の進め方で詳しく解説しています。

禁止事項を「用途別の判断表」へ変換する4ステップ

「機密情報を入力しない」「出力を鵜呑みにしない」だけでは、業務担当者は判断できません。次の手順で、禁止文を利用時の分岐へ置き換えます。

手順1:現場ヒアリングでは「使いたいツール」ではなく「止まっている業務」を聞く

最初に集めるのは、AI製品の希望リストではなく、作業の単位です。営業、管理、開発、カスタマーサポートなど代表部門ごとに、次の6項目を記録します。

  • 誰が、どの工程で使いたいか
  • 何を入力するか
  • どの形式の出力が必要か
  • 出力を誰が使い、社外へ出るか
  • AIが外部システムを読む・書く・送るか
  • 間違えた場合に、誰へどの程度の影響があり、戻せるか

業務候補の集め方、限定試行、定着までの進め方は、生成AI導入前の業務棚卸しと現場定着の進め方も参照してください。

手順2:5軸でリスクを分ける

各業務を、次の5軸で記載します。ここでは「AIを使うか」を先に決めず、失敗時の影響と制御方法を見ます。

軸

確認する質問

統制を強める例

用途

下書きか、判断支援か、対外対応か

採用、評価、契約、価格、顧客への回答

入力データ

公開情報か、社内情報か、個人情報・営業秘密を含むか

個人データ、未公開の顧客情報、認証情報

出力利用

個人の検討用か、社内共有か、社外公開か

顧客提出、広告、Web公開、契約文書

外部操作

生成だけか、送信・更新・削除まで行うか

メール送信、CRM更新、発注、権限変更

利用者・権限

誰が使い、どのデータ・操作へ到達できるか

顧客データ、管理画面、本番環境へのアクセス

手順3:4段階の利用レベルへ仮置きする

以下はMojiによる区分例です。情報資産分類、契約、業界規制、利用するモデル・接続先、許容できない失敗に応じて調整してください。

利用レベル

対象例

必要な条件

レベル1:事前承認済み

公開情報の要約、一般的な文章構成案、匿名化済みの下書き

承認済み環境を使い、利用者が出力を確認する

レベル2:条件付き許可

社内資料の要約、顧客向け文書の下書き

情報を必要最小限にし、用途・確認者・出力先を定める

レベル3:個別審査

個人情報を含み得る処理、基幹連携、書き込み操作を伴うエージェント

契約、データ保護、権限、ログ、停止方法、担当者を個別確認する

レベル4:利用不可または再設計

認証情報の入力、未承認環境への営業秘密入力、AI出力のみで行う重大判断

入力・実行を認めない。必要性があれば、要件を見直してレベル3として再設計を検討する

IPAは利用者向け資料で、「クラウドAIに営業秘密は教えない」ことや、社内用・社外用でAIブラウザを分けることを対策例として示しています。したがって、本記事でいう「レベル3として再設計」は、営業秘密や未公開の重要情報の入力を許可する意味ではありません。利用の必要性がある場合でも、法務・情報セキュリティ・情報資産の責任者が、契約・学習利用設定・委託先・越境移転・接続先・アクセス権・ログ・保存先・削除方法を確認したうえで、入力を伴わない代替手段や情報を除外した構成を検討するための手順です。確認と承認が完了しない限り、未承認のクラウドAIへの入力は認めない運用にします。IPA「AI利用者のためのセキュリティ豆知識」

手順4:判定結果を「利用者が読める一枚」にする

詳細規程とは別に、利用直前の判断表を用意します。たとえば「公開済みの製品情報で営業メールの下書きを作る」はレベル1、「顧客別の商談履歴を含めて提案内容を作る」はレベル2または3として、承認済み環境・入力最小化・確認者を示します。

この一枚には、少なくとも承認済みツール、入力不可情報、相談先、対外公開時の確認者、例外申請の入口を載せます。詳細規程へのリンクだけでは、利用直前の迷いを解消できません。

レベル2・3を実装する:役割・承認経路・申請項目を分ける

レベル2・3の利用を「情シスへ相談する」という一つの窓口だけに集約すると、審査が滞留しやすくなります。一方、部門へ完全に任せると、契約、権限、ログ、個人情報などの判断にばらつきが出ます。以下は、承認者の役割を分けるMojiによる設計例です。

役割

主な責任

確認・記録すること

ルール所有者

全社方針、利用レベル、例外基準、教育・FAQの管理

利用レベルの定義、台帳の管理責任、見直し日

業務責任者

利用目的、成果物、人間確認、業務上の影響への責任

対象業務、出力の利用先、確認者、失敗時の対応

情報システム・セキュリティ担当

ID、権限、接続、ログ、データ保護、停止・初動の設計

契約・設定、接続先、権限、ログ、保存・削除、停止方法

法務・個人情報保護担当

必要に応じて、個人情報、秘密保持、知的財産、業法・契約を確認

追加確認が必要な条件、利用上の制約、承認根拠

利用者

許可条件の範囲で使い、出力を確認し、変更・異常を報告

利用状況、誤入力・誤出力、不審な挙動、変更の申告

最小承認フロー:申請から変更時再評価まで

以下は、レベル2・3を想定したMojiによる最小フローです。申請フォーム、チケット管理、既存の変更管理台帳など、組織がすでに使っている記録手段へ実装してください。

  1. 利用者が申請する:利用目的、対象業務、入力データ区分、利用サービス・環境、出力の利用先、外部操作の有無、想定件数、確認者を記載する。
  2. 業務責任者が確認する:AIを使う目的、出力の使い方、人間確認の手順、誤りが起きた場合の影響と代替手順を確認する。
  3. 情報システム・セキュリティ担当が確認する:アカウント、アクセス権、接続先、ログ、データ保持、入力制限、停止方法、契約・設定の確認状況を記録する。
  4. 必要に応じて法務・個人情報保護担当が確認する:個人情報、契約上の秘密保持、知的財産、業法・社内規程との関係を確認する。
  5. 許可条件を記録して利用開始する:許可レベル、対象業務、利用者・利用部門、入力条件、確認者、承認日、有効期限、再評価条件をAI利用台帳または変更管理記録へ残す。
  6. 定期見直しまたは変更時に再評価する:モデル、利用規約、プラン・設定、接続先、扱うデータ、利用者、外部操作の範囲が変わる場合は、元の許可条件を再確認する。

申請フォームに入れる最小項目

申請者に詳細なリスク評価書を求めるのではなく、承認者が判断に必要な情報をそろえることが目的です。記入例はすべて架空の例です。

項目

記入例

利用目的

公開済み製品ページを基に、営業メールの下書きを作る

対象業務・利用者

営業企画部の担当者が、提案準備で利用する

利用サービス・環境

会社が契約・管理するテナント名、利用プラン、SSOの有無

入力データ区分

公開情報/社内一般情報/要審査情報/入力不可情報

出力の利用先

個人利用/部門内共有/顧客提出/Web公開

外部操作

なし/下書き保存のみ/人の承認後に送信/自動実行は不可

人間確認

担当者が事実と表現を確認し、部門長が対外送信を承認する

想定される失敗と対応

事実誤認、機密情報の混入、誤送信、偏った表現。検知時は送信停止・削除・報告

ログ・保存

誰が、いつ、何の業務で利用したか。プロンプト保存の要否と閲覧権限

再評価条件

対象データ、対外公開範囲、ツール連携、モデル、利用者層の変更時

AIの用途、データ、権限、確認者、変更条件を一つの記録へ結び付ける台帳設計は、AI利用台帳とは?導入判断・記載項目・運用手順を実務テンプレートで解説も参照してください。

機密情報への不安に答える:情報区分・利用環境・出力確認を対応付ける

入力可否をサービス名だけで決めると、契約プラン、学習利用の設定、ID管理、接続先、ログ保存の条件が変わった際に、ルールと実態がずれます。次のように、情報区分、承認済み環境、出力利用をセットで判断します。表はMojiによる実務上の整理です。

情報区分の例

入力の考え方

利用環境に求める確認

出力の確認

公開情報

レベル1の候補

会社が承認したアカウント・サービスか

事実、数値、引用元、公開表現

社内一般情報

必要最小限に限定してレベル2の候補

契約、学習利用に関する条件、ID・アクセス制御、保存先

情報の混入、社内規程との整合

個人情報・個人データ

目的・必要性・法的要件を確認し、原則として個別審査

提供事業者が機械学習に利用しない条件などを確認

目的外利用、不正確な出力、再識別につながる内容

営業秘密・未公開の重要情報

未承認のクラウドAIへは入力不可。必要性がある場合も、入力を前提にせず代替手段・情報除外・構成変更を個別に検討する

処理経路、委託先、ログ、バックアップ、接続先、権限、契約・設定の確認結果

出力先、共有範囲、保存・削除

認証情報・秘密鍵・パスワード

Mojiの運用提案として、例外なく入力不可

入力制御、秘密情報管理、検知・失効手順

漏えいが疑われる場合は直ちに失効・報告

個人情報保護委員会は、生成AIサービスに個人情報を含むプロンプトを入力する場合、特定された利用目的の達成に必要な範囲内かを十分に確認すること、個人データを含むプロンプトを入力する場合には、提供事業者が当該個人データを機械学習に利用しないことなどを十分に確認することが必要だと案内しています。個人情報保護委員会:クラウド生成AIへ個人データを入力する際の留意点

情報漏えいのリスクを、入力情報、契約・設定、ID・権限、ログ、停止手順まで分けて点検したい場合は、生成AIの情報漏洩対策|入力・権限・契約・検証で決める実務チェックリストも参照してください。

「人が確認する」を形だけにしない:トリガー別に責任者と確認項目を決める

出力確認は、全文を読むことではありません。何を、どの根拠と照合し、誰が最終責任を持つかを決めます。以下はMojiによる確認設計例です。

確認トリガー

確認者の例

最低限の確認項目

顧客提出・Web公開

成果物責任者

事実、数値、固有名詞、機密情報、引用・権利、会社として約束する表現

採用・評価・選別

業務責任者と必要な専門担当者

判断根拠、不利益の可能性、AI以外の根拠、説明可能性

送信・更新・削除などの外部操作

操作権限を持つ担当者または承認者

対象、件数、変更内容、実行前後の状態、取消可能性

高い機密性の情報を扱う可能性

情報システム・セキュリティ担当

入力最小化、マスキング、接続先、保存先、ログ、削除・停止手順

異常な出力・不審な指示

利用者と業務責任者

一次情報との照合、利用停止の要否、影響範囲、報告

総務省・経済産業省のAI事業者ガイドラインは、AIガバナンスを含む取組を整理した資料です。自社ルールでは、重要な利用ほど確認者と確認対象を具体化してください。AI事業者ガイドライン(第1.2版)

例外申請・誤入力報告・利用停止を、承認フローへ接続する

新しい利用方法が出ることを前提に、例外申請の入口を用意します。例外を隠れて使う理由にしないために、通常ルールでは扱えない理由、追加統制、終了条件を記録し、承認フローと同じ台帳へ残します。

場面

受付窓口の例

責任者と次の処理

記録先

レベル2の新規利用

業務利用申請フォーム

業務責任者が目的・確認方法を確認し、必要に応じて情シスへ回付

AI利用台帳または申請チケット

レベル3・例外申請

個別審査フォーム

業務責任者、情シス・セキュリティ、必要に応じて法務・個人情報保護担当が条件を確認

審査記録、許可条件、有効期限、再評価日

誤入力・意図しない共有

既存の情報セキュリティ事故窓口

情シス・セキュリティが初動、影響確認、停止・失効・削除依頼の要否を判断

インシデント記録と関連利用台帳

異常出力・不審な指示

AI利用相談窓口または業務責任者

利用者は処理を止め、業務責任者が成果物の利用可否を確認。必要に応じてセキュリティ担当へ連携

チケット、FAQ改善記録、利用条件の変更履歴

モデル・接続先・権限などの変更

変更管理の窓口

変更内容が既存の許可条件に収まるかを確認し、収まらなければレベル2・3の再評価へ戻す

変更管理記録とAI利用台帳

例外申請で確認する項目

  • 通常ルールでは許可できない理由
  • 業務上の便益と、代替手段では足りない理由
  • 対象データ、対象者、利用期間、利用量
  • 追加する安全策:匿名化、閲覧権限、承認、ログ、実行上限、手動確認
  • 終了条件と、例外終了後のデータ・アカウントの扱い

インシデント報告で確認する項目

  • いつ、どの承認済み環境で、誰が利用したか
  • 何が入力・出力・送信・更新された可能性があるか
  • 外部共有、権限外アクセス、誤操作の有無
  • すでに実施した停止・取消・隔離などの初動
  • 影響範囲を確認するために必要なログ、画面、関連チケット

例外・インシデントの内容を、単に件数として閉じず、次回のレベル定義、FAQ、教育、技術的制御の見直しへ戻すことで、ルールの実態とのずれを減らしやすくなります。

四半期ごとの見直しKPI:利用率だけで「定着」と判断しない

ルールの見直しは、規程の改定日を決めるだけでは不十分です。利用が増えた一方で、確認負荷や未承認利用が増えていないかを、用途別に確認します。以下はMojiによる最小KPIセットです。

観点

追う指標の例

悪化時に確認すること

利用・定着

承認済み環境の利用者数、対象業務ごとの継続利用率、利用部門の偏り

許可業務が現場の需要と合うか、利用手順が重すぎないか

品質

出力の差し戻し率、手直し時間、確認で発見した重大誤り件数

業務に対するモデル・プロンプト・参照情報・確認項目が適切か

統制

例外申請数、審査リードタイム、未承認ツールの申告・検知件数

レベル1〜2の範囲、相談導線、承認者の負荷が適切か

情報保護

誤入力報告、権限逸脱、設定変更後の再評価漏れ、ログ確認の実施率

情報区分、技術的制御、教育、停止・初動手順

業務成果

対象工程の処理時間、処理量、再作業率、顧客対応の品質

削減時間が確認作業に移っていないか、対象業務の設計を変えるべきか

比較表やKPIの結論は、利用するモデル、入力品質、対象業務、評価指標、許容誤差で変わります。たとえば「短縮時間」を測る場合でも、下書き作成だけでなく、確認・修正・承認までを含めた工程時間で比べてください。

利用状況を経営・業務の判断材料へ変換する指標設計は、AI利用状況の可視化|導入判断に使える指標・ダッシュボード・運用手順で詳しく扱っています。

四半期レビュー会議のテンプレート

以下は、ルール所有者、業務責任者、情報システム・セキュリティ、必要に応じて法務・個人情報保護担当が参加する30〜60分の会議例です。

  1. 利用実態を確認する:承認済み環境、部門、業務、利用レベルごとの変化を見る。
  2. 迷いと例外を確認する:頻出質問、申請の滞留、例外申請の理由を集計する。
  3. 品質と事故兆候を確認する:差し戻し、誤入力、異常出力、権限・接続の問題を確認する。
  4. 変更を決める:レベル1へ追加する業務、レベル2・3へ引き上げる条件、教育・FAQ・技術的制御の変更を決める。
  5. 変更を記録する:対象、理由、責任者、適用日、再評価日をAI利用台帳または既存の変更管理記録に残す。

NIST AI RMFは、AIリスク管理をGOVERN、MAP、MEASURE、MANAGEの機能で整理しています。社内ルールの見直しでも、利用文脈の把握、測定、対応、責任体制を切り離さずに扱う際の参考になります。NIST AI RMFの公式リソース

社員向け短縮版:利用直前の5確認

詳細規程とは別に、社員が利用直前に読める短縮版を配布します。以下はMojiによる提案文です。

  1. 会社が承認したアカウント・環境だけを使う。
  2. 認証情報、営業秘密、入力可否が未確認の個人情報は入力しない。不明な場合は入力前に相談する。
  3. AIの出力を事実として扱わず、数値、固有名詞、引用元、契約条件を一次情報で確認する。
  4. 顧客への送信、公開、システム更新、購入・発注・削除は、定められた承認なしに実行しない。
  5. 誤入力、誤出力、意図しない共有、不審な指示を見つけたら、隠さず所定の窓口へ報告する。

公開・改定前チェックリスト

  • 禁止事項だけでなく、申請なしで使える低リスク業務を明記したか
  • 用途、入力データ、出力利用、外部操作、利用者・権限の5軸で判断できるか
  • 情報区分と、承認済み環境・契約・設定の確認を対応付けたか
  • 認証情報を入力不可とする方針、検知時の失効・報告手順を定めたか
  • レベル1〜4の利用経路と、レベル2・3の承認者を決めたか
  • 申請時に必要な項目、許可条件、有効期限、再評価条件、記録先を決めたか
  • 対外公開、重要判断、送信・更新・削除について、確認者と確認項目を定めたか
  • 例外申請、誤入力・不審な出力の報告、利用停止の入口を既存の運用へ接続したか
  • モデル、規約、接続先、データ、用途、権限の変更時に再評価する条件を定めたか
  • 利用率だけでなく、品質、統制、情報保護、業務成果を四半期ごとに確認するか
  • 社員向け短縮版、FAQ、申請フォーム、詳細規程を相互にリンクしたか

まとめ:守らせる規程から、安全に使い続けられる運用へ

生成AIの社内ルールが形骸化する原因は、社員の意識だけではありません。許可される業務が見えない、入力可否が曖昧、承認経路や例外の入口がない、変更・事故から見直す材料が残らない、といった運用設計の問題として現れます。

まずは、現場が使いたい業務を棚卸しし、用途・入力データ・出力利用・外部操作・権限の5軸で分類してください。そのうえで、低リスク業務を明確に許可し、影響が大きい利用には、申請項目、役割分担、許可条件、期限、再評価条件を伴う個別審査を対応付けます。

ルールの完成度は、文書の長さではなく、現場が迷わずに使え、管理部門が承認・例外・変更・インシデントを把握し、四半期ごとに改善できるかで判断します。

出典

Contact

AI活用の定着・業務改善、まずは無料相談から

「導入したが使われない」を防ぐ進め方を、貴社の状況に合わせてご提案します。

AI活用促進・DX/AX支援・新規事業開発の詳細を見る
無料相談する