シャドーAIとは？生成AIへの機密情報入力で起こるリスクと企業の対策
最近あらゆる企業でこのようなことが起こっているのではないでしょうか？
- 社員が個人で議事録アプリを入れて要約する
- その内容を外部AIに読み込ませて、資料の叩きを作る
- 外部AIに自社/クライアントの情報が記載された内容のものを入れる
管理部門が利用を把握していなければ、どの生成AIに、誰が、どのような情報を入力したのか確認できません。
個人契約であるが故に、サービスごとのデータの保存期間や学習利用の有無、削除方法、管理機能などを会社側で確認することも不可能に近いです。
このような会社の管理外で行われるAI利用のことを「シャドーAI」と呼びます。
シャドーAIの問題は、社員が生成AIを使うこと自体ではありません。
会社が利用実態を把握できず、入力情報や利用方法を管理できないことにあります。
シャドーAIとは
社員や部門が会社の承認を得ず、生成AIをはじめとするAIサービスを業務に利用することをシャドーAIと呼びます。
一言で言い換えると「会社が管理していない個人契約しているAIツール」です。
たとえば、次のような利用が該当します。
- 個人で契約した生成AIに、顧客から受け取った資料を入力する
- 会社の確認を受けていないAIサービスで、提案書や契約書の下書きを作る
生成AIの利用自体が禁止されていなくても、会社が承認していないサービスを使い、管理部門が利用状況を把握できない場合はシャドーAIに該当します。
シャドーAIが発生する理由
シャドーAIが発生する理由を「社員のセキュリティ意識が低いから」とだけ捉えると、対策を誤ります。
生成AIは個人でも簡単に利用できるため、会社が利用環境やルールを整えていなければ、社員は業務を進めるために未承認のサービスを選びやすくなります。
社員がすぐに使える生成AIを選ぶ
生成AIは、ソフトウェアを社内端末へインストールしなくても利用できるものが多く、管理部門が気づかないまま利用が始まる可能性があります。
特に、次のような状況では管理外の利用が生まれやすくなります。
- 無料または個人契約ですぐに利用できる
- ブラウザからアクセスできる
会社側から見ると入力情報や利用条件を確認できない状態です。これがシャドーAIの実態を把握しにくい要因となります。
会社のルールと利用環境が整っていない
生成AIの利用ルールがないor曖昧な場合、社員は何を入力してよいのか判断できません。（分かっていても入れてしまう場合も**……**）
「機密情報を入力しない」とだけ定めても、顧客とのメール、社内会議の議事録、作成途中の提案書が機密情報に当たるのか、社員ごとに判断が分かれます。
会社が安全に使えるサービスや申請方法を用意していなければ、シャドーAIに移行する可能性があります。
シャドーAIは、社員個人の判断だけで発生するものではありません。
利用可能なサービス、入力してよい情報、利用申請の方法を会社が明確にしていないことも、管理外の利用を生む原因になります。
生成AIへの機密情報入力で起こるリスク
シャドーAIでは、会社が安全性を確認していない生成AIサービスに業務情報が入力されます。
入力された情報の取り扱いは、サービスや契約プラン、利用者の設定によって異なります。
「生成AIへ入力した情報は必ず学習される」とは限りませんが、会社が利用を把握していなければ、学習への利用、保存期間、第三者への提供、削除方法などを確認できません。(また、学習させない設定にしたとしても、それが絶対に学習されないかはブラックボックス状態です）
この状態で機密情報や個人情報が入力されると、会社は複数のリスクを抱えることになります。
機密情報が会社の管理外へ送信される
生成AIへ入力した情報は、サービスを提供する外部事業者のシステムへ送信されます。
社員が次のような情報を入力した場合、会社が管理していた情報を、承認していない外部サービスへ渡すことになります。
- 顧客情報や取引先から受け取った資料
- 契約書、見積書など
- 人事評価や採用候補者の情報
- ソースコードやシステム構成
問題は、入力情報が直ちに公開されることだけではありません。
保存期間、学習や品質改善への利用、削除方法を会社側で管理できず、誤入力が発覚しても処理状況を確認できない可能性があります。
個人情報保護法や契約に抵触する可能性がある
個人情報や顧客から預かった情報には、利用目的や取り扱い方法に制約があります。
業務上取得した情報だからといって、別の目的で外部の生成AIサービスへ入力してよいとは限りません。
個人情報保護委員会は、
事業者が個人情報を含むプロンプトを入力する場合、特定した利用目的の達成に必要な範囲内であることを確認するよう求めています。
参考：個人情報保護委員会「生成AIサービスの利用に関する注意喚起等」（2023年6月2日）
本人の同意なく個人データを入力する場合には、サービス提供者がそのデータを機械学習へ利用しないことなども確認する必要があります。
個人情報だけでなく、取引先との秘密保持契約も確認が必要です。
とは言っても、社員個人には、利用規約、データの処理方法、顧客との契約内容をすべて確認することは不可能に近いでしょう。
本来は法務、情報システム、セキュリティなどの担当部門が確認すべき事項が、社員の判断だけで処理されてしまいます。
著作権や知的財産をめぐる問題が生じる
生成AIが出力した文章、画像、プログラムなどを業務で使用する場合、既存の著作物との類似や、利用条件を確認する必要があります。
一方、社員が生成AIへ入力する情報にも知的財産が含まれます。
自社のソースコード、設計資料、研究データ、制作途中のコンテンツなどを未承認のサービスへ入力すれば、自社の管理下にある知的財産を外部へ送信することになります。
シャドーAIでは、利用したサービスや入力内容が記録されていないこともあります。
問題が発覚した時点で、どの情報を入力し、どの生成結果を社内外で利用したのか確認できなければ、影響範囲の特定にも時間がかかります。
シャドーAIを放置したときに起こる問題
個々の利用で直ちに事故が起こらなかったとしても、シャドーAIを放置してよいことにはなりません。
管理外の利用が続くと、会社は生成AIの利用状況を説明できないまま、業務情報だけが複数のサービスへ入力されていきます。
問題が起きてから調査しようとしても、利用者、入力内容、利用したサービスを特定できない可能性があります。
インシデントの影響範囲を特定できない
機密情報の入力が判明した場合、会社は何が、いつ、どのサービスへ入力されたのかを確認する必要があります。
しかし、個人アカウントや未承認サービスの利用履歴は、会社の管理画面や監査ログに残りません。
社員の記憶や自己申告に頼ることになり、入力された情報の範囲を正確に把握できない可能性があります。
影響範囲がわからなければ、サービス提供者への削除依頼、顧客への報告、再発防止策の検討も遅れます。
入力行為そのものに加えて、初動対応が取りにくいことが被害を広げる要因になります。
部門ごとに異なる利用ルールが生まれる
全社共通のルールがなければ、生成AIをどこまで使うかは各部門や社員の判断に委ねられます。
ある部門では顧客情報の入力を禁止し、別の部門では議事録をそのまま要約させる。
同じ会社の中で、このような差が生まれる可能性があります。
安全性の判断が担当者によって変われば、情報管理の水準を全社でそろえられません。
異動や共同プロジェクトをきっかけに、どのルールへ従えばよいのかわからなくなる問題も起こります。
企業が行うべきシャドーAI対策
シャドーAI対策というと、未承認の生成AIサービスへのアクセス制限を思い浮かべるかもしれません。アクセス制限は対策の一つですが、それだけでは不十分です。
個人端末からの利用をすべて把握することは難しく、禁止を強めるほど利用実態が見えにくくなる可能性もあります。
企業には社員が生成AIを使っている前提に立ち、管理できる利用へ移す仕組みが必要です。
社内の生成AI利用を把握する
最初に、社内でどのような生成AIが使われているかを確認します。
確認する項目は、サービス名だけではありません。
- 誰が利用しているか
- 契約形態（個人・会社全体or部署承認のどちらを使っているか）
- どの業務で利用しているか
- どのような情報を入力しているか
社内アンケートや部門ごとのヒアリングに加え、必要に応じてアクセスログなども確認します。
この段階で利用者を処罰する姿勢を強く出すと、社員が利用を申告しにくくなります。まずは安全な利用環境を整えるための調査であることを伝え、実態を把握することが先です。
入力してよい情報と禁止する情報を具体化する
「機密情報を入力しない」というルールだけでは、社員によって判断が分かれます。
顧客から届いたメール、社内会議の議事録、作成途中の提案書など、日常業務で扱う情報が入力可能かどうかを具体的に示す必要があります。
たとえば、入力情報を次のように分類します。
- 入力可能：すでに一般公開されている情報
- 条件付きで入力可能：個人名や企業名などを削除し、匿名化した場合
- 入力禁止：個人情報、顧客の機密情報、未公開情報、認証情報、自社の重要な技術情報
実際の分類は、自社の情報管理規程、顧客との契約、利用する生成AIサービスの条件に合わせて決めます。
会社が承認した生成AI環境を用意する
禁止事項を定めるだけでは、社員が生成AIを使いたいという業務上の需要はなくなりません。会社側で安全性を確認した生成AIサービスを用意し、「この環境であれば、この範囲まで利用できる」と示す必要があります。
サービスを選定する際には、少なくとも次の項目を確認します。
- 入力データが学習や品質改善に利用されるか
- データの保存期間と削除方法
- アカウントと権限を管理できるか
- 利用履歴や監査ログを確認できるか
- 法人向けの契約条件やセキュリティ対策が整っているか
「法人向けサービスだから安全」と一律に判断することはできません。
サービスごとの契約内容と設定を確認し、自社が想定する利用方法に合うかを判断します。
新しいAIサービスを申請できる窓口を設ける
生成AIサービスは次々に登場し、既存の業務サービスにもAI機能が追加されます。最初に作った承認サービス一覧だけで、すべての利用を管理し続けることは困難です。
社員が新しいサービスを使いたいときに、簡単に相談、申請できる窓口を設けます。申請を受けた管理部門は、入力データの取り扱い、保存期間、管理機能、利用目的などを確認し、利用の可否や条件を回答します。
承認に時間がかかりすぎれば、社員は再び個人判断で使い始めます。確認項目を標準化し、試験利用の条件や回答期限を決めておくと、管理と業務効率を両立しやすくなります。
まとめ
シャドーAIとは、社員や部門が会社の承認を得ず、生成AIなどのAIサービスを業務で利用することです。
未承認の生成AIへ機密情報や個人情報が入力されると、情報の保存先や利用方法を会社が管理できません。
法令や顧客との契約に抵触する可能性に加え、誤った生成結果が業務に使われても、その経緯を追跡できない問題があります。
対策として必要なのは、生成AIの利用を一律に禁止することだけではありません。
社内で使われているサービスと用途を把握し、入力できる情報を具体的に定め、安全性を確認した利用環境を用意する。
そのうえで、業務ごとの利用例と確認手順を社員へ示し、新しいサービスを申請できる仕組みを整えます。
しかし、言葉では簡単に説明できますが、これを仕組み化し運用するには膨大な工数と定着までの時間がかかります。
さらに完全に監視しきれないという課題が残ります。
弊社ではそんなシャドーAIのリスクを監視する「AI利用評価クラウド」を提供しております。
AI利用評価クラウドでは生成AIの従業員のAI利用の把握、評価、監視、リスク管理までをカバーしております。
・ブラウザ拡張を入れるだけ
・ChatGPT / Claude / Geminiの利用を可視化
・個人情報やソースコード投入リスクをガードレールとしてチェック
これで煩雑な生成AIの利用管理問題を解決することができます！
詳細や使い方などについてはご相談ください！
関連記事
Contact
AI活用の相談、まずは無料で
コラムで取り上げたテーマについて、貴社への適用可能性をお気軽にご相談ください。