第2話AI・デジタル

シャドーAIShadow AI「闇に潜むAI」

しゃどー・えーあい

第2話闇に潜むAI
起権藤HD 役員会議室わが社はAI禁止だ。情報もれなど起こりようがない…本当に、そうかな
承00007919583837571676959575145433335212719190710950282947086687856704462325420461838062994218213700567975シャドーAI会社が知らない所で社員が自分の判断でAIを仕事に使う…見えない危険禁止した会社ほど、闇は深くなる…
転ゴゴゴゴゴゴな…なんだと…!?わが社にも潜んでおるのか!調べました。ほぼ全部署で使われています
結ギクッギクッその夜――(言えん…わしの年頭スピーチもAI製だとは…)会長、画面が全部見えてます
セリフを文字で読む
  • 1(権藤HD 役員会議室)
  • 1権藤会長「わが社はAI禁止だ。情報もれなど起こりようがない」
  • 1九条「…本当に、そうかな」
  • 2九条「禁止した会社ほど、闇は深くなる…」
  • 3権藤会長「な…なんだと…!?わが社にも潜んでおるのか!」
  • 3氷室「調べました。ほぼ全部署で使われています」
  • 3(ゴゴゴ)
  • 4(その夜――)
  • 4権藤会長「(言えん…わしの年頭スピーチもAI製だとは…)」
  • 4氷室「会長、画面が全部見えてます」
  • 4(ギクッ)
3行でわかる「シャドーAI」
  1. シャドーAIとは、会社が把握していないところで、社員が個人の判断でAIを仕事に使っている状態のこと。
  2. 悪意ではなく「便利だから」「仕事を早く終えたいから」起きることが多く、禁止するだけでは地下に潜ると言われる。
  3. 対策のカギは、実態を見える化し、安全な公式ツールと使い方のルールを用意すること。

徹底解説シャドーAI

シャドーAIとは

シャドーAI(Shadow AI)とは、会社の情報システム部門や経営者が把握・許可していないところで、社員が自分の判断で生成AIなどのAIツールを仕事に使っている状態のことです。「シャドー(shadow)」は「影」。会社から見えない影の部分でAIが使われている、という意味で、英語圏で使われ始めた言葉とされています。

もともとIT業界には「シャドーIT」という言葉がありました。会社が認めていないクラウドサービスや個人のスマートフォン、無料のファイル共有サービスなどを、社員が勝手に仕事に使うことです。生成AIが誰でも無料ですぐ使えるようになったことで、そのAI版として「シャドーAI」という言葉が注目されるようになりました。

たとえば、次のような場面はすべてシャドーAIにあたる可能性があります。

  • 営業担当が、個人のアカウントのチャットAIにお客様とのメールをそのまま貼りつけて返信文を作らせる
  • 経理担当が、会社の売上データを無料のAIサービスに読み込ませてグラフを作る
  • 開発担当が、社内のプログラムをAIに見せて不具合を直してもらう
  • 会議の録音を、会社が知らない文字起こし・要約アプリに送る
図1会社が認めたAI活用と、シャドーAIのちがい
シャドーAI社員が個人の判断で使う個人のアカウント・無料版何を入力したか誰も知らない設定や規約の確認はなしトラブルが起きても気づけない会社が認めたAI活用会社が選んだツールを使う会社のアカウントで管理入力してよい情報が決まっている契約・設定を会社が確認利用の記録が残り、相談できる

なぜシャドーAIは生まれるのか

大事なのは、シャドーAIの多くは悪意ではなく善意から生まれるということです。社員は会社をだまそうとしているのではなく、「早く仕事を終えたい」「もっと良い資料を作りたい」と思っているだけ、というケースがほとんどです。

図2シャドーAIが生まれ、リスクになるまでの流れ
01仕事が多い締め切りに追われる02便利なAIスマホや個人PCですぐ使える03こっそり利用会社に聞いても許可が出ない04情報を入力顧客名や数字をそのまま貼る05見えない危険もれても誰も気づけない
原因現場の本音
1. あまりに手軽スマホやブラウザですぐ使え、申請も費用もいらない。
2. 効果が大きい文章作成や要約が一瞬で終わる。一度使うと手放せない。
3. 会社の対応が遅い使ってよいか聞いても返事がない、または「とりあえず禁止」。
4. ルールがわからない何を入れたら危ないのか、誰も教えてくれない。

マンガで九条が言った「禁止した会社ほど、闇は深くなる」とは、このことです。現場に必要とされている道具を、代わりも用意せずに禁止すると、社員は使うのをやめるのではなく、見えないところで使うようになる――そう指摘されることが多くあります。

シャドーAIの5つのリスク

シャドーAIそのものが悪いのではなく、問題は「誰も把握していないこと」です。把握していないと、次のようなリスクに気づくことも、手を打つこともできません。

リスク起こりうること対策の例
情報もれ顧客情報や機密情報を外部のサービスに送ってしまう。サービスや設定によっては、入力内容がAIの改善(学習)に使われる場合もある入力してはいけない情報を決める。会社として契約・設定を確認したツールを用意する
契約・約束違反取引先と結んだ秘密保持の約束に反する使い方をしてしまう取引先の情報の扱いをルールに明記する
まちがいの混入AIのもっともらしい誤り(ハルシネーション)が、確認されないまま資料や回答に入るAIの出力は人が確認してから使う
権利の問題AIが作った文章や画像が、他人の著作物に似てしまう社外に出す物は確認の手順を決める
説明できないトラブル時に「いつ・誰が・何に使ったか」わからず、原因を説明できない会社のアカウントで使い、記録が残る形にする
オチの会長は…「AI禁止」を宣言した本人が、こっそり年頭スピーチをAIに書かせていました。笑い話ですが、実はシャドーAIは役員や管理職ほど起きやすいとも言われます。忙しく、決裁権があり、注意する人がいないからです。ルールを作る人が、まず自分の使い方を見直すことが第一歩です。

「禁止」か「放任」か――会社の4つのタイプ

会社のAIへの向き合い方は、「公式に使えるツールがあるか」と「使い方のルールがはっきりしているか」の2つで整理すると見えやすくなります。

図3会社のAI対応 4つのタイプ
道具だけある使い方がバラバラで事故が起きやすい目指す姿安全な道具+ルールで堂々と使える放置・全面禁止シャドーAIが最も増えやすいルールだけある使える道具がなく結局こっそり使うあいまいはっきり使い方のルールの明確さなしあり公式ツール

シャドーAIが最も増えやすいのは、左下の「放置・全面禁止」の会社です。逆に右上の「目指す姿」は、会社が安全なAIを用意し、入力してよい情報のルールを決めたうえで、堂々と使ってもらう状態です。こうなると、社員は影でこっそり使う理由がなくなります。

シャドーAIを「光の当たる場所」に出す5ステップ

  1. 実態を聞く(責めない):「どんな仕事に、どのAIを使っているか」を匿名アンケートなどで聞きます。ここで責めると、二度と本当のことを教えてもらえません。
  2. 使い道を集める:現場が便利に使っている使い道は、そのまま会社の「AI活用のタネ」になります。
  3. 公式ツールを用意する:会社として契約内容や、入力データの扱いの設定を確認したAIツールを用意します。
  4. 入力ルールを決める:「顧客の個人情報」「取引先から預かった情報」「未発表の数字」など、入力してはいけない情報を具体例つきで決めます。
  5. 相談窓口と見直し:「これは使っていい?」と気軽に聞ける窓口を作り、ルールを定期的に見直します。
図4シャドーAI対策の4つの層(このサイトによる整理)
文化隠さず相談できる雰囲気をつくる教育危ない入力の例を全員で学ぶルール入力してよい情報を決める道具会社が認めたAIを用意する

対策は「道具」だけでも「ルール」だけでも足りません。下の層(道具・ルール)を整えたうえで、上の層(教育・文化)まで積み上げて、はじめて「隠れて使うより、相談して使ったほうが得」という状態になります。

入力ルールの例(たたき台)

区分情報の例公式AIへの入力
入力してよい公開済みの会社案内、一般的な文章の言い回し、個人名を消した文章○
条件つき社内の企画書、未公開の数字(会社が認めたツールで、設定を確認済みの場合のみ)△
入力しない顧客の個人情報、取引先から預かった秘密情報、パスワードや認証情報×
注意:AIサービスの利用規約やデータの扱い(入力内容を学習に使うかどうか等)は、サービスや契約プラン、設定によって異なり、変更されることもあります。導入するときは、各サービスの最新の公式情報と、自社の情報セキュリティのルールを必ず確認してください。

関連キーワード

  • シャドーIT:会社が認めていないITサービスや機器を、社員が業務に使うこと。シャドーAIの元になった言葉。
  • AIガバナンス:AIを安全・公正に使うための社内ルールや管理の仕組み。
  • AI利用ガイドライン:社員がAIを使うときの具体的なルールをまとめた社内文書。
  • ハルシネーション:AIが事実でないことを、もっともらしく答えてしまう現象。
結論

シャドーAIは「社員の不正」ではなく「会社の仕組みが現場の必要に追いついていないサイン」。禁止より、見える化・公式ルート・入力してはいけない情報のルールで光の当たる場所に引き出すのが近道だ。

九条の一言

影は、光を消しても消えぬ。…光の当たる場所を、用意してやれ。