ChatGPT、Claude、Geminiといった生成AIが業務で広く使われるようになり、情シス部門は新たなセキュリティ課題に直面しています。便利な技術である一方、機密情報の漏洩・著作権侵害・不正利用といったリスクが急速に顕在化し、各国の規制当局も警鐘を鳴らしています。

しかし「具体的にどんなリスクがあるのか」「業務で禁止すべきか、許可すべきか」「どうガバナンスを整えればいいのか」と悩む情シス担当者は少なくありません。実際、生成AIのリスクは情報漏洩だけでなく、知的財産・コンプライアンス・社会的責任など複数の領域にまたがります。

本記事では、生成AIが企業にもたらす7つのセキュリティリスク、放置することで生じる被害、対策の進め方、企業が活用すべきガイドライン、ツールの活用、用語集、よくある質問までを情シス担当者向けに体系的に整理します。

資料ダウンロード：5分でわかるジョーシス

生成AIのセキュリティリスクとは

生成AIのセキュリティリスクとは、ChatGPT・Claude・Geminiなどの大規模言語モデル（LLM）を企業業務で利用する際に発生するさまざまなリスクの総称です。情報漏洩・知的財産権侵害・コンプライアンス違反・モデルの誤動作など、多様な領域にわたるのが特徴です。

生成AIは2022年末のChatGPT登場以降、世界中の企業で急速に活用が広がりました。複数の調査では、多くの企業で生成AIの業務活用が急速に進んでいることが報告されています。一方、IPAの「情報セキュリティ10大脅威」では、内部不正や不注意による情報漏えい、標的型攻撃のリスクが依然として上位に位置しており、生成AI利用の拡大がこれらのリスクを助長する要因として注目されています。

生成AI利用が広がった背景

生成AIが企業で急速に普及した背景には、3つの要因があります。

• 自然な対話形式で誰でも使える操作性
• 文書作成・要約・翻訳・コーディングなど業務適用範囲の広さ
• 個人でも月額数千円で高機能AIにアクセスできる価格

これらが組み合わさり、情シスの管理が及ばないまま現場での活用が広がる「シャドーAI」が発生しています。

リスクが顕在化した事例

実際に発生した代表的な事例には以下があります。

• 韓国大手電機メーカーの社員がChatGPTにソースコードを入力し、機密情報が外部に流出
• 米国の弁護士がChatGPTで生成した架空の判例を裁判書類に引用、信用失墜
• 海外企業が生成AIで作成した広告コンテンツが既存作品を侵害、訴訟に発展

これらの事例は、生成AIのセキュリティリスクが理論上のものではなく、現実の経営リスクであることを示しています。

参考：IPA — 情報セキュリティ10大脅威

企業が直面する生成AIの7つのリスク

生成AIのリスクは多面的で、情シス部門としては以下の7つを把握しておく必要があります。それぞれリスクの性質と対策が異なります。

1. 機密情報の漏洩リスク

最も身近で深刻なリスクが、機密情報の漏洩です。従業員がプロンプトに顧客情報・契約書・ソースコードを入力すると、生成AIサービスのサーバーに送信されます。一部のサービスではこのデータが学習材料として再利用される可能性があり、外部への流出リスクが残ります。

2. 著作権・知的財産権侵害

生成AIが出力するコンテンツには、学習データに含まれる既存作品の特徴が反映されることがあります。意図せず他者の著作物に類似した文章・画像・コードを生成し、利用すれば著作権侵害となる可能性があります。商用利用時に特に注意が必要です。

3. ハルシネーションによる誤情報の業務利用

生成AIは事実と異なる内容を確信を持って提示する「ハルシネーション」を起こします。法律相談・医療情報・技術仕様の確認など、正確性が求められる領域で誤った回答を信用すると、ビジネス上の誤判断や信用失墜につながります。

4. プロンプトインジェクション攻撃

外部のWeb情報やドキュメントを生成AIに参照させる際、悪意のある指示が混入し、AIの動作が乗っ取られる攻撃が「プロンプトインジェクション」です。社内文書から機密情報を引き出されたり、誤った操作を実行させられたりするリスクがあり、特にAIエージェントの普及とともに注目されています。

5. ディープフェイクによるなりすまし

生成AIは音声・映像・テキストを高精度で生成でき、これを悪用したなりすまし攻撃が増加しています。経営者の音声を真似た送金指示メールや、なりすまし動画でのSNS情報操作など、企業を狙う攻撃が現実化しています。

6. AIバイアスと差別的アウトプット

生成AIは学習データに含まれる偏見を引き継ぎ、人種・性別・年齢に関する差別的なアウトプットを生成することがあります。採用選考・人事評価・顧客対応に生成AIを使う場合、企業の社会的責任に関わる問題となります。

7. シャドーAIの増加

情シスの管理外で従業員が生成AIを利用する「シャドーAI」が広がっています。個人契約のAIサービスを業務に使うことで、情報漏洩リスクが管理不能な領域で増殖し、ガバナンス上の重大な課題となっています。

参考：OWASP — Top 10 for LLM Applications

生成AIリスクを放置した場合の被害

生成AIのリスクを放置すると、企業は複数の領域で深刻な被害を受けます。情シスとして経営層に説明する際に役立つ4つの観点を整理します。

機密情報流出による経営インパクト

機密情報の流出は、競争優位の喪失・顧客信頼の毀損・株価への影響と直結します。IBMの「Cost of a Data Breach Report 2024」によれば、データ漏洩1件あたりの平均被害額は世界平均で約488万ドルに達しています。生成AI経由の漏洩はこのリスクを新たに加える要因です。

法的・コンプライアンス上の責任

GDPR・改正個人情報保護法・EU AI Act・日本の生成AIガイドラインなど、国内外で規制が急速に整備されています。生成AI利用が要件を満たさない場合、行政処分・罰金・取引停止のリスクがあり、企業の事業継続に直接影響する可能性があります。

ブランド毀損・信用失墜

生成AIによる差別的アウトプットや誤情報の発信が公になれば、ブランドイメージは大きく損なわれます。SNSで瞬時に拡散する時代、一度失った信用の回復には膨大な時間とコストがかかります。

内部不正の温床

生成AIへの機密情報入力は、内部不正の隠れ蓑にもなりえます。退職予定者が「業務で使った」と称してAIに顧客リストを入力し、外部から再取得する手口が懸念されています。生成AI経由の情報持ち出しは、従来のDLPでは検知しにくい新しいリスク領域です。

参考：IBM — Cost of a Data Breach Report 2024

企業がとるべき生成AI対策

生成AIのリスクは「禁止」では解決できません。生産性向上に貢献する側面が大きいため、ガバナンス対象として組み込み、リスクを管理しながら活用するアプローチが現代の主流です。5つの対策を組み合わせて運用します。

対策1：利用ガイドラインの策定

社内で生成AIを使う際のルールを策定します。具体的には、入力可能・禁止のデータ分類、利用可能なサービスのリスト、出力の検証手順、トラブル発生時の報告ルートなどを文書化します。経済産業省や日本ディープラーニング協会が公開しているガイドラインがベースとして活用できます。

対策2：エンタープライズ版AIの導入

ChatGPT Enterprise、Microsoft 365 Copilot、Claude Enterprise、Gemini for Workspaceなど、企業向けプランを正式採用します。これらはデータが学習材料に使われない・SOC 2やISO 27001認証取得済み・管理者コンソール提供などのエンタープライズ機能を備え、個人プランより安全に活用できます。

対策3：DLP・CASBによる情報漏洩対策

DLP（Data Loss Prevention）やCASB（Cloud Access Security Broker）を導入し、機密情報がプロンプトに入力されることを検知・遮断します。Microsoft Defender for Cloud Apps、Netskope、Zscalerなどがこの機能を提供しています。

対策4：従業員教育とAIリテラシー向上

ガイドラインを文書化するだけでは行動変容は起きません。定期的な研修・eラーニング・実例共有を通じて、生成AIの正しい使い方とリスクの理解を浸透させます。AIリテラシーの底上げが、長期的なリスク削減につながります。

対策5：シャドーAIの可視化と統制

経費精算データやネットワークログから個人契約の生成AIサービスを検出し、企業契約に切り替えます。SaaS統合管理プラットフォームを活用すれば、シャドーAIの発見からアカウント整備までを自動化できます。

参考：経済産業省 — AI事業者ガイドライン

生成AIガイドラインの活用

企業が生成AI利用ガイドラインを策定する際、ゼロから作る必要はありません。国内外で参考にできるガイドラインが整備されており、これをベースに自社の実情に合わせてカスタマイズするのが効率的です。

経済産業省「AI事業者ガイドライン」

経済産業省と総務省が共同で策定したガイドラインで、AI開発者・提供者・利用者それぞれの責務を整理しています。日本企業のAIガバナンス策定の出発点として活用できます。

日本ディープラーニング協会（JDLA）「生成AIの利用ガイドライン」

実務担当者向けに具体的な使い方と注意点を整理したガイドラインです。プロンプトに入力すべきでない情報、出力の検証方法など、現場で使える実践的な内容が含まれます。

NIST AI Risk Management Framework

米国NISTが公開するAIリスク管理フレームワークで、AIライフサイクル全体のリスク識別・評価・対策の枠組みを提供します。グローバル展開する企業はこの基準を参照することが推奨されます。

EU AI Act

EU圏で2024年に成立したAI規制法で、リスクレベルに応じた義務を企業に課します。禁止AI・GPAIモデル・高リスクAIなど対象分類別に段階的な義務が適用されるため、EUに事業展開する企業は自社の対象範囲と適用時期を確認する必要があります。

OWASP Top 10 for LLM Applications

LLMアプリケーション開発における代表的な脆弱性をまとめた資料で、開発側の視点から対策を整理しています。社内でAIアプリを開発する企業に有用です。

参考：NIST AI Risk Management Framework

対策に役立つ代表的なツール

生成AIのセキュリティ対策には、目的に応じた複数のツールを組み合わせることが効果的です。代表的な6カテゴリ・製品を紹介します。

Microsoft Purview AI Hub

Microsoft Purview（DSPM for AI）は、Microsoft 365とCopilotの利用状況を可視化し、ガバナンスを強化する機能です。プロンプトに入力された機密情報の検出、ポリシー違反の検知、利用状況の監査などが行えます。

Netskope GenAI Security

Netskope GenAI Securityは、SSEプラットフォーム上で生成AIサービスへのアクセスを制御し、データ漏洩を防止する機能です。多数の生成AIサービスに対応し、リスクベースのアクセス制御を提供します。

Zscaler AI Protection

Zscaler AI Protectionは、生成AIサービスへの通信を検査し、機密情報の送信を遮断する機能です。クラウド型ネットワークセキュリティの一機能として提供され、リモートワーク環境にも対応します。

Lasso Security

Lasso Securityは、生成AI利用に特化したセキュリティ専業のスタートアップです。プロンプトインジェクション対策、機密情報検知、コンプライアンス監査を一元的に提供し、AI特化型のリスク管理を実現します。

Microsoft Defender for Cloud Apps

Microsoft Defender for Cloud Appsは、CASBとして生成AIを含むクラウドアプリの利用を可視化し、リスク評価とポリシー適用を行います。Microsoft 365 E5プランに付属し、シャドーAI対策の起点として活用できます。

ジョーシス

ジョーシスは、AI駆動型アイデンティティガバナンスプラットフォームとして、企業契約の生成AIサービス（ChatGPT Enterprise、Microsoft Copilotなど）のアカウント・ライセンス管理を統合し、シャドーAIの検出からガバナンス組み込みまでを支援します。350以上のSaaSと連携可能で、生成AIサービスを全体のSaaS管理に統合する基盤となります。

参考：Gartner — Top Trends in Cybersecurity 2024

生成AIリスク関連の重要用語集

生成AIのリスクと対策で頻出する6つの専門用語を整理します。

LLM（Large Language Model）

LLMは、大規模なテキストデータで訓練されたAIモデルで、自然言語の理解・生成を行います。GPT-4、Claude、Geminiなどが代表的で、企業活用の中心となっています。

ハルシネーション

ハルシネーションは、AIが事実と異なる内容を確信を持って生成する現象を指します。生成AIの主要なリスクのひとつとして、業務での精度評価の重要観察点となっています。

プロンプトインジェクション

プロンプトインジェクションは、悪意ある指示をAIに送り、本来の動作を乗っ取る攻撃手法です。OWASP Top 10 for LLMの第1位に位置づけられる代表的脅威です。

シャドーAI

シャドーAIは、情シスの管理外で従業員が利用する生成AIサービスを指します。シャドーITの新形態として、企業ガバナンスの重要テーマとなっています。

AIガバナンス

AIガバナンスは、AI技術の利用に関するポリシー策定・運用統制・モニタリングを統合的に行う仕組みです。企業のAIリスク管理の中核フレームワークとして位置づけられます。

RAG（Retrieval-Augmented Generation）

RAGは、LLMに外部ナレッジベースを参照させながら回答を生成する技術です。社内固有の情報に基づく回答を可能にし、ハルシネーションを抑制する手法として広く利用されます。

参考：OWASP — Top 10 for LLM Applications

生成AIガバナンスはSaaS統合管理と一体で

生成AIのリスク対策は、ガイドライン策定や個別ツール導入だけでは不十分です。シャドーAIの可視化、企業契約AIサービスのアカウント・ライセンス管理、退職時のアクセス停止といった運用課題は、SaaS統合管理プラットフォームと一体で解決するのが現実的なアプローチとなっています。

SaaS統合管理が解決する3つの領域

• シャドーAIの発見：個人契約のAIサービスを経費・ログから検出
• アカウント整備の自動化：企業契約AIのアカウント発行・削除を自動化
• ライセンス最適化：未使用のAIライセンスを定期検出・削減

これらが揃うことで、生成AIガバナンスの運用基盤を整えやすくなります。

ジョーシスで実現する生成AIを含むSaaS統合管理

ジョーシスは、AI駆動型アイデンティティガバナンスプラットフォームとして、350以上のSaaSと連携し、生成AIサービスを含むアカウント・アクセス権・ライセンス・利用状況を一元管理します。シャドーAIの検出から企業契約の統合管理まで一気通貫で支援することで、IT工数を最大50%削減し、ITコストを最大75%削減した導入実績があります。国内外700社以上のお客様にご採用いただいているジョーシスのプラットフォームは、生成AI時代の情シスのガバナンス基盤として機能します。

資料ダウンロード：5分でわかるジョーシス

無料デモを予約する

参考：Josys公式サイト

生成AIのセキュリティリスクに関するよくある質問

実務担当者からよく寄せられる質問を4つ取り上げ、実務目線で回答します。

Q1. 生成AIの業務利用は禁止すべきですか

A. 禁止だけでは現場の不満を招き、シャドーAIが増殖するだけです。エンタープライズ版を正式採用し、ガイドラインに沿った許可された利用範囲を提供する「リスクベースの許可」が現代の主流です。生産性向上の機会を逃さず、ガバナンスを保つ両立が可能になります。

Q2. ChatGPTのEnterprise版と通常版の違いは何ですか

A. データが学習に使われない、SOC 2 Type 2認証取得済み、SAMLによるSSO対応、管理コンソール提供、データ保持期間の管理などがEnterprise版の特徴です。通常版（無料・Plus）と比べてエンタープライズ機能が大幅に強化されており、企業利用には必須の選択となります。

Q3. 生成AIの誤情報を防ぐ方法はありますか

A. RAG（社内ナレッジ参照）の活用、出典URLの確認、複数AIによるクロスチェック、人間の最終確認の4つを組み合わせます。完全な誤情報排除はできませんが、運用設計でリスクを許容範囲に抑えることが可能です。重要判断には必ず人間の確認を介在させる設計を貫くことが大切です。

Q4. 中小企業でも生成AIガバナンスは必要ですか

A. 規模を問わず必要です。中小企業の場合、Microsoft 365 Copilotから始めて、軽量なガイドラインを策定するアプローチが現実的です。投資負担を抑えながらガバナンスの基盤を作れます。

参考：IPA — 中小企業のサイバーセキュリティ対策ガイドライン

まとめ：生成AIリスクは「禁止」ではなく「ガバナンス」で解決する

生成AIは、企業の生産性向上に革命的な可能性をもたらす一方で、機密情報漏洩・著作権侵害・ハルシネーション・シャドーAIといった多面的なリスクを生み出しています。「禁止」ではなく、ガイドライン・エンタープライズ版採用・DLP/CASB・従業員教育・SaaS統合管理を組み合わせた「ガバナンス型」アプローチが現代の主流です。

実効性のあるリスク対策には、ポリシー策定・ツール導入・運用統制・継続改善という4ステップを構造的に運用することが重要です。経済産業省・JDLA・NIST・EU AI Actなどのガイドラインをベースに、自社の実情に合わせた運用設計を行います。

生成AIガバナンスは、シャドーAIの可視化と企業契約AIのアカウント・ライセンス管理という運用面で、SaaS統合管理プラットフォームと一体で運用するのが現実的です。ジョーシスのようなプラットフォームを活用することで、生成AI時代の情シスは「禁止する側」ではなく「安全に活用を支える側」として機能できるようになります。

資料ダウンロード：5分でわかるジョーシス