2026年1月29日、情報処理推進機構（IPA）が公表した『情報セキュリティ10大脅威 2026』において、組織向け脅威の第3位に「AIの利用をめぐるサイバーリスク」がランクインしました。これは、2006年の調査開始以来、初めてのことです。

機密情報の入力による情報漏えいや、出力内容を十分に検証せず意思決定に用いることによる誤判断、さらには攻撃者によるAIの悪用……。組織には、こうしたリスクへの迅速な対処が求められています。

本記事では、IPAが示した最新の脅威動向を基に、企業の情報システム部門やDX推進担当者が押さえておくべきAIリスクの実態を整理し、ソースコード流出やディープフェイク詐欺など、国外の具体的な事例を三つ解説。その上で、必要なAIリスク対策を3ステップでご紹介します。

【関連記事】

【2025年版】最新の情報セキュリティの課題について解説

IPA「10大脅威 2026」でAIリスクが初の第3位に──何が変わったのか

「情報セキュリティ10大脅威」とは、情シス部門がセキュリティ対策の優先度を見直す定点観測として毎年、情報処理推進機構によって制作される資料です。その作成過程では、前年に発生した社会的影響の大きいセキュリティ事故や攻撃をもとにIPAが脅威候補を選出し、約250名の専門家で構成される「10大脅威選考会」により審査・投票が行われています。

内容は、企業・団体における情報漏えいやサプライチェーン攻撃などを対象とする「組織向け」と、フィッシング詐欺や不正アプリといった一般利用者に関わる「個人向け」とで整理されており、それぞれ異なる視点から対策の優先順位を把握できる構成となっています。

2026年版ランキング──AIリスクが初登場で第3位に

『情報セキュリティ10大脅威 2026』組織向けランキングは以下のとおりです。

順位	「組織」向け脅威	取り扱い
1	ランサム攻撃による被害	11年連続11回目
2	サプライチェーンや委託先を狙った攻撃	8年連続8回目
3	AIの利用をめぐるサイバーリスク	初選出
4	システムの脆弱性を悪用した攻撃	6年連続9回目
5	機密情報を狙った標的型攻撃	11年連続11回目
6	地政学的リスクに起因するサイバー攻撃	2年連続2回目
7	内部不正による情報漏えい等	11年連続11回目
8	リモートワーク等の環境や仕組みを狙った攻撃	6年連続6回目
9	DDoS攻撃（分散型サービス妨害攻撃）	2年連続7回目
10	ビジネスメール詐欺	9年連続9回目

本記事で取り上げる「AIの利用をめぐるサイバーリスク」は3位、かつ初選出。2025年版でも1位・2位だった「ランサム攻撃による被害」と「サプライチェーンや委託先を狙った攻撃」は順位は変わらず、2025年版で3位だった「システムの脆弱性を悪用した攻撃」は4位に後退しました。

「AIの利用をめぐるサイバーリスク」とは？

IPAの解説書では、生成AIの進化・普及に伴うリスクとして以下の3点が整理されています。

リスクの類型	概要
意図しない情報漏えい	従業員が個人利用のAIサービスを業務に使い、持ち出し禁止の業務データを入力することで情報漏えいにつながる
AI出力の鵜呑み	AIが架空の情報をあたかも事実かのように生成する「ハルシネーション」問題。対抗するための精査が求められる
攻撃者によるAI悪用	AIの悪用によるサイバー攻撃の容易化、手口の巧妙化が生じている

参考：情報セキュリティ10 大脅威 2026解説書［組織編］（IPA）

ここ3年ほどで、ChatGPTやClaudeといったチャット型AIを日常業務に使う社員が急増し、営業・人事・経理まで部門を問わず利用が広がりました。「便利な相談相手」として自然にデータを入力する行動が常態化し、組織が把握・統制できないままヒヤリハットが蓄積していったことが、今回の初選出・第3位という結果の背景にあります。

AIを業務で使っていない組織はもはや少数派と言っても過言ではありません。公的機関が正式に警鐘を鳴らした今こそ、「自分たちの組織でAIがどう使われているか」を棚卸しするタイミングといえるでしょう。

実事例から読み解く──三つのリスクはこうして顕在化した

前章で整理した三つのリスクは、すでに具体的な被害として顕在化しています。ここでは海外で実際に起きたケースを3件取り上げ、そこから企業の情シスが抽出すべき構造的な学びを整理します。いずれも「特殊な企業だから起きた」ものではなく、AIを業務利用するすべての組織に共通しうる発生メカニズムを内包しています。

事例1：ソースコード流出──「効率化」の裏で起きた情報漏えい

2023年、大手電子機器メーカーの半導体部門で、エンジニアが外部の生成AIサービスに機密情報を入力していたことが発覚しました。報道によれば、ある社員は社内のソースコードをバグ修正のために貼り付け、別のエンジニアは会議録音を書き起こして要約させたということです。

インシデント発覚後、同メーカーは即座にサービスを禁止にするのではなく、まず従業員一人あたりの入力容量をごく小さなサイズに制限し、機密情報を入力した場合は利用停止とする運用ルールを敷きました。その後、社内ネットワークと業務端末での生成AI利用を全面禁止する方針に転じ、社内専用AIの開発検討に踏み切ったといいます。

この事例から読み解けるのは、情報漏えいが「悪意」ではなく「効率化」という合理的動機から発生しているという点です。当該エンジニアは業務を速く終わらせるためにAIを活用しただけであり、ルール違反を意図していたわけではありません。にもかかわらず、一度外部サーバーに送信されたデータは回収不能となります。

事例2：架空判例の訴訟書面引用──「もっともらしい嘘」が組織的損失に直結した

2023年、米ニューヨーク州の弁護士が作成した航空会社への訴訟書面に含まれていた判例すべてが実在しないことが判明し、連邦地裁により弁護士側に罰金が科せられました。その書面は、生成AIによって作成された後、十分な精査が行われていなかったのです。

こうした事例は数件にとどまらず、専門性が高い業務ほど、AI出力の誤りが発覚しにくいとも言われています。弁護士など専門家が示す内容は、専門性の高さゆえに、万が一生成AIのハルシネーションを含んでいても、なかなか見抜けません。生成AIが普及した今、権威や慣習に依らない精査のルール・仕組みを構築することが求められています。

事例3：約40億円のディープフェイク詐欺──確認プロセスが逆利用された

2024年、大手エンジニアリング企業で、ビデオ会議中にCFOになりすました詐欺グループの指示により、財務担当者が40億円近い大金を送金する事件が発生しました。

攻撃の構造は以下のとおりです。

1.担当者に本社CFOを名乗る人物からメールが届き、「機密取引のためのビデオ会議」への参加を求められた。

2.担当者は当初フィッシングを疑ったものの、指定されたビデオ会議に参加すると、CFOだけでなく面識のあるほかの同僚数名も参加していた。

3.「全員が本物の同僚」に見えたことで担当者は疑念を捨て、送金を実行した。

4.後に本社CFOに確認したところ、そのような会議を開いた事実はなく、CFOや同僚はすべてディープフェイクにより再現されたものであった。

この事件で攻撃者は、CFOが社内プロモーション動画や対談番組などに出演していた映像から顔と音声を学習したと見られています。つまり企業の広報活動そのものが素材として利用されたわけです。

このように、AIにより人の目をごまかすことが容易になった今、ディープフェイクフォレンジックなどの対処を高度化する重要性も高まっています。

【関連記事】

「ディープフェイクフォレンジック」とは？ 生成AI時代に求められる“真実を見抜く”技術と情シスの役割

今日から始めるAIリスク対策──3ステップのロードマップ

AIリスクへの対応の必要性や、こうしたリスクがすでに現実の被害となっていることをご紹介してきました。有効な対策は、「入力段階の制御」「出力段階の検証」「権限・ログの統治」の3ステップに分けられます。

それぞれについて詳しく見ていきましょう。

ステップ1：入力段階の制御──「やってはいけない」ではなく「できない」をつくる

入力段階の制御で重要なのは、ルールづくり・周知と併せてそもそも機密情報を入力できない環境を構築しておくということです。

2024年7月に公表された「テキスト生成AIの導入・運用ガイドライン」（IPA）でも、情報漏えい対策について、ガバナンス・システムの両面で対応する必要性が示されています。。

なかでも、優先的に整備すべきポイントは次の4つです。

（1）法人向けプランへの一本化とシャドーITの遮断

入力データが学習に利用されないよう、法人プラン（Enterprise、Businessなど）に利用先を統一します。その上で、個人アカウントでの業務ブラウザアクセスをプロキシやSWG（Secure Web Gateway）で遮断します。後者はシャドーIT対策として最も基本的な対策といえるでしょう。

（2）DLPによる機密情報の送信前ブロック

DLP（Data Loss Prevention／データ損失防止）とは、社内の機密情報が外部に流出しないよう、通信内容やファイルを自動で検査・制御する仕組み、およびそのためのソリューションです。その導入により、従業員がプロンプトに入力した文字列をリアルタイムでスキャンし、マイナンバー、クレジットカード番号、顧客情報の定型パターン、契約書の特定キーワードなどを検知した時点で、AIへの送信を自動でブロックまたは警告します。

（3）入力データのマスキング運用

マスキングとは、機密情報を伏せ字や仮名に置換してからAIに渡す処理のことです。顧客名を「A社」、取引先名を「B社」、担当者名を「担当X」などに置き換え、業務上の文脈を壊さずに匿名化した上でプロンプトに入力する運用を自動化・標準化します。マスキングに特化したツールやサービスも多く展開されています。

（4）API経由の社内ラッパーの構築

社内ラッパー（wrapper）とは、外部AIサービスのAPIを社内システム側で包み込み、社員からのリクエストを、一度社内を経由させてからAIに中継する仕組み・ソリューションです。そもそも社員が直接外部AIサービスに接続しない構造をつくる対策は、大きな効果が見込まれます。

ステップ2：出力段階の検証──プロセスとして組織に埋め込む

ハルシネーションによる誤情報の発信を防ぐには、強固かつシンプルな検証プロセスを構築することが求められます。重要なのは、入力段階と同じく、個人の意識に頼らない仕組みをいかに導入するかということです。

（1）用途別のリスク区分を明示する

「ブレインストーミング用途」と「外部提出・意思決定根拠」の二つがあった場合、前者は自由度高く、後者は人によるレビューを必ず挟む、といった用途別ルールを設計します。利用形態・ユースケースごとにリスクが変わることを踏まえて、プロセスを組織ルールに組み込みましょう。

（2）RAG構成の検討

RAG（Retrieval-Augmented Generation）とは、社内ドキュメントやデータベースといった外部情報をAIの回答生成時に参照させる技術を指します。モデルが学習済みの知識だけで推論する余地を狭め、回答に根拠ソースが明示されるため、ハルシネーションの抑制に有効と言われているRAG。特に社内規程、製品仕様、過去の契約事例など、正解が存在する領域では効果が大きいと考えられます。

【関連記事】

RAGとは？生成AIに外部情報検索を組み合わせる技術を紹介

（3）出力の二段レビューをワークフローで強制する

外部提出物、法務・財務に関わる判断、顧客向け回答など、特に注意すべき出力については、生成コンテンツに対する承認フローをワークフローシステム側で強制する設計が有効です。承認を通過しない限り、送信や公開ができない仕組みにしておくことで、「忙しいから検証を飛ばす」「今回だけスキップする」といった運用上の抜け道が物理的に塞がれます。

ステップ3：権限・ログの統治──見えないものは管理できない

3ステップ目は、誰が・いつ・何を入力し、何を出力したかを可視化するアクセス制御とログ管理です。

『行政の進化と革新のための生成AIの調達・利活用に係るガイドライン』（デジタル庁・2025年5月）では、各府省庁にAI統括責任者（CAIO：Chief AI Officer）の設置を明記し、その役割として生成AIシステムの利活用状況、行政データの取扱い、リスクケースなどの一元把握を設定しています。これは行政向けの規定ですが、民間企業のガバナンス設計にも通ずる観点は多くあります。

企業が押さえるべき具体策は以下の4点です。

（1）AI利用の棚卸し

棚卸しとは、社内で実際に利用されているAIサービスを網羅的に把握・整理する作業のことです。SaaS利用状況の可視化ツール、プロキシログ、経費精算データなどを突き合わせることで、どの部門が、どのサービスを、どの程度利用しているかを洗い出します。情シス部門が把握していない利用はほとんどの組織に存在すると考えましょう。まずは現状を可視化することがガバナンス設計の出発点となります。

（2）SSO／IDaaSへの集約

SSO（Single Sign-On／シングルサインオン）は、一度の認証で複数のサービスにログインできる仕組み、IDaaS（Identity as a Service）はそのSSO機能やアカウント管理機能をクラウドで提供するサービス群を指します。AIサービスへのアクセスをこれらの基盤に集約することで、アカウントの発行・停止・権限変更を一元管理し、退職者や異動者のアクセス権を即座に失効できる状態を構築します。個別のメールアドレスで作成されたアカウントが部門ごとに野放しになっている状況は、最もありがちな統制上の穴といえるでしょう。

（3）監査ログの保持と閲覧統制

先に挙げたAPIラッパーやログ基盤を活用し、プロンプト（入力）と応答（出力）のペアを一定期間保持した上で、閲覧できる担当者を限定する運用です。保持期間は一般的に90日〜1年程度が目安とされ、インシデント対応や内部監査の観点からは最低でも90日、金融・医療・官公庁取引など高い監査要件が課される業種では1〜3年、法令や契約で長期保存が義務付けられる領域ではそれ以上の保持が求められるケースもあります。

短すぎればインシデント発生時の追跡・監査が不能となり、長すぎればログ自体が二次流出のリスク資産となるというトレードオフの関係にあるため、業種特性や契約先から求められる監査要件に応じて、適切な期間を設計する必要があります。

（4）AI統括責任者の明確化

AIの利活用とリスク管理に関する最終的な意思決定者・説明責任者を、組織上で明文化します。国の政策領域ではデジタル庁がCAIO制度を整備していますが、数十～数百名規模の組織でフルタイムの専任役職を新設するのは過剰となる可能性もあります。

CIOや情シス部門長、場合によっては法務担当役員が兼務する形で十分に機能するでしょう。重要なのは役職の名称そのものではなく、「誰が判断し、誰に報告が上がり、誰が対外的な説明責任を負うのか」という指揮系統が文書として明確になっていることです。

「AI禁止はもはや難しい」──ではどうする？を考えよう

「AIは危ないから一律禁止」とするのは、DX（デジタルトランスフォーメーション）が加速する現代において現実的な選択肢ではありません。

IPAの『情報セキュリティ10大脅威 2026』にAIリスクがランクインしたことは、AIがもはや特別な技術ではなく、「対策すべき当たり前のインフラ」になったことを意味しています。

情シス部門に求められているのは、AIを遠ざけることではなく、適切なガードレールを設けることで、従業員が安全にAIの恩恵を享受できる環境を整えることです。まずは自社のAI利用実態の棚卸しから始めてみてはいかがでしょうか。