プルーフポイントが実施した世界規模の調査で、企業のAI活用における深刻な実態が明らかになった。調査対象組織の87%が既にAIアシスタントを本番環境へ移行させている一方、52%が「自社のAIシステムが侵害されても検知できる確信がない」と回答。導入スピードとセキュリティ統制の間に危険な乖離が生じている。
参考: 生成AI関連の脅威は高水準、企業のAIセキュリティ対策に不安も（Proofpoint）
分析・見解
既存の防御ツールはAIならではの攻撃を想定していない
この調査結果が示すのは、単なる準備不足ではなく構造的な問題だ。従来のパソコンやスマホを守る仕組みや、通信を見張るネットワーク監視ツールは、AI特有の攻撃を想定していない。AIへの指示に不正な命令を紛れ込ませる攻撃(プロンプトインジェクション)による意図しない動作、学習データへの不正な情報注入、外部連携の仕組み(API)を通じた大量データ流出―これらはファイアウォールやウイルス対策ソフトでは防げない。
87%が本番投入する一方、半数以上が侵害に気づけない
特に注目すべきは、87%という本番運用率の高さだ。多くの企業が「試してから判断」の段階を飛ばし、効率化の誘惑に抗えず見切り発車している。しかし52%が侵害の検知に自信がないということは、過半数の企業が「何が起きているか分からない状態」でAIを業務に組み込んでいることを意味する。これは2000年代初頭、クラウド移行時に見られた、会社が把握していないIT利用が広がる問題(シャドーIT問題)の再来だが、今回は機密データを直接扱うためリスクの桁が違う。
AIの入出力を継続的に見張る仕組みが整っていない
問題の本質は、AIが何をしているか見えないことにある。AIシステムへの入力データ、生成された出力、外部との通信―これらを継続的に監視し、異常を検知する仕組みが整っていない。従来のログ管理では、AIが処理する膨大なやり取りの中から不正な指示や機密情報の漏洩を見つけ出すことは難しい。AI専用の監視ツールと、常に確認を求める仕組み(ゼロトラストアーキテクチャ)に基づくアクセス制御を組み合わせることが欠かせなくなっている。
ビジネスへの影響
経営層が向き合うべき3つのリスク
経営層が直面する現実的なリスクは三つある。第一に、従業員がAIに入力した機密情報が学習データとして外部に流出する可能性。第二に、巧妙な不正指示(プロンプトインジェクション)により、AIが意図しない動作を行い誤った意思決定を招く危険性。第三に、AI利用に関する規制やガイドラインへの違反による法令順守上のリスクだ。
最優先はAIガバナンスポリシーの策定と利用状況の可視化
優先すべき対策は、AIの使い方を定めるルール(AIガバナンスポリシー)の即時策定である。どのデータをAIに入力してよいか、どの部門がどのAIツールを使えるか、異常を検知した際の対応の流れを明文化する。次に、AI利用状況を見える化するツールの導入だ。外部提供のAIサービスであれば、情報漏洩対策のツール(CASBやDLP)と組み合わせ、データの流れを監視する。自社開発のAIであれば、入出力の記録全量保存と異常検知の自動化が必要になる。投資対効果を考えれば、事後対応にかかる費用は予防にかける費用の数十倍に膨らむ。