ニュースの概要
オーストラリア通信局（ASD）は年次のサイバー脅威報告で、外国政府や国家の支援を受けるハッカーがAIを使い、コンピューターネットワークや重要インフラへの侵入を速めていると警告した。AIは弱点の発見を早め、攻撃をより大規模で、より速く、より複雑にしているという。ASDが過去1年間に出した「悪意ある活動の恐れ」に関する警告は4400件を超え、その前の12カ月と比べて80%増えた。報告はまた、企業や政府が導入を進めるAIエージェントの予期せぬ動きも、新しいリスクとして挙げている。攻撃側だけでなく、守る側が使うAIにも注意が要る、という構図である。
引用元: 豪州当局、AIを悪用したサイバー脅威を警告 悪意ある活動の警告が80％増加（Agence France-Presse）
分析・見解
警告件数80%増が示す、攻撃の量的な変化
4400件超という数字は、単なる統計の増加ではない。攻撃の「準備コスト」が下がったことの表れと読むべきである。
従来、標的の調査、弱点の特定、侵入用コードの作成には熟練者の時間が必要だった。AIはこの下請け作業を肩代わりする。結果として、同じ人数の攻撃者がより多くの標的を同時に狙えるようになる。警告件数の増加は、狙われる組織の裾野が広がったことを意味する。
弱点発見の高速化で、修正までの猶予が消える
AIが最も威力を発揮するのは、ソフトウェアの弱点（＝脆弱性）探しである。公開された修正情報を読み解き、攻撃用の手順に変えるまでの時間が、数週間から数時間へ縮む可能性がある。
過去を振り返ると、2017年のランサムウェア「WannaCry」は、修正プログラムの公開から約2カ月後に世界で拡散した。当時はその猶予が存在した。AI時代には、公開から数日で悪用が始まる前提で動く必要がある。修正が間に合わない機器をどう隔離するかが、実務上の勝負どころになる。
守る側のAIエージェントも、新しい穴になりうる
報告が見逃せないのは、AIエージェントの予期せぬ挙動に触れた点である。AIエージェントとは、人の指示を受けて自分で判断し、メール送信やシステム操作まで行うAIを指す。
便利な反面、権限を広く与えるほど、誤作動や外部からの巧妙な指示（プロンプトインジェクション）で、意図しない操作を実行するおそれが高まる。人間の新入社員に全システムの管理者権限を渡さないのと同じで、AIにも「必要最小限の権限」を与える設計が欠かせない。攻撃対象が、人からAIへ広がっているのである。
重要インフラと国家支援型攻撃が結びつく危うさ
国家支援型の攻撃者は、金銭より長期的な潜伏を狙う。電力、水道、通信といった社会基盤に入り込み、有事に備えて足場を築く手口である。
AIが加わると、潜伏中の情報収集や設定の読み解きも自動化される。発見されにくく、かつ広範囲に及ぶ。日本も同じ環境にあり、豪州の警告は対岸の火事ではない。地理的な近さや同盟関係を考えれば、情報共有の枠組みを通じて自国の防御に取り込む姿勢が求められる。
ビジネスへの影響
修正の優先順位を、攻撃の速さに合わせて組み替える
まず取り組むべきは、脆弱性対応の手順の見直しである。すべての弱点を同じ速度で直すのは現実的でない。インターネットに公開されている機器、認証まわりの製品、取引先と接続する経路を最優先に置き、修正完了までの目標日数を数日単位に短縮する。
修正が間に合わない場合の「逃げ道」も決めておく。通信の遮断、機能の一時停止、監視の強化を事前に承認しておけば、夜間や休日でも迷わず動ける。
AIエージェント導入時は、権限と記録を先に決める
業務へのAI導入を止める必要はない。ただし、導入前に三点を確認したい。第一に、AIが触れるデータと操作の範囲を最小にすること。第二に、送金や削除など影響の大きい操作は必ず人の承認を挟むこと。第三に、AIの行動を後から追える記録を残すことである。
導入後も、想定外の挙動が出た際に即座に止められる「停止手段」を用意しておく。これが無いまま本番に載せるのは、ブレーキの無い車に乗るのと変わらない。
経営層が押さえるべき、予算と訓練の考え方
経営判断としては、防御の投資を「事故を防ぐ費用」から「事業を止めない費用」へ捉え直したい。重要インフラの事業者や、その取引先であれば、サプライチェーン全体の安全性が取引条件になりつつある。
年に一度は、AIを使った巧妙な偽メールや偽音声を想定した訓練を実施する。技術だけでなく、人の判断を鍛える投資も、警告件数の増加が続く時代には費用対効果が高い。
