ニュースの概要
欧州委員会のAIオフィスは、先端AIモデルがサイバー攻撃に悪用されるリスクの評価を支える企業連合のリーダーとして、Capgeminiを選んだ。連合にはコンサルティング会社のWavestoneと、フランスの公的機関LNEが加わる。EUのAI法に関連するAI安全性プログラムの一環で、汎用AIモデルを対象にした脅威モデリングとリスク評価を担当する。想定される脅威は、AIによる脆弱性の自動発見、攻撃用コードの生成、大規模攻撃の自動調整などだ。AIの能力そのものを攻撃側の武器として測る取り組みが、いよいよ制度の枠組みの中で動き出した形である。
引用元: 欧州委員会、先端AIモデルのサイバーリスク評価でCapgemini主導の企業連合を選定（Capgemini）
分析・見解
規制当局が民間の攻撃者視点を借りる意味
今回の選定で目を引くのは、評価の担い手が民間のセキュリティ実務者である点だ。AI法は汎用AIモデルの提供者に、重大な「システミックリスク」（＝社会全体に波及しかねる危険）への対処を求めている。ただし、条文だけでは何をどう測るかは決まらない。そこで、実際の攻撃手口を知る企業に測り方を作らせる。
Capgeminiは大規模なサイバー部門を持つ。Wavestoneは攻撃を模擬するレッドチーム演習で知られる。LNEは製品の試験と認証を担う機関である。実務の目線、攻撃再現の技術、公的な試験の信頼性。この三つを組み合わせたことが、連合の設計の核心だろう。
測る対象は「できること」ではなく「どこまで楽になるか」
サイバー分野のAI評価で難しいのは、AIが攻撃を可能にするかではない。熟練者ならAIなしでもできる攻撃は多い。本当に測るべきは、AIが攻撃の手間と必要な技能をどれだけ下げるかだ。
脆弱性の発見を例にとる。これまで数週間かかっていたコード調査が数時間に縮めば、攻撃者の数は桁違いに増えうる。実際、米国防高等研究計画局（DARPA）のAIサイバーチャレンジでは、AIが実在のソフトウェアから未知の欠陥を自動で見つけて修正する成果が示された。守りと攻めは同じ技術の表裏である。
だからこそ、評価は「悪用可能か」の二択では足りない。作業時間、成功率、必要な人手といった連続的な指標が要る。
日本から見たEU基準の影響力
EUの基準は、多くの場合EU域内だけでは終わらない。個人情報保護のGDPRが世界の標準になった経緯と似ている。モデルの提供者は、EU市場で売るために評価に耐える体制を整える。その結果が、海外製モデルを使う日本企業にも及ぶ。
日本のAI事業者ガイドラインは、原則中心で拘束力が弱い。一方でEUは、評価の手順そのものを具体化しつつある。この差は、数年後に取引条件の差として表れかねない。
評価の限界と、結果が公開されるかという問題
懸念も残る。評価はあくまで特定時点のモデルが対象だ。モデルは数か月ごとに更新され、評価結果はすぐ古くなる。加えて、攻撃能力の詳細を公開すれば、悪用の手引きにもなる。公開と秘匿の線引きが、制度の信頼性を左右するだろう。
それでも、評価の枠組みが存在しない状態よりは前進である。測る物差しがなければ、議論は印象論のままだからだ。
ビジネスへの影響
調達と契約でAI提供者に確認すべき三つの点
AIモデルや関連サービスを導入する企業は、提供者に次の点を尋ねておきたい。第一に、サイバー悪用リスクの評価を受けているか。第二に、評価の対象バージョンと実施時期はいつか。第三に、不正利用を検知した際の停止や通報の手順はあるか。
これらを契約書や調達チェックリストに入れておけば、EUの基準が日本に波及したときも慌てずに済む。
守りの側もAIで時間を縮める準備を
攻撃側の手間が減る以上、守る側の対応速度が追いつかなければ差は開く。具体的には、公開サーバーの脆弱性修正を月次から週次へ短縮する、資産一覧を最新に保つ、検知から初動までの訓練を年に数回行う、といった基本の底上げが効果的だ。
特に中堅・中小企業は、専任担当がいない例が多い。外部の監視サービスを使う場合でも、AIを使った自動対応の範囲と責任分担を明確にしておくべきである。
経営層が押さえるべき投資判断の目安
高度な新製品を買い足す前に、まず現状の穴を数えることを勧める。修正が滞っている既知の脆弱性が何件あるか。その件数が、AIで悪用が容易になるリスクの実質的な大きさだ。数字で説明できれば、予算の相談も通りやすくなる。