梶浦敏範【公式】ブログ

デジタル社会の健全な発展を目指す研究者です。AI、DX、データ活用、セキュリティなどの国際事情、今後の見通しや懸念をお伝えします。あくまで個人の見解であり、所属する団体等の意見ではないことをお断りしておきます。

日本の「AI Safety Institute(AISI)」の役割

 AIの悪用面ばかりが取りざたされているが、本来科学/技術/経済/文化等の多様な面にAIは活用されるべきもの。しかし使い方を誤るととんでもないことになりかねないので「AI with Security」は重要である。

 

 「信頼できるAIの提供に必要な情報や技術を有し、日本を世界で最もAIを開発・活用しやすい国にする」

 

 ために3年前に設立されたのが、AI Safety Institute(AISI)である。世界各国がAISIを設置して機能させつつあるが、英国・米国に続く日本は3番目の設置国である。日本のAISIは、G7広島サミットで「広島AIプロセス」が採択され、その一環として2024年2月に設立されている。

 

    

 

 英国AISIではいち早くClaude Mythosを評価し、システムの脆弱性検知能力の高さを知り、サイバー攻撃に悪用した場合のシミュレーションを実施している。サイバーセキュリティよりのスタンスである。米国AISIはOpenAIやAnthropicといった先端企業と深く連携し、AIモデルの客観的な性能評価をするとともに潜在的なリスクを研究している。AI利用による利益追求が主な目的。

 

 日本AISIは英米はじめ各国の、科学的評価・法規制等ルールの研究・応用やエコシステム実現の3つのスタンスをバランスよく取り入れ、

 

「官民エコシステムで作成したベンチマークを用いて、政府が性能評価を持って政策を実施する」

 

 ように努めている。具体的には4つの活動がある。

 

1)AI安全性のベンチマーク策定

2)AIモデルやシステムを評価

3)AI関連情報の収集・分析・提供

4)AI安全性の国際協調を主導し、国際競争力を強化

 

 AISIの人に自己評価を聞くと、

 

・まだ3年でもあるが、もう3年とも思える

・技術的リスクはもちろんだが、社会的リスクが大きい

・基本はイノベーション支援だが、国民の生命・財産に危害が及ばないよう努める

 

 とのことだった。今後ますます責任が重くなり機関であり、強化と共に内外に(特に関心の薄い国民に)向けた、分かりやすい情報発信を望みたい。

 

攻撃者に関する報道と感触

 連日サイバー攻撃関連の報道がメディアを賑わせているが、大半は被害側に関する報道である。しかし時々は、攻撃側に関する報道もある。先週2つの特徴的な報道があった。

 

 ひとつは、フランスはじめ欧州各国のスーパーマーケットの冷凍庫/冷蔵庫を狙った攻撃(*1)。温度が50度にまで高められ、多くの冷凍食品や飲料が廃棄された。この攻撃をしたのはイランの革命防衛隊につながる組織だとの発表が、フランス政府からあった。

 

フランス、スーパーの冷蔵庫へのサイバー攻撃でイランを非難 - BBCニュース

 

 イランの組織は、イスラエルや米国の水道システムを遠隔操作したと伝えられる。今回は、デンマーク企業のソフトウェアの脆弱性を突いた攻撃を仕掛けたとある。

 

パリ、アリーグルの市場にて

 もうひとつは、暗号資産取引所バイナンスが被害に遭った件(*2)。63億ドルもの暗号通貨が盗まれ、北朝鮮が犯人と見られていた。その後の報道で、犯行グループの「手取り」は34億ドルほどだったようだ。

 

北朝鮮ハッカー、盗んだ暗号資産の交換で1億1900万ドルの損失…凍結回避を急ぐ(KOREA WAVE) - Yahoo!ニュース

 

 28億ドルが凍結、もしくは回収され、残り35億ドルをロンダリングする際に1.2億ドルの「経費」が掛かったとの報道である。それにしても0.6億ドルの手数料を得た業者を法的に罰することはできないのだろうか?

 

 また急増する日本企業の被害だが、最前線で闘っている識者から、攻撃者の感触を聞くことが出来た。

 

・9月ごろまで日韓企業の被害が増えたのは、隣国の数組の攻撃者の集中攻撃による

・当該国の先進的なAIを用いていて、数組なのだが広範な攻撃を可能にしている

・これで日本企業への攻撃は世界標準に達したのだが、10月になると場面が変わる

・先進的なAIを用いた攻撃が世界的に確認され、世界中の被害が急増中

・日本企業の被害も当然増え、AIが見つける脆弱性対策含め現場は疲弊している

 

 本格的なAI悪用攻撃が始まったということらしい。急場をどうしのぐか、先を見据えた対策は・・・?

 

*1:業務用IoT機器に気を付けて! - 梶浦敏範【公式】ブログ

*2:警報システムへのサイバー攻撃 - 梶浦敏範【公式】ブログ

サイバー攻撃ではなくてもリスク

 先週の金曜日にMicrosoft社内で通信障害が発生し、半日以上OutLookやCopilot、Teamsなどが使用できなかった。サーバ関連設備強化の作業中に発生した事故で、サイバー攻撃ではないと発表されている。ビッグテックの影響力の大きさを見せつけられた事案だったが、どのような問題が発生したかについてはまだ情報が不充分である。

 

 例えば、こんな事案があった。

 

ドイツのプールで15人体調不良 マイクロソフト障害影響、水中塩素濃度が上昇 - 産経ニュース

 

 上水道の塩素濃度などを変化させるサイバー攻撃は、イラン等の得意技である。それが悪意ではなく発生してしまった。本来塩素濃度上昇はセンサーが検知し警告するのだが、その警報にOutLookが使われていて機能しなかった。

 

デュッセルドルフのライン河畔

 ビッグテックの技術やサービスは世界中の社会の隅々に入り込んでいて、それを使っていると意識されていないものも珍しくない。万一のことがあれば、インターネット上のアプリが使えない・・・程度ではないことが起きる、文字通りの社会インフラである。

 

 Microsoft社の障害はおおむね1日で収束し復旧したのだが、その後も気になる事案が続いている。もちろんこれらは同社の事故に起因するものではない可能性が高いが、疑心暗鬼を呼ぶ程度のインパクトはある。

 

全米の空港で航空機に約4時間の地上待機命令 「通信障害」と運輸長官は説明 - BBCニュース

 

 この「通信障害」は、古い設備の銅線を光ファイバに交換する際に起きた事故と言われている。関連機器がインターネット以前のものらしく、物理的な作業というから関連は薄そうだ。それでも作業ツールに、最新の技術やアプリが使われていなかった保証はない。

 

「制御不能」のタンカーがクルーズ船に衝突、川に投げ出された乗客 全員無事で「ミシシッピ川の奇跡」 - CNN.co.jp

 

 こちらは現時点では原因不明、タンカーが「制御を失った」のは確かだが、その理由は分からない。社会システムに、古いものから最新のものまでが混じり、多層構造の中に思わぬものが紛れ込んでいるのが現状である。これも一種の「脆弱性」かもしれず、先進的なAIで総合的なペネトレーション・テストをしてみる必要があるかもしれない。

 

日本のACDはどこへ向かう?

 9月の終わりごろから、日本企業のサイバー被害報告が急増した。確かに攻撃は増えているし、その多くが(程度の差こそあれ)AI悪用だと思われる。その他の要因(*1)もあり、10月の被害報告は国内では未曾有の数字になった。

 

10月のサイバー攻撃が233件で過去最多 個人情報流出は1億8500万件で9月の2倍近くに(テレビ朝日系(ANN)) - Yahoo!ニュース

 

 被害企業の業種も企業規模もバラバラ、当初サイバーセキュリティの基本(*2)を守っている金融機関の被害報告は無かったのだが、比較的防御の弱い子会社や委託先での被害が報告され始めた。老舗のサイバーセキュリティ団体である日本ネットワークセキュリティ協会(JNSA)すら被害に遭った。あきらかに、攻撃側のギアが1段上がっている。

 

熱海の古寺「大乗寺」

 この事態を受けて、能動的サイバー防御(ACD)を強化すべく、新しい議論が始まっている。先日の「ブロッキング」に続き、今度は「国内間通信の傍受」が論点になった。

 

サイバー攻撃防御へ「国内間通信」監視、外国勢力からの乗っ取り阻止…高市首相が法改正の検討指示 : 読売新聞

 

 憲法21条「通信の秘密」に関わる話で、これまで海外との交信については傍受を認めていたのだが、どちらも国内にあるサーバ間の通信にも傍受範囲を広げようということ。インターネット空間に国境はないので、海外サーバ/国内サーバと分けて考えるのは合理的ではない。私見だが、怪しければサーバの所在がどこであろうが傍受するべきと思う。

 

 かつて英国ACDを調べた時、その目的を教えてもらった。ACDは政府から民間へ提供される行政サービスであり、

 

・民間企業などが意識しないハイレベルでのメールやWebサイトのチェック

・脆弱性や危険なメール等に対する警告

・悪意あるIPアドレスやドメインの開示

・悪意あるサイトやインフラ(サービス)の除去

・サイバーインシデント対応のためのツールキット配布

 

 が含まれるというものだった。ここにいう、危険や悪意を察知するにはインテリジェンスの質・量が重要である。日本のACDは、その方向に進めるのだろうか?

 

*1:堰を切ったように被害が・・・ - 梶浦敏範【公式】ブログ

*2:ITガバナンス確立とサイバーハイジーンの徹底

「PHP騒動」の中間評価

 ホームページ制作によく用いられる言語<PHP>の脆弱性とその対策版が先月公表され、多くの企業・団体のWebサイトが一時閉鎖された。このような脆弱性や対策の公開と言うのは、AIの能力向上もあって近年増え続けている。企業・団体のIT/セキュリティ部門では対策(パッチを当てる等)に追われ、バックログが溜まっているとの声も挙がっている。担当部署は疲弊しつつあるのだが、それもその部門に閉じた問題であることが多かった。

 

 しかし総理自身が<X>から対処を求めたことによって、企業・団体のTOPが「何かをしなければ」との思いに駆られた。その結果、使っているシステムの脆弱性対策は一気に経営マターになった。そこで「ウチはどうなっている?」と経営層が担当部署に問いかけ、対策を督促することになる。

 

ガウディ設計「バトリョ邸」の吹き抜け

 それから2週間余りが経ち、担当部署は大変だったろうが、経営者にも多くの気付きがあったと評価できる。こんなケースが報告されている。

 

・<PHP>が何なのか、自社のWebサイトで使っているかも経営者が知らなかった

・古いバージョンのまま使っていて、直ぐに対策が出来なかった

・そもそもWebサイト運営部署に、必要な専門家がいなかった

・サイトを閉鎖したのはいいが、再開のめどが立たない

 

 昨年の証券口座乗っ取りのような脅威なら、対処を迫られるのは一部の金融機関だけ。かの事業者は、経営層にもそれなりの知識があり、専門家も雇用している。しかし今回のWebサイトへの脅威に対しては、十分な知見・予算・人材を持ち合わせない小規模企業までが対処を迫られた。Webサイトを持っていないのは、個人経営など零細事業者に限られるからだ。

 

 「ITガバナンスはサイバーセキュリティの基本のキ」と申し上げているが、今回多くの経営者がそれを痛感したことと思われる。サイトを再開できないなど痛い思いをされた企業・団体(含む自治体)では、ITガバナンスのための「知見・予算・人材」を確保する姿勢に転じていただけるよう期待したい。

 

GMO事件が提起した課題(後編)

 大手インターネット事業者で、FX取引や決済に関する金融サービスもしている企業GMOグループ。傘下の「イエラエ」は、国内でも極めて有力なセキュリティサービサーだ。その企業グループがサイバー攻撃を受け、並みの企業とは異なる反応を示したことで、いくつかの課題が提起された。個別に見ていこう。

 

1)身代金支払いを拒否したこと

 拒否はいいとして、拒否したと公言したのは、感心できない。あくまで対外的には「あいまい」が常道だ。その結果かどうかは不明だが、犯人側も特定の個人情報を詳細にさらすという暴挙に出た。

 

2)市民へのPCの電源を切るなど要請したこと

 犯人側から新たな警告を受けたことから、市民に直接要請をするというのは、行き過ぎだったろう。政府にその旨を伝え、必要なら政府から情報発信してもらうべきだ。

 

京都府立植物園の展示、見事な懸崖

3)犯人側に対し懸賞金を掛けたこと

 自前のフォレンジック力を使って独自捜査をするのは(警察と連携してなら)問題ないが、懸賞金まで必要だったかは賛否が分かれるように思う。今後の議論を見守りたい。

 

4)能動的サイバー防御(ACD)を要請したこと

 これはやや越権行為、勇み足と思う。政府見解のように「ACDは政府が自分の判断で行うもの、要請に基づくものではない」からだ。ただ、本件は新たな議論を呼ぶだろう。

 

 例えば政府からインターネット遮断(ブロッキング)などを求められたとき、通信事業者は要否をどう判断すればいいのか?NTTは法整備、少なくともガイドラインが要ると言っている。

 

GMO問題受け総務省が要請した「ブロッキング」、NTT島田明社長「ガイドライン整備や法制化が重要」 : 読売新聞

 

 一方で本件とは別だが、Googleは中国製IoT機器によからぬ指令を送っていたサーバを(警察と連携をしてだが)無力化したと言っている。

 

家庭用IoT機器に不正ソフト 製造で仕組まれ、サイバー攻撃「踏み台」に―グーグル社と連携し無力化・警察庁:時事ドットコム

 

 この違いは何なのか?政府は現在検討中の「緊急政策パッケージ」にブロッキングなどの対策を盛り込むとしているが、どこがどう変わるのか?きちんとした説明を付けての交付にしてもらいたいと思う。

 

GMO事件が提起した課題(前編)

 この20年ほどで急成長したインターネット事業者GMOグループに対するサイバー攻撃で、グループ各社で被害が発生した。最も深刻と思われるのは、<お名前.comデスクトップクラウド>サービスを利用していたFX取引利用者の被害。個人PCをそっくりクラウド上にコピーすることで、利用者が寝ている間も24時間FX取引を自動で行うというものだ。

 

 自動化が進んでいるだけに、知らぬうちの被害が大きくなった。個人で数百万円規模の被害を受けたとの訴えもある。それ以外にも、

 

・ID管理サービスで、4.5万人分の顧客情報漏えい

・決済代行サービスで、プリカ情報含む69件の顧客情報漏えい

 

 が発覚している。また攻撃者が100万ドルの身代金を要求し、GMO社がこれを拒否したため1件の詳細な個人情報が晒されるという事案にも進展した。

 

京都府立植物園の菊花まつり

 GMOグループには有力なセキュリティ企業「イエラエ」もいて、GMO社は並みの被害企業とは違う反応も見せた。

 

・さらなる攻撃者の脅迫に、日本中のPCユーザに当該時刻には電源を切ることを要請

・攻撃者に対する情報をもたらした人に、100万ドルを上限とした懸賞金を提示

・政府に対し「一企業では対処できない」と能動的サイバー防御(ACD)の発動を要請

 

 電源を切るなどの行為は、少なくとも私はしなかった。懸賞金については、その後の報道は無い。GMO社自身も捜査をしたと伝えられる。TVのバラエティ番組で「にわか名探偵」は大勢出てきたのだが・・・。ACDについて、政府は「重要インフラへの脅威に対応するもの」とGMO社(*1)の要求には応えなかった。

 

GMO、サイバー攻撃で熊谷正寿氏ら役員4人が報酬減額 「お名前.com デスクトップクラウド」不正アクセスで経営責任を検証へ|セキュリティニュースのセキュリティ対策Lab

 

 2年前からシステムの脆弱性は知られていたのだが、熊谷社長らには警告が届いていなかったとも言われる。また記者会見についても批判が噴出しているが、GMO社の今回の行動は、日本企業のサイバー防衛について多くの示唆を与える貴重なものだったと思う。

 

<続く>

*1:このグループも金融事業者なのだが・・・