AIの悪用面ばかりが取りざたされているが、本来科学/技術/経済/文化等の多様な面にAIは活用されるべきもの。しかし使い方を誤るととんでもないことになりかねないので「AI with Security」は重要である。
「信頼できるAIの提供に必要な情報や技術を有し、日本を世界で最もAIを開発・活用しやすい国にする」
ために3年前に設立されたのが、AI Safety Institute(AISI)である。世界各国がAISIを設置して機能させつつあるが、英国・米国に続く日本は3番目の設置国である。日本のAISIは、G7広島サミットで「広島AIプロセス」が採択され、その一環として2024年2月に設立されている。

英国AISIではいち早くClaude Mythosを評価し、システムの脆弱性検知能力の高さを知り、サイバー攻撃に悪用した場合のシミュレーションを実施している。サイバーセキュリティよりのスタンスである。米国AISIはOpenAIやAnthropicといった先端企業と深く連携し、AIモデルの客観的な性能評価をするとともに潜在的なリスクを研究している。AI利用による利益追求が主な目的。
日本AISIは英米はじめ各国の、科学的評価・法規制等ルールの研究・応用やエコシステム実現の3つのスタンスをバランスよく取り入れ、
「官民エコシステムで作成したベンチマークを用いて、政府が性能評価を持って政策を実施する」
ように努めている。具体的には4つの活動がある。
1)AI安全性のベンチマーク策定
2)AIモデルやシステムを評価
3)AI関連情報の収集・分析・提供
4)AI安全性の国際協調を主導し、国際競争力を強化
AISIの人に自己評価を聞くと、
・まだ3年でもあるが、もう3年とも思える
・技術的リスクはもちろんだが、社会的リスクが大きい
・基本はイノベーション支援だが、国民の生命・財産に危害が及ばないよう努める
とのことだった。今後ますます責任が重くなり機関であり、強化と共に内外に(特に関心の薄い国民に)向けた、分かりやすい情報発信を望みたい。





