梶浦敏範【公式】ブログ

デジタル社会の健全な発展を目指す研究者です。AI、DX、データ活用、セキュリティなどの国際事情、今後の見通しや懸念をお伝えします。あくまで個人の見解であり、所属する団体等の意見ではないことをお断りしておきます。

これもAIの悪用事例

 最近はまだ十分明るい夕方19時前、NHKニュースを見ようとTVのスイッチを入れる。ちょっと早いと<ニュース7>の前の<首都圏ネットワーク>をやっている。そう18:52くらいだろうか「私たちはだまされない」というコーナーがある。オレオレ詐欺対策のコーナーである。

 

 今日はどの地区にどんな手口の電話が多いとか、こんな事例で被害に遭った人がいますよと教えてくれる。正直こんなに幼稚な手口でカネになるのかと、あきれることもある。オレオレ詐欺にももっと巧妙な手口があって、それは表に出ないか、公共放送がとりあげていないだろうなと思ってはいた。それを、今回ある報道で知ることができた。

 

本人そっくりな声で仕掛ける詐欺の手口、AIでさらに巧妙になる「オレオレ詐欺」【被害事例に学ぶ、高齢者のためのデジタルリテラシー】 - INTERNET Watch (impress.co.jp)

 

        

 

 これも、AI技術の悪用事例である。個人間の通信に割り込むことが出来れば、音声データは手に入る。音声認識をかければ何を言っているかがわかり、この通話者の関係や彼らだけしか知らない何かも手に入れることができる。日常の意思疎通プロトコルが把握できれば、片方の話者に似せた音声合成によって他方の行動を左右することも出来るだろう。

 

 従来のアナログ電話では難しい面もあったかもしれないが、電話はほぼ全てIP電話になっているし、この記事にあるようにビデオ会議なら全面デジタルだ。これはと狙った相手をしばらく盗聴してDB化すれば、オレオレ詐欺以外の仕掛けも十分に可能になる。もちろんYouTuberなど音声をネット上にあげている人のなら、盗聴も必要ないだろう。

 

 デジタル犯罪集団の特徴は、水平分業。盗聴~DB化の専門集団が、DBを<闇Web>で売り出す。それを買った別の集団が、音声認識音声合成・目標設定・誘導シナリオなどを作って犯行に及ぶ。認識や合成の技術は、SaaS型で入手することもできるだろう。

 

 すでに日本の警察組織も<闇Web>へのサーチはしておられると思うのだが、なにしろ対象となるサイトは膨大。こちらも民間企業含めた「水平分業」であたることが望ましい。