梶浦敏範【公式】ブログ

デジタル社会の健全な発展を目指す研究者です。AI、DX、データ活用、セキュリティなどの国際事情、今後の見通しや懸念をお伝えします。あくまで個人の見解であり、所属する団体等の意見ではないことをお断りしておきます。

犯罪の機会を減らす努力も重要

 先週、人気アプリ「Discord」を使った未成年者のサイバー犯罪について紹介(*1)したのだが、何人かの識者で「未成年でも生成AIの助けによって高度な攻撃者たりうる事態」にどう対処するかの議論をした。

 

 サイバー分野に限らず犯罪の方程式は、動機×機会×正当化である。これらの一つをゼロにすれば、おおむね犯罪自体は無くなる。おおむねと言ったのは、犯罪自体を楽しむ異常者がまれに存在するからである。「Discord」の事案では、

 

動機:カネ欲しいね

機会:生成AIの助力があればできるじゃない

正当化:半額でマックが買えてみんな喜んでくれる

 

 という経緯だったように思う。

 

JR辻堂駅前で見かけた百日紅の花

 ある人は、犯罪リテラシーの低い未成年なので動機や正当化のハードルが低いという。初等教育からこの点(犯罪をしてはいけないこと、犯罪から身を護ること)を教えないといけないのだ。別の人は、欧州なのでSNSに年齢制限をしている国もあるから、SNS同様AI利用も年齢制限すべきだと機会のハードルを上げることを提案した。

 

 するともう一人の人が、別件を例にして語り始めた。その件とは、こんなもの。

 

4.6万アカウントを勝手に退会処理、高1男子逮捕 「チャットGPT」で不正プログラム自作―警視庁:時事ドットコム

 

 容疑は不正アクセス禁止法違反で、内容的には「愉快犯」に近い。生命・財産に危害を加えたものではないにしても、笑って済ませられる事案ではなさそうだ。記事に「システムの脆弱性」とある内容を、その人は紹介してくれた。

 

・あるアカウントでログインしながら、同時に別のアカウントでも入れた

・そこで別アカウントで次々ログインしていって退会の続きが出来た

 

 通常は別アカウントでログインする前には、前のアカウントはログアウトしないといけないはず。この「脆弱性」が、サイバー犯罪の利便性を高めた(機会のハードルを下げた)という。なぜこんな仕様になっていたのか、そこまでは分からないが、システム&サービス運営者側も、犯罪の機会を減らす努力が必要ということは明らかである。

 

*1:生成AIによるサイバー犯罪の民主化 - 梶浦敏範【公式】ブログ