AI技術の急速な発展により、社会が変わるぞとの予感は事実上の確信だった。ただ、それが思っていたよりも早くやってきたなと感じることが、今週２件あった。ひとつには、AIを悪用してマルウェアを（技術力のない人物が）作成すること。
生成AI、悪用のおそれ - 梶浦敏範【公式】ブログ (hatenablog.jp)
１年前だが、あるサイバーセキュリティの専門家が、私たちの見ている前で高度なマルウェアを生成AIとやり取りすることで作成する寸前まで実演してくれた。AIの提供側は、マルウェアだけでなく銃器、爆発物、毒薬などよろしくないもののレシピを要求されれば拒否する仕掛けになっている。しかし「裏ワザ」のようなものはあって、問いかけ（プロンプト）の立て方によっては、そのハードルを乗り越えることができるのだ。
今回、この手口でマルウェアを作った男が逮捕された（*1）。決して高度な技術者ではないが、ガードの甘い生成AIを使って目的を果たしたという。
もうひとつは３年前に予感した、故人を蘇らせること。イスラエルの企業がそんな技術を開発したことで、いろいろな（ポジティブな）ことに使えるだろうと申し上げた。
To Wake the DEAD - Cyber NINJA、只今参上 (hatenablog.com)
死者を敬い、死者と会話することを重視する国民性なのだそうだが、中国で故人のアバターを作るビジネスが急成長している（*2）という。ある程度の節度を持って運用すべき技術だと思うのだが、サービス対価が20元～というのでは、我も我もと蘇らせたい人たちが殺到するだろう。それでは「節度」など無意味で、倫理上の問題だけでなく、犯罪に近いことも易々とできてしまいかねない。
後追いになるのだが、ガードの甘い生成AIサービスや、倫理等に外れるアバターを規制するルールは、速やかに定めないといけないようだ。
*1：生成AI悪用しウイルス作成容疑、無職の男逮捕 「何でもできると」：朝日新聞デジタル (asahi.com)
*2：故人を蘇らせる⁈仰天ＡＩビジネスが中華圏で急成長 倫理・法的問題も指摘され… | Business Insider Japan
