梶浦敏範【公式】ブログ

デジタル社会の健全な発展を目指す研究者です。AI、DX、データ活用、セキュリティなどの国際事情、今後の見通しや懸念をお伝えします。あくまで個人の見解であり、所属する団体等の意見ではないことをお断りしておきます。

勝手にふるまうAIエージェント「OpenClaw」

 AI関連技術やソリューション・サービスの発展は、さらに加速しているように見える。例えば1年ほど前に、AI同士が人間の理解できない言葉で会話をするようになったことから、

 

・個人情報保護を維持しながら、個人情報を有効活用できる

・一方、AIが人間に分からないことを企まないかの危惧もある

 

 と述べた(*1)。その時点では単なる「危惧」だったのだが、AIエージェントが従来のソフトウェアを自分の意志で使えるようになって、Office365のようなアプリまで人間から見えなくできることが実証された(*2)。〇aaSサービスが不要になるのではとの危惧もあったが、それ以上に不気味なものを感じたものだ。

 

熱海市役所前のサクラ

 そして今年になって、「Ethics of AI」で育てたAIサービス(Claude / Claude Cowork)の登場で一安心した(*3)のもつかの間、こんな記事に驚かされた。

 

AIだけのSNS「moltbook」が話題 人間は閲覧するだけ AI同士があいさつ&交流、中には不穏な書き込みも? - ITmedia AI+

 

 まだ人間が見ることができるだけマシだが、AIだけの世界が出来つつある。このMoltbookは、AIエージェントClawdbot専用のSNSで、Clawdbotは(商標問題があったようだが)その名称を、Clawdbot ⇒ Moltbot ⇒ OpenClaw と変更している。OpenClawは「あなた専用の執事」との売り文句で、LINEその他から指示するだけでAIが自律的に動いて任務を果たす機能がある(*4)。恐ろしいのは、Claude Coworkなどがクラウド上にあり、利用者のPCに影響を及ぼさないのに反して、OpenClawは利用者のPC上で勝手にふるまうのだ。

 

 ある意味暴走し始めたAIエージェントサービス、これらのガバナンスをどう考えるか?企業のCAIOの意見を聞いてみたいと思う。

 

*1:AIエージェントによる個人情報保護 - 梶浦敏範【公式】ブログ

*2:ソフトウェア産業に激震の予兆 - 梶浦敏範【公式】ブログ

*3:「Ethics of AI」はこうやって得る - 梶浦敏範【公式】ブログ

*4:あなた専属のAI執事がつくれる「OpenClaw」って何だ?(ビジネス+IT) - Yahoo!ニュース