梶浦敏範【公式】ブログ

デジタル社会の健全な発展を目指す研究者です。AI、DX、データ活用、セキュリティなどの国際事情、今後の見通しや懸念をお伝えします。あくまで個人の見解であり、所属する団体等の意見ではないことをお断りしておきます。

コンテンツモデレーション(後編)

 一般ユーザにも見える形で警告を受けても、なお退かない場合には、

 

5)情報をユーザに勧める優先順位を下げて、アクセスしづらくする

 

 「SNSプロバイダが勝手に(意図的に)優先順位をつけている」と非難されることの多い手段だが、投稿者がここまで悪質な場合には意図的に使っても構わないだろう。ただ、そろそろ「表現の自由の侵害だ」との批判を浴びる可能性が出てくる。さらに、

 

6)投稿内容の全部もしくは一部を削除する

 

 ことにまでエスカレートすることもある。十分な根拠なくして、ここまではできない。さらに悪質な投稿を繰り返す相手に対しては、

 

7)サービス提供の停止や終了、アカウントの停止や削除

 

 という最終手段もある。以上述べてきたのは、直接的に良くない投稿を退ける試みだが、逆に(類似の)優良コンテンツの優先順位を上げることで、上記5)までくらいの対処は可能だ。これをプロミネンスといい、少々モデレートでスマートな対処法である。

 

        

 

 考え方としては、誤情報/偽情報対策として魅力的なのだが、では実際に可能かというと、いくつか問題点がある。

 

・投稿自身が膨大であり、何をトリガーにファクトチェックをするか?

 ⇒ 被害を受けた人からの申請が多かろうが、申請自身のチェックも必要

・誤りがあることが、検証しきれないものをどうする?

 ⇒ 疑わしきは罰しないのか?予防的措置でモデレートするべきか?

 

 有名人の映像を使った詐欺広告事件があった。実際に有名人の勧めを信じて、お金をだまし取られた人もいる。なりすまされた人たちはプラットフォーマーに再三削除を求めたものの容れられず、ついには「1円訴訟」をしている(*1)。理屈の上では可能でも、膨大な投稿をどうハンドリングするか、あるいは現実問題としてハンドリングが可能なのか、総務省の検討会の答申は尊重しながら、実現性の議論を(Openに)してほしいと思う。

 

*1:前沢友作氏の「なりすまし詐欺広告」訴訟 メタは争う姿勢 第1回口頭弁論 - 産経ニュース (sankei.com)