皇族の結婚をめぐる一連の騒ぎは、メディアの煽情的な報道だけでなく、ネットやSNSが抱える問題も浮き彫りにしました。

典型的なのは、大手ポータルに掲載された「眞子さん、一番大きな不安は「誹謗中傷が続くこと」文書で回答」という新聞社配信の記事に「誹謗中傷」の投稿が殺到して、コメント欄が非表示にされたケースです。

このニュースポータルはコメント欄設置について、「ユーザーのみなさまが発信主体となることで新しい価値が生まれると信じています」とその意義を述べつつも、「人権侵害や差別に当たりうる投稿は一切許容していません」と強調しています。

しかし現実には、皇族についての記事には毎回数千件ものネガティブなコメントが投稿され、当事者が「恐怖を感じた」と述べ、精神に不調をきたしているにもかかわらず、私人になって以降も同様の状態が続いています。

これが放置できないことはニュースポータルも気づいているようですが、その対応は「AIが判定した違反コメント数などの基準に従い、コメント欄を自動的に非表示とする」というなんとも奇妙なものです。なぜここでAI（人工知能）が出てくるのでしょうか？

AIがチェスや将棋ばかりか、「もっとも難しいゲーム」とされた囲碁でも世界トップ棋士を破ったことは世界じゅうを驚愕させました。すでに医療現場では、エックス線やCTなどの放射線画像診断を高い精度で行なうなど、大きな成果をあげています。

とはいえ、AIがなんでもできるわけではありません。投稿のなかから差別語や猥褻語を抽出するだけなら簡単でしょうが、こうした単純なルールは投稿者がすぐに学習し、一見、中立を装って、あいまいなニュアンスによって攻撃する「嫌味な」表現を使うようになります。現時点で、これを判定できる高度なAIは存在しません（もし可能なら、そのAIは人間と変わらなくなってしまいます）。

だったらなぜ、（できもしない）AIに判定させようとするのか。それは、人間がコメント欄の削除を行なった場合、誰がどのような基準で決めたのかの説明責任が生じるからでしょう。「Aの表現はOKでBの表現はNG」のような整合性のあるルールがつくれるわけもなく、泥沼に陥るのが目に見えています。

それに対してAIの機械学習には、どのような基準で判断したのかわからない「ブラックボックス」という特徴があります。これなら「なぜ削除したのか」の抗議に対して、「AIの判定なので説明は不可能」と回答できて都合がいいのです。

とはいえこれは、ニュースポータルだけを批判すればいい話ではありません。コメント欄をアクティブにするかどうかは記事の配信側で決められるので、誹謗中傷の投稿を予想して、あらかじめコメント欄を閉じておくこともできるはずです。

ところが、多くのコメントが集まる記事はその分だけ閲覧数が増えます。ニュースポータルも配信者もできるだけアクセスを稼ぎたいので、けっきょく「人権」は建前だけになり、誹謗中傷にさらされている者のことなどどうでもよくなってしまうのでしょう。

『週刊プレイボーイ』2021年11月8日発売号　禁・無断転載