ダイヤモンド社と共同で行なっていた「海外投資の歩き方」のサイトが終了し、過去記事が読めなくなったので、閲覧数の多いものや、時世に適ったものを随時、このブログで再掲載していくことにします。
今回は2021年1月28日公開の「ネット社会や高度化するテクノロジーの負の側面とは？ 「テクノロジー・ユートピア」は幻想なのか」です（一部改変）。先日行なわれた兵庫県知事選を念頭にお読みいただければ。
******************************************************************************************
先入観や思い込みを排して客観的にデータを見れば、テクノロジーの指数関数的な性能向上と高度化するグローバル資本主義によって、より少ない資源からより多くの食料、エネルギー、製品を生み出せるようになり、わたしたちの生活だけでなく地球環境もますますよくなっているらしい。
参考：「加速するテクノロジーの融合」がすべての社会問題を解決する？ 「合理的な楽観主義者」の論理
これはたしかに勇気づけられる話だが、テクノロジーには負の側面もあるのではないか。そう思って2冊の近刊を手に取ってみた。
現実をコントロールしようとする試みがゲームのように行なわれる時代
サミュエル・ウーリーはテキサス大学オースティン校のジャーナリズム・スクール助教授で、「AIや政治、ソーシャルメディアを専門とする研究者兼著述家」だ。
『操作される現実 VR・合成音声・ディープフェイクが生む虚構のプロパガンダ』（小林啓倫 訳／白揚社）でウーリーは、高度化するテクノロジーによって「デジタル・プロパガンダ」がますます容易になり、それが民主政（デモクラシー）を破壊してしまうのではないか、と警鐘を鳴らす。原題は“The Reality Game: How the Next Wave of Technology Will Break the Truth（リアリティゲーム テクノロジーの次の波はどのように真実を破壊するのか）”。
SNSで特定の主義主張をつぶやくように設計された「政治的」ボットは、「世論操作を目的とした、SNS上での自動化技術とアルゴリズムの使用は、民主主義が直面しているもっとも差し迫った問題の一つ」とされる。
わずか20人のグループであっても、1日に何百件ものコメントをつぶやけば、Twitter上の政治的な議論に大きな影響を与えることができる。協調して活動する5000体の政治ボットがそれに加わったらどうなるだろう。これは架空の話ではなく、現実に2016年の米大統領選では、「単に「いいね」をフォローしたり、リンクを拡散したり、トレンドを捻じ曲げたり、反対派を荒らしたりすることを目的とした、初歩的なボット」が使われ、それによって議論の方向が変化しネット上に陰謀論が拡散することになった。
次に起きるのは、「政治ボット」にAIを搭載し、より人間らしくすることだ。これはすでに開発されていて、新しいチャットボット・システムは、「データから学習し、パターンを識別して、最小限の人間の介入で決定を下すことができる」。
マーサーという名のソフトウエアエンジニアが開発したAIボットは、標的となった人物に関する基本的な情報を収集し、「最近の出来事を話題にしたり、その人を褒めたりするなど、さまざまな会話術を試し、注意を引いて会話を盛り上げようと」することで、あらゆるジャンルの著名人たちとかかわることに成功した（ボットのtweetを著名人がRTした）という。
かつてはSNSによって、政治の世界に草の根（グラスルーツ）のコミュニティを組織化できるとの期待があった。だが現実には、企業やその他の強力なスポンサーから資金提供された業者によって、ポピュリズムの温床となる「人工芝（アストロターフ）」が組織化されている。コンピュータ・プロパガンダの請負企業は、政治的ボットの開発以外にも、トロール（荒らし）による攻撃や、ジャーナリストに対するドキシング（誰かを攻撃するために、オンライン上でその個人情報をさらすこと）、偽のオンライン抗議活動などをさかんに演出している。
それに加えて動画編集の「ディープフェイク」では、人間の目ではフェイクだと判別できないほど巧妙に加工された映像をつくることが可能だ。いずれ政治家や有力者が、映像に映し出されていることを本当に発言したり行なったりしたのかを判別することがほとんど不可能になるだろう。
ディープフェイクの影響は、自分の発言を捏造されることだけではない。「嘘をついている政治家は、こうした加工映像が出回っていることを利用して、自分たちは捏造の被害を受けているのだと主張」するようになるにちがいないとウーリーはいう。
その先には、VR（仮想現実）やAR（拡張現実）を活用した政治コンテンツや、本物の人間が話しているように聞こえる自動音声プログラムが大衆操作に使われる未来が迫っている。政府やSNSメディア企業が何もしなければ、今後数年のうちに、AIボットは「職歴から居住地、信仰など、あらゆる情報に基づいて有権者をターゲティングするために利用されるようになる」と予測されている。
オンラインの世界では、人間と機械の境界線がますます曖昧なものになっている（機械が人間に近づいているのと同時に、人間は機械に似てきている）。世界を救う道具だったはずの最新のガジェットは、デモクラシーを破壊する道具へと変化してしまった。わたしたちは、「現実をコントロールしようとする試みがゲームのように行なわれる時代」に生きているのだ。
ファクトチェックは効果がないばかりか、逆に陰謀論を強化する
2016年の米大統領選で、「ヒラリーのメール漏洩問題を調査中のFBI捜査官が死体で発見される――殺人後に自殺した可能性」という記事がFacebook上で毎分100回以上もシェアされた。”コロラド州でもっとも古い報道機関”を自称する「デンバーガーディアン紙」のこの記事は、じつはまったくのウソだった。記事を作成した「カリフォルニア在住のアメリカ市民」はメディアのインタビューに、「人々がこういう話を聞きたがったのです」とこたえている。「だから後は、それを書くだけでした。すべてはでっち上げです。町も、登場人物も、警察官も、FBIも。その後は……ソーシャルメディアの連中が現れて、トランプの支持者たちに伝えて、そしたらしめしめ、山火事のように広がったというわけです」。
2016年の大統領選挙期間中に大量のフェイクニュースを配信することで、この人物は月に1～3万ドル（100万～300万円）を稼いでいたという。
「批判的思考」と「陰謀論的思考」を区別するのは難しいとウーリーはいう。「どちらもアイデアや議論、出来事を「深く掘り下げる」ことに注力しており、少なくとも表面的には、何が事実や真実なのかを調べようとするものだ」からだ。
だとしたら、本当のニュースとフェイクニュースをどう見分ければいいのだろうか。それは、「証拠とデータ、出来事をじかに体験した人々へのインタビュー、そして客観的であろうとする努力」だとされる。
だがウーリーは、「そのインタビューの対象者がバイアスを受けている可能性はないか」「あらゆる研究は、研究者やジャーナリストの価値観によって歪められたものではないか」との反論があることも承知している。真実を一義的に決定できることはまれなので、どのような主張にもなんらかの「合理的」な疑問を呈することは可能なのだ。
こうして、「アメリカはディープ・ステイト（闇の政府）に支配されており、トランプはそれと闘っている」とするQアノンの陰謀論が燎原の火のように拡散することになった。「白人至上主義者」が信じるこの陰謀論では、「闇の政府」はバラク・オバマ（黒人）、ヒラリー・クリントン（女性）、ジョージ・ソロス（ユダヤ人）に率いられている。
ここで困惑するのは、ファクトチェックは効果がないばかりか、逆に陰謀論を強化するらしいことだ。これが「バックファイア効果」で、「訂正は、実際には標的にされた人々の間に生じた誤解を増幅させる」のだ。
なぜこんなことになるかというと、ひとは結局、自分が見たいものしか見ないからだ。自らの信念が覆ることは大きな不安を引き起こし、どのような「ファクト」にも反論が可能なのだから（「闇の政府」が存在しないことを証明することはできない）、ファクトチェックで信念を揺さぶろうとすると、さらに陰謀論にしがみつくことになってしまうのだ。
ウーリーは、ファクトチェックのような取り組みは、「ユーザーに権限を与えることで、問題解決の負担をユーザーに転嫁している」と批判する。「テクノロジー・ユートピア」の旗を振るシリコンバレーの住人たちは、自らが開発したテクノロジーから生じる問題をユーザーの「自己責任」にするために、リバタリアニズムを利用してきたのだという。
グーグルは「邪悪になるな」をモットーとし、フェイスブック（サッカーバーグ）は「素早く行動せよ」という。一見、対極にあるこの言葉は、「一方では、企業は自らが社会の救世主であると謳い、他方では、自らの仕事が必然的に変革をもたらすものだと考えている」都合のいい論理を象徴している。
私たちは毎日250京バイトの情報を生み出している。5年前と比べ、インターネット利用者数は10億人増加し、アクティブユーザー数は合計37億人に達した。世界中で利用可能なオンラインデータの90％は、過去2年間に生成されたものだという。
巨大なSNSプラットフォームや検索エンジンのほとんどは、ユーザーへのリーチとユーザーデータベースへのアクセスを販売することで利益を得ている。だとすれば、ニュース提供者であり、情報キュレーターでもあるビッグテックには大きな責任がある。
だからといって、ウーリーは反トラスト法によってビッグテックを分割することは解決にはならないという。「真実を捻じ曲げるために使われてしまったツールを開発した会社を解散させる前に、問題を解決させるために彼らに責任を取らせる必要がある」。
とはいえ、現代の世界の根本的な問題は「二極化、ナショナリズム、グローバル化、過激主義」であり、虚偽やプロパガンダはそこから生じる症状にすぎない。ビッグテックが「真実の裁定者」となってドナルド・トランプをSNSから追放したとしても、それはたんなる「対症療法」でしかないのだ。
ゆたかな者はますますゆたかになり、貧しいものはずっと貧しいまま
マシュー・ハインドマンはジョージ・ワシントン大学メディア公共問題学校准教授で、「政治的コミュニケーション、デジタル観衆、オンライン虚報などを中心に研究」しているという。『デジタルエコノミーの罠 なぜ不平等が生まれ、メディアは衰亡するのか』（山形浩生 訳／NTT出版）は、そのハインドマンがアメリカの地方新聞を素材に、インターネットが民主政（デモクラシー）やジャーナリズムにどんな影響を与えるのかを論じている。原題は“The Internet Trap: How the Digital Economy Builds Monopolies and Undermines Democracy（インターネットトラップ デジタルエコノミーはどのように独占を構築し、民主政を掘り崩すのか）”。
インターネットが大衆に開放された1990年代半ばには、個人の自由が際限なく拡大し、言論空間が拡張され、あらゆる既得権を破壊して「テクノロジー・ユートピア」を実現するのだとさかんにいわれた。それから四半世紀たって、あの頃の“夢”はどうなったのだろうか？
ハインドマンは、オンラインビジネスが「関心（アテンション）」を貨幣とする経済であることから話を始める。その特徴は、エージェント（サイト）のあいだのちがいが単利のように累積するのではなく、複利で累乗することだ。
資本主義のビジネスが利潤（貨幣の量）の最大化を目指すのと同じように、インターネットのビジネスでは観衆＝利用者の「関心の最大化」が目標になる。そのときに重要なのが「粘着性（stickiness）」で、「いちど訪れて気に入ったサイトは、繰り返し訪れるようになる」ことだ。だがネットの世界には無数のサイト＝選択肢があるのだから、ちょっとした不満があれば観衆はすぐにほかのところに移ってしまう。
ネットビジネスのこうした特徴は、「サーチ（検索／探索）」にコストがかかることで説明できる。別のサービスを利用するためには、いまよりよいところを探し、サイトの使い方を学習し、あれこれ試してみる必要がある。それがすべて無料であっても、1日の時間は限られているので、利用者には思いのほか大きなコストがかかっている。これまでと同じサービスを利用していれば、サーチコストの分を別のこと（趣味や仕事）に使えるのだ。
そのように考えると、インターネット事業者にとって死活的に重要なのは、サイトの満足度が常にサーチコストを上回るように維持することだ。この場合、利用者は別のサイトに移ると超過コストが生じるので、同じ場所に留まるのが合理的になる。
ライバルの立場からすれば、この粘着性を引きはがして、利用者を自分のところに引き込まなくてはならない。そのためには、サーチコストに見合うだけの金銭的な報償をつけるなど、さまざまなマーケティング努力が必要になるだろう。
サイトの粘着性を高める重要な要素はなんだろうか。ハインドマンは、大きく次の4つだという。
1つは「読み込み時間の速さ」で、「さくさく進む」ことだ。多くの研究で、速度が速いとトラフィックが増え、10分の1秒でも遅れるとトラフィックが減ることが示されている。「遅い」ことは利用者にとって大きなストレスなのだ。
2つ目はコンテンツの更新で、ニュースサイトの場合、訪れるたびに新しい記事がアップされていれば粘着性は高まり、同じ記事ばかりだと観客は退屈して離れていく。記事の分量を短くすることも重要で、AP通信とロイターでは「500ワード（日本語換算で1000字）以下」とされている。「読者がほとんどの長い記事を読むだけの集中力がなく、記事が長すぎると読む気を失ってしまう」からだという。
3つ目はサイトのデザインとレイアウトで、ここではA／B試験（2種類のデザインをランダムに利用者に提示し、どちらのレスポンスが高いかを評価する）が使われる。ニュースサイトの煽情的な（あるいは紛わしい）見出しがしばしば批判されるのは、記事を的確に要約するのではなく、A／B試験によってもっともトラフィックの多いものを使うようになったからだ。
4つめは「パーソナル化されたコンテンツ推薦システム」で、Amazonのお勧め商品やNetflixのお勧め動画のように、利用者が求めているものを上手にリコメンド（推薦）できれば関心は高まり、トラフィックは大きくなる。
中小のニュースメディアや新興企業にとってのハードルは、これらの条件をクリアするのに膨大な費用がかかることだ。読み込み速度を上げるにはサーバーに巨額の投資をしなければならず、大量のコンテンツをつくるには多くの記者を雇わなければならない。だがそれだけでは十分ではなく、大量のトラフィックからのビッグデータがないと、A／B試験もAIによるリコメンドもうまくいかないのだ。
こうして、インターネットの世界では先行者が圧倒的に有利になる。2016年半ばの時点で、GoogleとFacebookがアメリカでのデジタル広告の73％を占めているのは、「ゆたかな者はますますゆたかになり、貧しいものはずっと貧しいまま」という“マタイ効果”の典型なのだ。
ニュースサイトはどのように生き延びるか
ハインドマンは、インターネットを生態系と考えると、それは次のように「進化」していくはずだと述べる。以下が「観衆の進化モデル」だ。
前提１：「オンラインのほぼあらゆるサイトは現状より多くの観衆を受け入れられる」。ウェブの技術的なアーキテクチャは即時の観衆増加に対応できる。それぞれのサイトに物理的な限界はない。
前提2：「コンテンツのカテゴリーは安定した観衆を示している」。ニュースや天気、買い物などの観衆のシェアは、総体として時間がたっても驚くほど安定している。それぞれのサイトは、どのカテゴリーに属すかによって市場の大きさがほぼ決まっている。
前提3：「消費者とウェブサイト自身にとって、リソースは限られている」。1日は24時間しかないため、利用者の関心の獲得は仕事、家族との会話、睡眠などとの競争になるし、サイトの財源も限られている。
結論1：以上の前提が満たされるならば（データはそれを示している）、「関心をめぐる熾烈な競争」が必然的に引き起こされる。ただし、これは「平等な競争」などではまったくない。
前提4：「限られたリソースのおかげで、ウェブサイトごとに観衆構築をもたらす性向がちがっている」。読み込み時間の速さやコンテンツの更新間隔などのサイトの特性が、トラフィック増（観衆の構築）に決定的な重要性を持つ。
前提5：「有利な性向を持つサイトはだんだん市場シェアを増やす」。粘着性を高めることに成功したサイトは、累積的ではなく累乗的に利用者を増やしていく。
結論2：この「自然選択」ならぬ「観衆選択」によって、サイト間のごくわずかな日々の差が指数関数的に拡大し、マタイ効果によって「勝者総取り」になる。現実のインターネットでは、ウェブ訪問の3分の1はトップ10の企業に向かっているのだ。
インターネットの「残酷」な生態系のなかで、ニュースサイトはどのように生き延びればいいのだろうか。これについてハインドマンは、現在行なわれている解決策（もどき）はたいして役に立たないという。
「従量課金」はヘビーユーザーだけから売上を求める手法だが、その代償としてトラフィックの低下を招いてしまう。デジタル化に成功したとされる『ニューヨーク・タイムズ』ですら、課金の影響でトラフィック減少を経験した。関心経済でもっとも重要なトラフィックを減らしてしまっては未来は先細りだ。
コストのかかる紙をやめてデジタルに特化する「オープンウェブ」はどうだろう。だがこれは、ニュースサイトが得ているトラフィックの量をすさまじく過大評価している。現実には、地方紙のデジタル広告の相当部分は、印刷物広告との抱き合わせ販売に頼っている。デジタル広告が売れるのは、印刷広告の方でそれに応じた割引をしているからにすぎない。
バナー広告が減りつづけたため、広告はますます動画に移行している（動画広告費は2016年に100億ドルだったのが2020年には180億ドルになると予想されている）。これが「動画への転回」だが、実際にこの転回を行なったサイトの多くは観衆が激減している。これでは従量課金と同じ罠にはまってしまう。
ニュースサイトが「市場原理」で運営できないのなら、非営利にして慈善活動から資金調達するのはどうだろう。だが2013年時点で、慈善活動、個人資産、ベンチャー資本資金を合わせても、全米の地方ジャーナリズム資金の1％にしかならない。「非営利団体にすればいい」との意見もあるが、現状でも地方新聞のほとんどは赤字で、非営利にしても納税額が減るわけではなく、芸能ニュースやスキャンダルなど、もっとも人気の高いコンテンツを載せられなくなれば観衆は激減するだろう。
そのように考えると、唯一まともな提案は「政府出資」だとハインドマンはいう。「ニュースは公共財なので、政府補助は国防から教育にいたる様々な政策分野で見られるのと同じ論理で正当化できる」というのだ。
だがそうなると、「公共メディアが自分たちの予算を決める政府＝権力を批判できるのか」とか、「（真の出資者である）納税者を不快にするようなコンテンツを提供できるのか」とか、「納税者がコンテンツに自分のお金を払いたくないと主張した場合にどうするのか」など、NHKをめぐって日本で争われているさまざまな問題が噴き出すのではないだろうか。
ハインドマンは、「インターネット元年」から25年たって、「私たちがオンラインで構築したものは、まるでエコシステムなんかではなく、コマーシャルな単一栽培作物が2つできただけだ」という。そしてGoogleやFacebookのような大企業は電力と同じように「関心公益事業会社（attention utilities）」と考えるべきだとして、反トラスト規制による分割を考慮すべきだと主張している。
禁・無断転載