「政治的に正しいAI」は実現できる? 週刊プレイボーイ連載(596)

生成AIが世界的に話題になっていますが、先行するオープンAIに対抗してグーグルが満を持して投入した「Gemini(ジェミニ)」がたちまち炎上しました。ヨーロッパの歴史的な人物の画像を生成させたところ、白人以外の人種になり、SNSに黒人のフランス国王やローマ法王、アジア系の中世の騎士などの画像があふれたのです。グーグルは謝罪のうえ機能を停止し、修正を急ぐ事態になりました。

この失態の背景には、2015年の「ゴリラ事件」があります。グーグルフォトがスナップ写真を分析して、「犬」「誕生パーティ」「ビーチ・トリップ」などといったフォルダに自動的に振り分けるサービスを始めたのですが、あるユーザーが心当たりのない「ゴリラ」というフォルダを見つけました。不思議に思ってそのフォルダを開いてみると、近所で開かれたコンサートで女友だちを写した写真が80枚以上入っていました。その友だちは黒人でした。

ユーザーはそれをスクリーンショットに撮って、「グーグルフォトはひどすぎる。ぼくの友だちはゴリラじゃないぞ!」とSNSに投稿しました。当然ながらたちまち大炎上し、グーグルは平身低頭して謝罪、二度と同じことが起こらないようにすると約束しましたが、不具合をなかなか修正できず、その後5年以上も「ゴリラ」という単語が検索できない状況が続いたのです。

このようなことが起きるのは、何千枚もの写真をニューラルネットワークに与えて訓練するとき、AIがなにを学習したかを技術者がコントロールできないからです。そのため、思わぬ回答や分類を完全に防ぐのは困難です。

ビッグデータから学習するAIは社会の差別や偏見を反映しますから、チャットGPTのような大規模言語モデルでは、不適切な回答を避けるために、人間によるフィードバックで言語モデルを修正しなくてはなりません。これが「目標駆動学習」あるいは「人間のフィードバックによる強化学習(RLHF)」で、ラベラーと呼ばれる技術者が望ましい回答をするようAIを訓練していきます。

グーグルは過去の失敗体験から、AIを「社会正義」に沿うように過剰に訓練したのでしょう。人種多様性に配慮しすぎた結果、「政治的に正しい」ものの「歴史的に間違っている」画像を生成するようになってしまったのです。

AIの「道徳」や「正義」には、ラベラーの価値観が強く反映されています。それは現時点では、シリコンバレーの多数派を占める20歳から40歳のヨーロッパ系(ユダヤ系を含む)白人男性のリベラルな価値観であることは間違いないでしょう。しかし異なる属性をもつひとたち(有色人種、女性、性的少数者、保守派、宗教原理主義者など)は、これとは異なる価値観を「公正」と見なすかもしれなません。

すべてのひとが納得する「正義」がない以上、ポリティカル・コレクトな(政治的に正しい)AIをつくる作業はいずれ、価値観の闘争の泥沼に引きずり込まれてしまうでしょう。さらなる混乱で収拾がつかなくなったとき、「自分で判断するから、妙な訓練をしていないAIでいいよ」という声があがるだろうと予想しておきます。

参考:ケイド・メッツ『GENIUS MAKERS ジーニアスメーカーズ Google、Facebook、そして世界にAIをもたらした信念と情熱の物語』小金輝彦訳/CCCメディアハウス
岡野原 大輔『大規模言語モデルは新たな知能か ChatGPTが変えた世界』岩波科学ライブラリー

追記:ユネスコはオープンAIとメタが開発した生成AIに関する調査結果を公表し、AIは作成した文章には女性への明白な偏見があるとして、「AIが持つ強いジェンダーバイアス」を警告した。異なる人物を主人公にした物語の作成を指示すると、いずれのAIも「エンジニア」「教師」「医師」など社会的地位が高いとされる仕事を男性に与え、「使用人」や「料理人」「売春婦」など社会の中で伝統的に低い地位に見られてきた職業を女性に与える傾向が強かった(「AI作成の物語に偏見」朝日新聞20241年3月9日)。

『週刊プレイボーイ』2024年3月18日発売号 禁・無断転載

欧米ネトウヨ事情 過激主義は「無理ゲー社会」への異議申立て

ダイヤモンド社と共同で行なっていた「海外投資の歩き方」のサイトが終了し、過去記事が読めなくなったので、閲覧数の多いものや、時世に適ったものを随時、このブログで再掲載していくことにします。

今回は2022年3月24日公開の「「白人至上主義」などすべての過激主義は「無理ゲー社会」への異議申立て」です(一部改変)。

Johnny Silvercloud/Shutterstock

******************************************************************************************

1999年公開の映画『マトリックス』に、主人公のネオが謎の組織の男モーフィアスから、ブルーピルかレッドピルかを選ぶよう迫られるシーンがある。モーフィアスはネオにいう。

「青い薬(ブルーピル)を飲めば、話はここで終わる。おまえはベッドで目覚め、あとは信じたいものを好きなように信じればいい。だが赤い薬(レッドピル)を飲めば、おまえはこの不思議の国にとどまるのだ。そのときは、私がこのウサギの穴がどれだけ深いか見せてやろう」

このシーンはその後、「レッドピリングする」という新語を生み出すほど有名になった。その意味は、「これまで隠されていた真実を知る」ことだ。

仏教(マインドフルネス)に魅了されたシリコンバレーのエリートは、瞑想体験を「レッドピル」と呼んだ。だがこの言葉は、いまや圧倒的に極右や陰謀論者のネットミームとして使われている。「世界はディープステイト(闇の政府)に支配されていて、トランプはそれと闘っている」というQアノンの陰謀論は、ネットで流通する「もうひとつの(オルタナ)真実」の典型だ。

ユリア・エブナーの『ゴーング・ダーク 12の過激主義組織潜入ルポ』(訳者 西川美樹/左右社)は、「レッドピリングした」若者たちのコミュニティに潜入した記録だ。エブナーはロンドンを拠点とするシンクタンク「戦略対話研究所(ISD: Institute for Strategic Dialogue)」の上席主任研究員で、オンラインの過激主義、偽情報、ヘイトスピーチなどを研究対象にしている。ISDは、暴力を引き起こすような過激主義(extremism)にどう対応するかを、政府や治安機関、フェイスブックなどSNSプラットフォーマーにアドバイスしている。

エブナーは1991年ウィーン生まれだから、この本を書いたときは20代だった。潜入対象は「ジハーディスト(イスラム聖戦主義者)、キリスト教原理主義者、白人ナショナリスト、陰謀論者、過激なミソジニスト」などだが、ここでは「白人至上主義」の組織を取り上げて、彼女がそこでなにを見たのかを紹介してみたい。 続きを読む →

世界の終末を恐れる億万長者たち

新刊『テクノ・リバタリアン 世界を変える唯一の思想』の冒頭にする予定で書いて、「やっぱりちょっとちがうかな」と思って削った文章を(もったいないので)アップします。世界の終末を恐れるプレッパー(準備する者)であることは共通しますが、ここに登場する億万長者は投資家で、テクノロジーには疎そうなので。

橘玲『テクノ・リバタリアン』文春新書

******************************************************************************************

ダグラス・ラシュコフの肩書をひとつに決めることは難しいが、あえていうならば「サイバーカルチャーの専門家」だろうか。1961年にニューヨークに生まれ、プリンストン大学を卒業後、西海岸に移ってカリフォルニア芸術大学で演出を学んだラシュコフは、早くからインターネットの可能性に魅了され、サンフランシスコのレイヴカルチャーを紹介し、晩年のティモシー・リアリーと交流してテクノ・ユートピア論を唱えたものの、やがて商業化されたサイバースペースに幻滅し、距離を置くようになった。

そのラシュコフが、(アリゾナかニューメキシコだと思われる)どこかの「超豪華なリゾート」に招待され、講演を依頼されたときの興味深い体験を書いている。講演料は、「公立大学教授としての私の年収の約3分の1に達するほど」だった(1) 。

ビジネスクラスで指定の空港に着くと、そこにリムジンが待っていたが、目的地のリゾートまではさらに砂漠のなかを3時間もかかる。忙しい金持ちが会議のためにこんな辺鄙(へんぴ)なところまでやってくるのかと不思議に思っていると、高速道路に平行してつくられた飛行場に小型ジェットが着陸するのが見えた。

ようやくたどり着いたのは、「何もない土地の真ん中にあるスパ&リゾート」だった。砂漠の果てしない景色を背景に現代的な石とガラスの建物が点在し、専用の露天風呂がついた個人用「パビリオン」まで行くのに地図を見なければならなかった。

翌朝、ゴルフカートで会議場に連れて行かれると、控室でコーヒーを飲みながら待つようにいわれた。ラシュコフは聴衆の前で講演するのだと思っていたのだが、そこに5人の男たちが入ってきた。全員がIT投資やヘッジファンドで財をなした超富裕層で、そのうち2人は資産が10億ドル(約1500億円)を超えるビリオネアだった。

男たちはラシュコフに、投資するならビットコインかイーサリアムか、仮想現実か拡張現実か、あるいは量子コンピュータを最初に実現するのは中国かGoogleかなどと質問したが、あまり理解できていないようだった。そこで詳しく説明しようとすると、それを遮って、本当に関心のあることに話題を変えた。

大富豪たちがテクノロジーの専門家をわざわざ呼んでまで知りたかったことは、「移住するべきなのはニュージーランドか、アラスカか? どちらの地域が、来たるべき気候危機で受ける影響が少ないのか?」だった。

「気候変動と細菌戦争では、どちらがより大きい脅威なのか? 外部からの支援なしに生存できるようにするには、どの程度の期間を想定しておくべきか? シェルターには、独自の空気供給源が必要か? 地下水が汚染される可能性はどの程度か?」などの質問もあった。

最後に、自分専用の地下防空壕がまもなく完成するという男が、「事件発生後、私の警備隊に対する支配権を維持するにはどうすればよいでしょうか」と訊いた。

警備隊が必要なのは、核戦争や致死性ウイルスの蔓延のような「事件」が起きたあと、飢餓に陥った群衆がゾンビの群れのように、自分の敷地に押し寄せてくると考えているからだ。

だが警備隊を常駐させたとしても、大富豪は安心できない。外は死の世界だが、シェルターには大量の食料と石油が備蓄されている。だったら警備員たちは、雇い主である大富豪をさっさと始末して、それを自分たちのものにしてしまうだろう。

反乱を防ぐために大富豪が考えたのは、食料倉庫に自分だけが開く方法を知っている特別なダイヤル錠を設置することだった。たしかにこれなら反乱を起こしても警備隊は食料を手に入れられないが、たんに「殺されない」ことの保証にしかならない。

そこで、警備員に「しつけ首輪」のようなものを装着させる(ボタンを押すと電流が流れてのたうち回るような装置を想定しているのだろう)とか、警備員や作業員をすべてロボットにするなどのアイデアも出たという……。

アメリカには、黙示録的な世界の終末を信じるカルトがいる。彼らが「サバイバリスト」と呼ばれるのは、「世界の終わり」を生き延びればキリストの再臨に立ち会い、自分たちだけに天国への扉が開かれると信じているからだ。

「ドゥームズデイ・カルト(Doomsday Cult)」とも呼ばれるサバイバリストは、政府は陰謀組織(ディープステイト)によって支配されていると信じているので、医療や社会保障のようないっさいの公共サービスと納税を拒否し、子どもを学校に通わせようともしない (2)。

自給自足の貧しい暮らしをするサバイバリストは、ビリオネアとすべての面で対極にあるが、ラシュコフは自分を呼びつけた大富豪たちの頭のなかが、終末論を信じるカルトと同じであることを思い知らされたのだ。

(1)ダグラス・ラシュコフ『デジタル生存競争 誰が生き残るのか』堺屋七左衛門訳/ボイジャー
(2)タラ・ウェストーバー『エデュケーション 大学は私の人生を変えた』村井理子訳/ハヤカワ文庫NF

橘玲『テクノ・リバタリアン』文春新書