【開催報告】プラットフォームがもたらした"民主主義の危機"とは ー シンポジウム「変容するメディア環境と民主主義の未来」（2021.12.20 開催）
2022.06.02
KGRI「2040独立自尊プロジェクト」の一翼をなす「プラットフォームと『2040年問題』」プロジェクト。このたび、慶應義塾大学 サイバー文明研究センター（CCRC）と国立研究開発法人 科学技術振興機構（JST）との共催で、シンポジウム「変容するメディア環境と民主主義の未来」が開催された。
世界規模で政治的な分極化や社会の分断が進む現在。その大きな原因として挙げられるのが、SNSやウェブニュースなどのプラットフォームとともに発展を遂げてきた、ユーザーの関心を喚起する技術や「アテンション・エコノミー」と呼ばれるビジネスモデルの存在だ。人間の意思や行動をも操作可能なこのシステムの影響下で、民主主義はいかにして機能し、活路を切り拓くことができるのか。
民主主義の根幹を揺るがす事態に対し、いち早く警鐘を鳴らしてきたアメリカ・ハーバード大学教授のローレンス・レッシグと、イェール大学助教授の成田悠輔を招いてオンラインで実施されたシンポジウム。メディア環境と民主主義の持続可能性を問う議論の模様を、ダイジェストでレポートする。
※動画はこちら
＜講演＞ローレンス・レッシグ（Lawrence Lessig） ハーバード大学ロースクール法学教授 成田悠輔（なりた・ゆうすけ） イェール大学助教授
＜パネルディスカッション＞
モデレーター：
國領二郎（こくりょう・じろう） 慶應義塾大学総合政策学部教授、JST-RISTEX「人と情報のエコシステム」研究開発領域総括 コメント：
クロサカタツヤ 慶應義塾大学大学院政策・メディア研究科特任准教授 中川裕志（なかがわ・ひろし） 特定国立研究開発法人理化学研究所、JST-RISTEX「人と情報のエコシステム」研究開発領域研究代表者 山本龍彦（やまもと・たつひこ） 慶應義塾大学大学院法務研究科教授、KGRI副所長
総合司会： 河嶋春菜（かわしま・はるな） KGRI特任准教授
シンポジウム「変容するメディア環境と民主主義の未来」
河嶋春菜：総合司会を務める、KGRI特任准教授の河嶋春菜です。このシンポジウムは新型コロナウイルスの感染拡大と、それに伴う日本の入国制限のため、予定を変更してオンラインでの開催となりました。はじめに、慶應義塾塾長の伊藤公平よりご挨拶申し上げます。
伊藤公平：「変容するメディア環境と民主主義の未来」、まさに今こそ議論するべきテーマだと思います。私自身も、『ファイナンシャル・タイムズ』のベストブック・オブ・ザ・イヤー2021に選ばれた『This Is How They Tell Me the World Ends』（ニコール・ペアロー著）を読みながら、メディアの役割と民主主義について考える重要性に想いを巡らせたばかりです。素晴らしいディスカッションになることを期待しています。
山本龍彦：KGRI副所長の山本です。本シンポジウムはKGRI「2040独立自尊プロジェクト」の一環として、慶應義塾大学 サイバー文明研究センター（CCRC）、国立研究開発法人 科学技術振興機構（JST）と共同で開催する運びとなりました。近年問題になっているフィルターバブルやフェイクニュースなどの現象を生み出している言論空間、アテンション・エコノミーと呼ばれる構造や環境に焦点を当て、それがメディアや民主主義にどういった影響を与えているのか、憲法の世界的権威であるローレンス・レッシグさんと、経済学の観点から民主主義の持続可能性を問いかけている成田悠輔さんをメインスピーカーに迎えて、ラディカルに問うてみたいと思います。
講演：ローレンス・レッシグ「民主主義文化のビジネスモデル」
ローレンス・レッシグ：本日お話ししたいのは、民主主義文化のビジネスモデルについてです。オンライン開催のために準備したビデオをまずご覧ください。
今日のポイントとなる主張は以下の3つです。
1. 民主主義文化はビジネスモデルを持っている。
2. そのビジネスモデルは、その時代のテクノロジーの関数である（bModel=f(technology)）。
3. 文化的認識は、そのビジネスモデルの関数である(cUnderstanding=f(bModel))。
次にこのビジネスモデルに関連する、ある異常事態について取り上げます。2021年1月6日のアメリカ合衆国議会議事堂襲撃事件です。これはドナルド・トランプの支持者らが大統領選挙の不正を主張し、連邦議会議事堂を襲撃・占拠した事件でした。背景について『ワシントン・ポスト』紙は、共和党支持者の中で不正選挙が行われたと信じている人が約7割に上ると報じています。
こうした信念は、人々の認識の関数です（fact= f("understanding")）。そして先に挙げたように、認識はビジネスモデルの関数であり、ビジネスモデルはテクノロジーの関数です。民主主義文化の認識は、ビジネスモデルやテクノロジーとの関係によって形作られるというのが私の主張です。
事件後、トランプは議会襲撃を扇動したとする疑いで弾劾訴追されました。ここで、アメリカにおける大統領弾劾の歴史を見ていきましょう。1人目はアンドリュー・ジョンソン、1868年のことです。新聞の報道によって民衆は弾劾賛成派と反対派に分裂しましたが、そのほとんどは党派主義だった......と私は想像していますが、実態はわかりません。というのも、世論調査がまだ存在しなかったからです。
この状況は20世紀に入って大きな変化を迎えます。一つは放送の誕生です。多くの人が同時に同じ情報に触れることが可能になり、多くの市民が信頼できる情報源としてニュースに注目するようになりました。次に「無作為抽出法」、近代的な世論調査の誕生です。この変化が大きな影響を及ぼしたのが、ウォーターゲート事件でした。リチャード・ニクソンは訴追決議の前に大統領を辞任したため、弾劾裁判は開かれませんでしたが、支持率を見ると共和党支持者、民主党支持者、無党派層のいずれも事件のニュースが流れるにつれてほぼ完全な平行線を描いて下落しています。これは、全国民がほぼ同じニュースを摂取した結果です。
その後、21世紀に入る頃にはケーブルテレビが普及し、インターネットの登場によってメディアプラットフォームの数も爆発的に増えました。情報源が増えたことで大半の人はニュースを見なくなり、民衆は再び分裂することになったのです。その結果、ドナルド・トランプの支持率は連邦議会襲撃事件の後でさえ、ほとんど変わらないままでした。これは、人々が複数の異なる現実を生きている状況を意味します。それぞれが自分の聞きたい話だけを聞き、以前からの考えに固執し続けているというわけです。
この状況に大きな影響を及ぼしているのが、"アテンションの科学"です。Googleの元エンジニアで、人道的技術センター（Center for Humane Technology）の共同創業者であるトリスタン・ハリスは、ソーシャルメディアのビジネスモデルが人々を分断した設計手法について語っています。これは人間の進化的な特性を利用して際限なく注目を引き続けるやり方であり、それが人々を分断しているというのです。驚くべきことに、民主主義の弱体化の背景にはこうしたビジネスモデルが存在している。連邦議会襲撃事件の例を挙げるなら、保守派のネットワークがジョー・バイデンの当選は不正だったと報道し、それがFacebookのアルゴリズムに埋め込まれ、憎しみや激しい敵対感情を広めていったのです。
今私たちは、民主主義をどうしていくのかを問わなければなりません。ピューリサーチセンターが実施した世論調査によれば、1997年にはアメリカ国民の約3分の2が「民衆の判断を信頼する」と回答しましたが、今は約3分の2が「信頼しない」と答えています。人々が自らを信じない世界で、果たして民主主義は持ちこたえることができるのでしょうか。ぜひ、みなさんの見解をお聞かせください。
講演：成田悠輔「民主主義の呪縛」
成田悠輔：レッシグ先生のお話から、議論を二つの方向へ広げたいと思います。一つ目は、アメリカから世界へ。二つ目に、メディアと政治の関係からより幅広い社会へ。まずは政治と経済の関係について、民主主義と経済発展の関係を見ていきます。
世界全体で見ると、スウェーデンのシンクタンクV-Dem（The Varieties of Democracy）が作成した民主化の指数と経済成長には普遍的な相関関係があります。その一方で、中国はアメリカや日本と比べて指数が低いものの、急速な成長を遂げています。加えて、民主化指数の高い国である程、過去20年間の経済成長が鈍化していることがわかりました。20世紀までは、GDPの成長率は民主主義国のほうが高かったことが知られています。21世紀に入るとそれがマイナスの関係へと変化したのです。
私はこの逆転現象を「21世紀の新たな分岐」と呼びたいと思います。その背景を時間軸に沿って見ていきましょう。まず1990年代にGoogleをはじめとする第一世代のインターネットプラットフォーマーが現れます。2001年には中国がWTO（世界貿易機関）に加盟し、アメリカや日本の製造業が打撃を受けました。続いて2004〜06年にかけて第二世代のインターネットプラットフォーマー、YouTube、twitter、Instagram、Facebookなどが現れます。その後、2010〜12年の「アラブの春」を経て、各国でポピュリスト政治家が台頭し始めます。ソーシャルメディアが政治に対して大きな影響を及ぼし始めたのです。
そして2020年には、コロナ禍が世界を席巻。各国の人口100万人あたりのコロナ関連死亡者数を見てみると、民主主義国のほうが死者数が高いことがわかります。つまりこの20年間、経済的にも公衆衛生の側面でも、民主主義は一貫して常に悪い状況に置かれている。これを「21世紀における民主主義の呪縛」と呼びたいと思います。
では何故、このような呪縛が生じたのか。部分的な答えは、レッシグ教授もおっしゃるように民主主義の弱体化です。政治的イデオロギーや意見の分極化、ヘイトスピーチ、ポピュリズムなどの民主主義への脅威がありますが、これらの増加率は民主主義国のほうが高いことがわかりました。つまり、民主国であるほど民主主義が劣化しているのです。経済面、貿易や投資に目を向けても、民主主義国は資本への投資が減少して貿易も減っているなど、非常に苦戦していることがわかります。
つまり......アメリカに限らず、民主主義の弱体化の影響は政治やメディアにとどまらず、経済や人をも壊そうとしているのです。では私たちは、一体何をすべきなのでしょうか。これが私からの投げかけです。
指定コメント：クロサカタツヤ、中川裕志、山本龍彦
河嶋：それでは、ディスカッションに移りたいと思います。モデレーターは、慶應義塾大学総合政策学部教授で、JST-RISTEX「人と情報のエコシステム」研究開発領域総括の國領二郎教授です。
國領二郎：ここでは、3名の方々からコメントをいただきます。慶應義塾大学大学院政策・メディア研究科特任教授のクロサカタツヤさん、JST-RISTEX「人と情報のエコシステム」研究開発領域研究代表者の中川裕志さん、慶應義塾大学大学院法務研究科教授の山本龍彦さんです。
クロサカタツヤ：私は慶應義塾で教員を務める傍ら、コンサルティングファーム「企（くわだて）」の代表として通信やデータ関連ビジネスの経営戦略や資本政策に携わっています。その視点から感じるのは、メディア環境の多様化によって新聞やテレビなど伝統的なメディアの信頼が揺らいでいるということ。さらにインターネット上でも「アドフラウド（ad fraud）」と呼ばれる広告詐欺や不正広告が発生するなど、情報流通やジャーナリズムが機能不全に陥っているという危機感が広がっています。
この状況に対して私たちが構想している技術が「OP（オリジネーター・プロファイル）」。情報の発信元についてどんな人か、組織の概要や編集方針などを第三者認証によって明らかにしようとするものです。これが問題の解決につながるのか、間に合うのかどうかはチャレンジしないとわからない部分がありますが、日本の新聞社を中心に共感を得て、動き始めたところです。この取り組みが本日提起された問題の解決策になるのか、ご意見をお聞かせいただければと思います。
中川裕志：私からは、トランプ支持層がSNSの「フェイクメッセージ」を信じ込み、人々が互いに攻撃し合う状況に象徴されるフィルターバブル現象をどう崩していけばいいかを問いたいと思います。
一つは、異なる陣営同士が率先してコミュニケーションできる情報環境を作ること。楽観主義に感じるかもしれませんが、食やスポーツなど、政治的な論争を呼ばない話題を共通項にするのはどうでしょうか。
もう一つは、SNSの匿名利用を禁止すること。「匿名だからこそ本音を言える」「本名だとトラブルにつながる」という見方もありますが、匿名化が民主主義に与えている悪影響についてどう考えますか。
最後に、この問題は「通信の秘密」にも関連します。日本では情報の送り手・受け手の名前は公的に開示されないことになっていますが、この状況を悪用して敵対的なメッセージが多数発信されています。しかし、Twitter社がトランプ元大統領のアカウントを永久凍結したような規制の仕方は、表現の自由と相容れません。両者の良いバランスについて、どう考えればいいのでしょうか。
山本：本日の問題に対して、私は憲法学の観点から以下の3つの可能性を挙げたいと思います。
一つは、SNS などにおける「表現の自由の兵器化（weaponization）」への対処として、表現の自由の再定義が必要かどうか。新自由主義的な「何でもアリ」の表現の自由観に対しては、民主主義の維持・促進など、この権利の本来の目的を踏まえた議論が必要だと思います。
二つ目は、憲法学における「思想の自由市場」論を捉え直すこと。言論や思想の良し悪しは市場の原理によって決定されるという考え方ですが、アテンション・エコノミーの原理が市場原理を歪めている以上、国家による環境の整備が必要ではないか。
三つ目は、マインドハッキングによる「認知過程の自由」の侵害をどう考えるか。認知科学の応用によってユーザーの意思決定が操作されたり、エンゲージメントが無意識的に高められて"中毒"状態に陥ったりするような状況に対し、憲法はどうあるべきかを検討することが重要です。
民主主義の弱体化に対してテクノロジーをどう用いるかも不可避的な論点です。例えば、ユーザーをフィルターバブルに閉じ込めようとする、広告的で商業的なアルゴリズムが跋扈する世界のなかで、ユーザーを"他者"に開く公共的なアルゴリズムをどう実装させるか。メタバースも広がっていくなかで、世界の主権者は誰なのか、リアル領域の王である主権国家と、サイバー領域の王であるプラットフォームとの関係についてもあらためて考えていく必要があります。
ディスカッション：民主主義の危機を救う手立てはあるか
レッシグ：クロサカさんのアイデア、気に入りました。情報の認証のためのインフラ作りは、重要な実験だと思います。ただ、一方のグループが「この組織は信頼できる」と言うと、もう一方から「信頼できない」とレッテルを貼られる懸念が残りますね。
中川さんのおっしゃった、非政治的な話題を議論の糸口にする方法は一理あります。ただ、非政治的な議論を政治化するやり方をどう防ぐか。例えば、FOXニューズが携帯電話の電磁波の危険性を煽ることで問題を政治化しているようなケースです。
「言論の自由について考え直す必要がある」という山本さんの考えにも共感します。例えば、言論の価値をAIが評価するようになった時に「真実かどうか」でなく「エンゲージメントが触発されるかどうか」が基準になると、言論を操作するアルゴリズムが働きだしてしまう。科学を用いてより多くの人を病み付きにする加工食品のように、情報においても人間の進化上の弱さに付け込むアルゴリズムへの対処を考えなければなりません。こうしたアルゴリズムについて、合衆国憲法に基づく言論の自由の範疇だと主張する人がいますが、もし政府がこうした操作的なエンジンに介入できなくなるとしたら、この民主主義社会は極めて脆弱なものになってしまうでしょう。
國領：ここでレッシグ先生に、成田さんが発表された「民主主義の弱体化」というテーマについて質問させていただきます。我々は民主主義のどの側面を守っていくべきなのか、何をもって民主主義だと考えるのか。
レッシグ：民主主義が本質的に守ろうとしているのは権力の分権化、即ち権力が集中しないようにすることだと思います。しかしアメリカではこの20年余り、上院の限られた人たちがどんな法令でもブロックできる力を有しています。さらに電気自動車メーカーのテスラなどの創業者であるイーロン・マスクに至っては、政府さえも凌駕して全世界を変える力を持っているといえる。成田さんが言及された民主主義の弱体化を象徴するような、恐るべき現実があるわけです。
成田：憲法学者の中にも、プラットフォームやアルゴリズムに対して政府の介入を求める向きがあります。レッシグさんが指摘するように、少数の独占企業への過度な権力の集中を防ぐためにです。では私たちは何をするべきか。解決策として少なくとも三つのカテゴリーがあると思います。
一つは情報や通信、ソーシャルメディアに対する介入や規制。二つ目は選挙の仕組みやプロセスを再設計すること。三つ目は既存の政治制度や国家のあり方を放棄し、新しい政治制度を持った独立国家を作るという考え方です。このうち、最も有望なものはどれだと思いますか。
レッシグ：その三つを同時にやらなければいけないと思います。まずは政治領域の言論に対する広告を禁止すること。資本主義的なインセンティブが民主主義的な意思決定を破壊するからです。次に、すべての人々に平等な機会を与えることができない、現状の民主主義制度を改善すること。三つ目に、私たちはすでに国から離れた空間を新たに作ろうとしています。そのバーチャルな世界で、民主主義や専制主義など、どの方法がいいかを見定めていけばいいのです。
ジャーナリズムの役割、法的規制......今私たちにできること
國領：最後に、こうした状況に対するジャーナリズムの役割について、一言ずつお願い致します。
山本：ジャーナリズムの基本的な役割である権力の監視を、今後は国家権力だけでなく"プラットフォーム権力"や"アルゴリズム権力"にも広げていく必要があると思います。例えば、ユーザーの心身に悪影響を及ぼしていることが記されたFacebook文書を告発した報道の動きは、こうした権力に対するジャーナリズムの新たな役割を感じさせます。
中川：GAFAなどプラットフォームの力が非常に強力である以上、その勢力を民主主義的に改めることが近道だと思います。EUのGDPR（一般データ保護規則）のように、様々な国の法律によってプラットフォームに影響を与えていくことが重要ではないでしょうか。
クロサカ：「Don't Trust. Verify.（信じるな、検証せよ）」「Trust. But Verify.（信じろ、でも検証せよ）」という二つのコンセプトを挙げたいと思います。我々の生活には、ジャーナリズムを信じないといけない局面があります。そのなかで検証できる状況をどう作るのかが極めて重要であり、それがジャーナリズムと民主主義の健全化につながると思います。
成田：本日の議論は、ソーシャルメディアにおけるエンゲージメントやコミュニケーションなどを一度冷却し、減速（slow down）しようというものでした。その取り組みを、中国政府やシンガポール政府はすでに始めていると考えることもできます。それも、少し怖い形で。私たちのビジョンをこうした専制主義国家とどう差別化していくか......6月に開催予定の次回でぜひ、議論を深めていきたいと思います。
レッシグ：「slowing down」、その通りだと思います。スローフードのように、スローな民主主義があってもいいですね。機械が処理している情報の収集スピードを、もっと穏やかにすること。人間の能力を超えた処理速度が、この混沌とした状況を生んでいるのですから。
河嶋：みなさま、ありがとうございました。慶應義塾大学 サイバー文明研究センター（CCRC）共同センター長のデイビッド・ファーバーより閉会の挨拶を致します。
デイビッド・ファーバー：インターネットが登場した頃、私たちは世界中の人々が対話を通じてお互いを理解し、争いのない時代が訪れると期待を膨らませました。今こそ、あの頃の願いを思い起こし、ともに向かっていきましょう。本日は、刺激的な議論をありがとうございました。
【注釈表記】
2021年12月20日 オンライン・同時通訳にて実施
※所属・職位は実施当時のものです。
