【開催報告】人を欺くサービス設計「ダークパターン」について考える ー 特別講演「『ダークパターン』の技術と倫理的課題」（2021.6.17開催）
2021.11.09
KGRI「2040独立自尊プロジェクト」の一翼をなす「プラットフォームと『2040年問題』」プロジェクト。その第1回研究会として、2021年6月17日に特別講演「『ダークパターン』の技術と倫理的課題」が実施された。
「ダークパターン（ダークパタンとも表記）」とは欺瞞的な方法で消費者を不利な決定に誘導する情報設計を表す概念で、オンラインサービスの興隆とともに急速な発展を遂げつつある。人々の自由な意思決定を妨げ、意図しない消費を誘発するその手法は、いかにして横行し、どのような倫理的課題をはらんでいるのか。
プラットフォームと人々の関係を考える上で避けて通ることのできないこの問題について、長谷川敦士（武蔵野美術大学教授、株式会社コンセント代表取締役）を迎えた講演と、KGRI所員を交えたディスカッションが行われた。その内容をダイジェストでレポートする。
講演者：長谷川敦士（はせがわ・あつし） 武蔵野美術大学教授、株式会社コンセント代表取締役。1973年、山形県生まれ。東京大学大学院総合文化研究科広域科学専攻広域システム科学系博士課程修了（学術博士）。「理解のデザイン」を中心にして、デザインの社会活用、デザインアプローチの可能性を探索、デザインを通じた社会システムの構築を研究している。著書に『IA100―ユーザーエクスペリエンスデザインのための情報アーキテクチャ設計』、監訳書に『THIS IS SERVICE DESIGN THINKING』など多数。
講演：ダークパターンとは何か、その実態と問題点
山本龍彦（慶應義塾大学大学院法務研究科教授）：本日はKGRI「2040独立自尊プロジェクト」のうち、「プラットフォームと『2040年問題』」第1回研究会 特別講演「『ダークパターン』の技術と倫理的課題」にお集まりいただき、ありがとうございます。今後のプラットフォームの適切な発展を考える上で避けて通れない問題である「ダークパターン」について、日本における第一人者である長谷川敦士先生に講演していただき、その後にディスカッションを行いたいと思います。
長谷川敦士：私はインフォメーションアーキテクトとしてデザイン会社を経営する傍ら、武蔵野美術大学大学院の造形構想研究科で教授を務めています。その他には、モノだけでなくサービス全体の視点からデザインを捉える「サービスデザイン」の啓発・普及を行うサービスデザインネットワーク（SDN）の日本支部を慶應義塾大学経済学部の武山政直先生、武蔵野美術大学大学院客員教授／株式会社レアゾン・ホールディングス執行役員の岩佐浩徳氏と共に設立し、共同代表を務めています。また、ユーザーエクスペリエンス（UX）などの視点から、より多くの人にとって使いやすいデザインのアプローチの普及に取り組むNPO法人 人間中心設計推進機構（HCD-Net）の副理事長を務めており、倫理規範を検討するワーキンググループを昨年立ち上げるなどしています。 本日はダークパターンについて、以下4つのパートに分けて説明していきたいと思います。
(1) ダークパターンとはなにか
ダークパターンは基本的にオンラインを対象とする言葉で、Wikipediaによれば「ユーザーを騙すために慎重に作られたユーザーインターフェイス」であり、「プライバシー侵害や人々の判断力低下などの問題が指摘されて」います。この概念はUXコンサルタントのハリー・ブリヌル（Harry Brignull）氏がウェブサイト「Dark Patterns」を立ち上げ、そこに様々な事例を掲載し始めたことで注目を集めました。同サイトではダークパターンを「ウェブサイトやアプリで使われているトリックのことで、何かを購入したり登録したりするなど、意図しないことをさせるもの」と定義しています。
ダークパターンに対する認識はここ数年で広がりつつあり、この問題に取り組む研究者やジャーナリストも増えてきています。既にアメリカではダークパターンを禁じる法律の整備が始まっています。例えばカリフォルニア州の消費者プライバシー法（CCPA）では、サービスの提供を希望する場合にチェックを入れるオプトイン（opt-in）と希望しない場合にチェックを入れるオプトアウト（opt-out）のうち、オプトアウトを妨害する行為をダークパターンとして禁じています。
(2) ダークパターンの例
コンピューターサイエンス系の学会ACM（Association for Computing Machinery）で発表されたアルネシュ・マーサー（Arunesh Mathur）氏らによる論文「Dark Pattern at Scale: Finding from a Crawl of 11K Shopping Websites」（2019年）では、世界中のECサイト1万件のうち約10％に何らかのダークパターンが発見されており、それを以下の7種類に類型化しています。
A. Sneaking（こっそり） ユーザーが気付かないうちに何かを買わせるやり方で、さらに幾つかの類型があります。例えばギフトを購入した時に、選択していないはずのグリーティングカードがカゴに入っている場合など。他にAmazonなどのサイトで定期購買であることがわかりにくい表示になっており、サブスクリプションに誘導するケースも含まれます。
B. Urgency（緊急） ショッピングサイトなどで割引の期限を表示し、急いで買わないと損をすると思わせる手口です。「もうすぐ期限が終了する」と書かれているにもかかわらず、その日を過ぎても表示が変わらないままといった場合もあります。
C. Misdirection（誘導） 購入するかどうかの選択画面で「Yes」を強調して「No」を押しにくくするなどのビジュアルインターフェイスや、個人情報の提供に関する説明文を二重否定などを多用した回りくどくわかりにくい文章にすることで、読まずにチェックを入れさせようとする手法が挙げられます。
D. Social Proof（社会的証明） 「今このサイトを見ている人が○○人います」といった表示を行い、判断にプレッシャーをかけたり、虚偽の「お客様の声」を掲載したりするケースです。お客様と称してAIが生成した人工の顔写真を掲載するなど、さらに悪質な例が生まれてきています。
E. Scarcity（欠乏） 商品の在庫を少なく表示したり、期間限定であることを強調したりして、購買意欲を高める施策です。あるサイトでは、「人気商品につき売り切れる可能性が高い」という文言がすべての商品に表示されていました。
F. Obstruction（妨害） よくある例としては、キャンセルをしにくくする方法。サブスクリプションなどの解約希望者に対し、幾重にもページを経由させ、複雑な手続きを要求する方法がよく使われます。
G. Forced Action（強制） ECサイトの閲覧に個人情報の入力を求めるなど、行動を強制する設計になっているものがこれに当たります。
この論文は2019年のものですが、その内容は今も有効だと考えられます。特にスマートフォンでは画面の小ささから表現を省略せざるを得ないため、こうした例はモバイル向けサイトにより多くみられるという指摘がされています。
(3) ダークパターンの構造
次に、ダークパターンはどのように生まれ、成長を遂げてきたのか。先ほどの論文から、以下3つの流れを紹介します。
小売業における欺瞞的な慣行 ウェブ以前からの商習慣として、人を騙すような取引が横行していたこと。例えば100円の商品を98円に設定し「安い」と思わせる。これはサイコロジカルプライジングの代表的なケースです。あるいは、いつでも閉店のカウントダウンセールをやっているという虚偽広告や、品質を誇大表示した目玉商品で客を釣り、それとは別の割高な商品を買わせようとするなどの行為が商習慣として常態化し、それを消費者が嫌々ながら受け入れてきた実態が指摘されています。
公共政策におけるナッジ 近年、行動経済学の概念として注目を集めているのが「ナッジ」です。「nudge」とは「肘で小突く」という意味の英語で、本人が気付かない程度にプレッシャーを与えて行動変容を促す手法ですが、人々の行動に働きかけて公共の利益につなげる観点から公共政策に取り入れられ、その後、商業的にも広まっていきました。
有名な事例としては、欧州における臓器提供の意思表明率があります。「臓器提供するならチェックしてください」という記入方法を採用しているイギリスやドイツが十数％なのに対して、「拒否するならチェックしてください」としたフランスやオーストリアは表明率が100％近くに達しています。後者の方が公共の利益に適っていますが、これだけ重大な事柄を大半の人が自覚せず表明している状態が議論を呼んでいます。
デザインコミュニティでのグロースハック 「グロースハック」とはサービスの成果を改善していく観点から、短期的な収益よりもユーザーの支持や業界におけるシェア獲得によって成長（グロース）を遂げることを重要視する、シリコンバレー発祥の考え方です。一例として、フリーメールとしてシェアを拡大したHotmailはメールの末尾に会員登録リンクを記載することで、使われる程にユーザーを広げていきました。
この3つの流れのうちナッジは、以下の理論に基づいています。従来の経済学は人間を、物事に注意を払い、十分な情報を得て、自制心を持って判断する合理的な存在と見なしてきました。しかし実際には、私たちの判断は感情に左右され、時と場合によって変化します。そこから心理学の理論を多く取り入れて発展してきたのが行動経済学であり、行動科学です。
各国で導入が進められるなか、日本では2017年に環境省が事務局となり「日本版ナッジ・ユニットBEST」が結成されました。上はその公開資料からの引用ですが、公共の目的とはいえ、人々自身が意図していない行動変容を促すことを良しとするのか、議論が必要だと思います。 また、グロースハックについてはデザインや文言などが異なる複数のパターンを運用し、より効果的な方を生き残らせていくA/Bテストの手法が一般的で、現在では自動でパターンが生成されています。
(4) ダークパターンに対してどう向き合っていくか
このようにダークパターンは、以前からの商慣習に行動経済学の知見が加わり、さらにグロースハックによって加速を遂げてきました。より多くのユーザーに少しでも多く消費させ、より多くの情報を引き出すというビジネスの仕組み自体が、ダークパターンを生み出すために最適化されたシステムになっていると捉えられます。法学者のローレンス・レッシグ（Lawrence Lessig）は、社会における規制を法律、規範、市場、コード（＝アーキテクチャ／構造）の側面から論じていますが、ダークパターンについてもそれ自体を生み出す構造から考えなければならない。そうしなければ、現場で行われる最適化を食い止めることはできません。その一方で、ユーザーのリテラシー教育も必要になってくると思います。
ダークパターンはこれからの社会においてますます広まっていく可能性があり、それを生み出すシステム全体と、サービスに関わるデザイナーの倫理観の双方から、生成を防ぐための視点が求められます。さらに何よりも、ビジネスの意思決定としてダークパターンを防ぐ意識を高めていく必要があると思います。
ディスカッション：ダークパターンをいかに規制するべきか
山本：本日は、IT批評家の尾原和啓さんをシンガポールからお招きしています。『ザ・プラットフォーム IT企業はなぜ世界を変えるのか』などのご著書があり、NTTドコモ「iモード」の立ち上げや、Google日本法人や楽天の役員も歴任されています。
尾原和啓：私自身も「iモード」や楽天などでID決済システムなどに携わってきた立場として、ビジネスと倫理のせめぎ合いについて考えてきた経緯があります。例えば楽天の広告メール配信の経験を例に挙げると、お客様にとって本当に必要な情報だけを送る方がリピート率が増えることがわかってきました。そこから考えれば、ダークパターンを使わない方が長期的な関係性では得をするはず。"太陽と北風"の逸話における太陽のように、善なるアーキテクチャを増やしていくことが大事だと思いました。
長谷川：最適化によって日々成果を上げ続けることを強いられる現場では、それが長期的にどんな影響を及ぼすのかを考える機会すら与えられていません。仕組みを作る側である事業責任者自身が、このままでは顧客の信頼を失うという意識を持つことが重要です。
駒村圭吾（慶應義塾大学法学部教授）：ナッジについて議論していると、息が詰まるような不気味さを感じます。というのは、アメリカのトランプ前大統領の政策をはじめ、各国の新型コロナウイルス対策など、リベラリズムを無視した権威主義体制の方が成功を収めているなかで、ナッジもまた、リベラルを装った権威主義化の一端という印象を受けるからです。国家統治の技法においてリバタリアンパターナリズムは、すべて自分で責任を取りなさいという姿勢と、父権的な関与の抱き合わせといえます。限定合理性しか持てない人間に対し、自己決定と帰責の面で完全な合理性を求めているのです。 必要なのは、ナッジにも良し悪しがある以上、どこまでを認めるのかという議論ではないでしょうか。例えば、経済活動、政治活動、そして緊急事態において、それぞれの使い分けを考える方法が有効かもしれません。ただ経済活動の取引には元々、騙し騙されるという側面があります。自由な交渉を経済のベースにする以上、その手法が高度化するのはやむを得ないことなのかな、とも思います。
長谷川：そうした手法のうち、主に公共政策に使われるものがナッジと呼ばれ、経済活動で悪用されているものがダークパターンと呼ばれている。その上で健康増進のために、人々がエスカレーターではなく階段を利用したくなるようなナッジは許容される気がします。ただ、臓器提供の事例についてはどうでしょうか。政治主体が人々の行動を規定するという考え方について、常々考えているところです。
山本：確かに、場面ごとの議論は重要ですね。政治利用にもまた段階があると思います。投票行動のナッジと、既に国会で民主的に制定された法律を執行するためのナッジでは、別の考慮が必要でしょう。後者については既に民主的正統性が得られているので、透明性の確保など、一定の条件の下で許容されてよいように思います。
尾原：GAFAなどのプラットフォーマーが認知心理学、統計学、行動経済学などの専門家を抱えているのは以前から知られていることですが、その一方でエシックス（倫理）を公開する取り組みも進められています。日本の例ですが、メディアプラットフォーム「note」を展開するnote株式会社のUXチームでは、"格好悪い例"として避けるべきダークパターンを共有し、自分たちなりの美学形成に取り組んでいます。
石塚壮太郎（日本大学法学部准教授）：駒村先生のお話で、騙し騙されの話がありましたが、これは古典的な憲法学における強い個人を前提とするご発言だと思います。その個人のあり方がプラットフォームによって構造的に弱められているということは、考えられるでしょうか。すべての人間に備わっている弱い側面に働きかけること自体が問題なのか、逆に最適化した方が社会全体のベネフィットに資するという考え方もできると思います。
長谷川：噓が横行している状態は明らかに良くないと思いますが、この問題はさまざまな議論の余地をはらんでいると思います。例えば、購買意欲を盛り上げることのどこまでが問題になるのか。そもそも個人への干渉とは何なのか...。人が生きていくなかで、周囲からの干渉全体がその人の意思決定に寄与しているといえる以上、どこまでが良いナッジで、どこから先が悪いダークパタンなのかという問いは、本質的にとりとめがない。程度問題的に判断するしかないと考えています。
山本：この問題は今後、領域横断的に議論していく必要があると思います。法学の領域では、個人情報保護法の解釈や、消費者契約法の改正に関連して既に一定の議論がなされています。しかし、適切な制度設計についてはデザイン倫理や心理学など、他の学問分野との協働が不可欠です。KGRIでは、今後もダークパターンに関心を持って研究を続けていきたいと思います。本日はありがとうございました。
2021年6月17日 三田キャンパス東館G-Labにて実施（対面＋オンライン形式） ※所属・職位は実施当時のものです。
