デジタルプラットフォームの設計を再考する： システム的アプローチ

民主主義を損なうのではなく、支える、より良いインターネットは可能である。

２０２５年、われわれはデジタル時代の岐路に立っている。われわれのプラットフォームは、新たな公共の広場となっているが、民主主義と人間の尊厳を育むというより、その多くは、操り、分断し、利益追求のために最適化されている。「テクノロジーと社会的結束に関する協議会（Council on Technology and Social Cohesion）」の「ソーシャルテックのデザインガバナンスに関する青写真（Blueprint on Prosocial Tech Design Governance）」では、この危機に対するシステムレベルの対策が提案されている。

デジタルの有害性は偶然に起きているものではない。それらは、プラットフォームをどのように構築し、収益化するかの方法に組み込まれた意図的な選択に起因している。無限スクロール、中毒性のあるレコメンデーション（推薦）システム、詐欺的なパターンは、技術的必然ではない。それらは、真実よりもエンゲージメント（関心度）に、ウェルビーイング（健全な満足性）よりも注目度に、対話よりも怒りに、優先度が与えられる設計方針なのである。これらの反社会的な設計は、メンタルヘルスをむしばみ、分極化を煽り、偽情報を広め、ひと握りの企業に権力を集中させるといった、壊滅的な影響を及ぼすことが明らかになっている。

テック企業は、オンラインの有害コンテンツをユーザーの責任だと非難している。しかし、それは、どのようにプラットフォームをデザインするかに対する彼ら自身の責任を逃れようとするものだ。「青写真」は、川下のコンテンツ規制といった事後対応からプラットフォーム設計という上流段階へと焦点を移している。

中立的な設計のテクノロジーなどない。企業は、プラットフォーム上で人々に対し何を許可し、何を禁止するか、そしてその設計が、人々にオンライン上で何をし、何をしないように説得し、誘導し、増幅し、強調し、あるいは操作するかについて決定しているのである。

親社会的な構築基準

同報告書は、建築基準と同様に親社会的テックに関する段階的認証システムを導入することを提案しており、最低限の安全基準から完全に参加型の社会的結束を高めるプラットフォームまで、５段階で目標を高めていくシステムを概説している。これは単なる見せかけではない。有害なテックデザインの根本原因に働きかける構造的介入である。

まず、第１段階は、セーフティ・バイ・デザイン（設計段階から安全性を組み込むこと）、プライバシー・バイ・デザイン（設計段階からプライバシーを組み込むこと）、ユーザーエージェンシー・バイ・デザイン（設計段階からユーザーの主体性を組み込むこと）という基本的な保護策の確立である。これらは抽象的な理想ではなく、自分が何を閲覧するか、どのように追跡されるか、操作的機能がデフォルトではなくオプトインの対象であるかどうかに関してユーザーが自らコントロールできるようにする具体的な実践方法である。第２段階は、共感重視のリアクションボタン、衝動的な投稿を抑制する障壁、共有する前に熟考するよう促す仕組みといった、ハードルの低いユーザー体験ツールへとスケールアップする。

第３段階では、対立を生む話題に偏ったニュースフィードを提供するエンゲージメント最大型のレコメンデーションシステムに代わり、共通点や多様なアイディアを強調する親社会的アルゴリズムが導入される。第４段階では、明確に民主的参加を目的とするシビックテック（市民がテクノロジーを活用する取り組み）や討論プラットフォームを導入する。第５段階では、データ主権と相互運用性を回復するミドルウェアソリューションを強く推進する。

研究の透明性と保護

報告書は、プラットフォームの設計が社会に与える影響を理解するための研究、独立した研究者を保護するセーフハーバー（免責）法、社会的信頼と社会的結束の測定に関するオープンデータ基準の必要性を強調している。また、プラットフォーム監査の義務化、研究者のためのセーフハーバー、アルゴリズムシステムやユーザー体験に関する独立調査を可能にする公共インフラを求めている。これらの安全措置がなければ、操作、偏向、偽情報といった構造的有害性に対する重要な知見にアクセスすることができないままになる。

報告書は、社会的結束の３領域に関する一連の社会性のある指標を提案している。これには、個人の主体性とウェルビーイング、すなわちユーザーが十分な情報を得たうえで選択し有意義に参加できるかどうか、多様な社会的、文化的、政治的グループ間の相互作用の質に着目した社会的信頼とグループ間の多元主義、そして、公共機関への信頼、すなわちユーザーと公共機関の関係の強さも含まれる。

市場の力学を転換する

報告書は最後に、親社会的なテックイノベーションを促すようインセンティブを向ける一連の市場改革を提案している。ベンチャーキャピタル（VC）による資金提供は、多くの主要テックプラットフォームにとって、特にその初期段階や成長段階において主要な資金源となっている。それが、反社会的な設計を定着させる大きな要因となっている。急速な拡大、高いリターン、市場優位性を期待し、多くの場合は倫理的な発展を犠牲にしているからである。

市場集中は、イノベーションを阻害し、ウェルビーイングよりも利益を優先するシステムの中にユーザーを囲い込む。多くの大手テック企業は独占事業者として機能し、不透明な戦略を採用し、バリューチェーンを支配している。そのようなテクノロジー独占企業は、より小規模で親社会的な、成長を模索しているプラットフォームにとって大きな難題となる。限られた数の巨大テック企業がインフラ、データ、ユーザーの注意を支配している場合、倫理的、包摂的、あるいは民主的な設計の、より小規模なプラットフォームは、可視性と存続可能性を獲得することが困難になる。

報告書は、プラットフォームに起因する有害性に対する責任を法制化し、独占禁止法を執行して倫理的なプラットフォームに公平な機会を提供し、親社会的なテックスタートアップへの資金提供と収益化のさまざまな選択肢を明らかにすることにより、市場の力学を転換させることを提案している。

あまりにも多くの場合、テック規制は断片的であり、オンライン上にあふれる害毒性に十分対処できていない。報告書はシステム的アプローチを用いて、親社会的なテック企業を可能にするだけでなく、競争力と持続可能性をもたせるための包括的計画を提案している。橋の安全性を求め、銀行が監査を受けることを当然と思うように、デジタルインフラも同じ真剣さをもって扱うべきだと「青写真」は強く主張する。プラットフォームは、中立性という虚像を隠れ蓑にしながら有害性によって利益をあげることを許されるべきではない。

「青写真」は本質的に、プラットフォームの設計とは社会工学であると主張する。現在、怒りを増幅しているプラットフォームも、適切な設計とインセンティブがあれば、共感、協力、真実を促すようになるかもしれない。

そこで、問題は政治的意志である。規制当局は、責任に報いる段階的認証システムを採用するだろうか？投資家は、利益追求よりもウェルビーイングを優先するプラットフォームに資金を出すだろうか？設計担当者は、社会的弱者のニーズをユーザー体験に関する決定の中心に置くだろうか？「青写真」は、われわれにそのためのツールを提供している。次のステップは、政府、技術者、市民社会が等しく共に取り組むことである。