エッセイ #19「陰謀論の蔓延と「信頼」に基づくソーシャル・メディアの規制」

言説化の取り組み | 2025年3月10日

三上航志　京都大学大学院文学研究科　研究員

2021年度採択児玉プロジェクト：パンデミックのELSIアーカイブ化による感染症にレジリエントな社会構築

陰謀論という現象は歴史的に見ても珍しいものではないが、パンデミックの発生によって、COVID-19に関する陰謀論に大きな注目が集まった。その多くは、ウイルスの存在やワクチン接種を、その背後で働く何らかの有力者の意図に関連づけ、人々が監視されているという警告を発するものだ。典型的には、「新型コロナウイルスは存在せず、有力者が何らかの目的のためにでっち上げたものである」や、「ワクチンにはマイクロチップが埋め込まれている」といった主張が挙げられる。このような主張は時に、「ディープステート（影の政府）」に支配されたアメリカの政財界やメディアが一体となり、「新型コロナウイルスの感染が拡大している」と嘘をつき、経済を停滞させて大統領選挙を有利に進めようとしているといった陰謀論に発展することもある。

こうした陰謀論がX（旧Twitter）、Facebook、YouTubeなどのSNS上で蔓延したことを考えると、現代においてはソーシャル・メディアが人々の信条や意見の形成に大きな影響力を持つようになったことは疑いの余地がないだろう。言い換えれば、ソーシャル・メディアは、人々が考えや知識、意見を他者と交換し合う「デジタル公共圏（digital public sphere）」を形成する新しい言論機関であると言える。ソーシャル・メディアは、ジャーナリズムを担う放送機関などとは異なり、積極的に情報を生み出すことはない。さらに、従来の電話会社のようにコンテンツの中立な運び手でもない。それらは、コンテンツの提供に関してユーザーに依存しつつ、示されるコンテンツを調整したり、コンテンツが届く範囲や宣伝のスピードを規制したりすることで、コンテンツ・モデレーションを行う。この意味で、ソーシャル・メディアは、デジタル公共圏におけるコンテンツのキュレーターとしての役割を果たすことになる。

ところが、ソーシャル・メディアはこれまで、公的利益や民主主義を促進し、公的信頼に足る組織となることに失敗し続けてきた。実際、現在、ソーシャル・メディア上には、陰謀論的言説だけでなく、誤情報や偽情報、ポルノグラフィー、誹謗中傷など、問題のある言説があふれている。これには、ソーシャル・メディアが依存するビジネスモデルが大きく関係している。すなわち、「監視資本主義（surveillance capitalism）」や「アテンション・エコノミー（attention economy）」にまつわる問題である。

監視資本主義とは、ユーザーの個人情報を無料の原材料として秘密裏に収集し、それに基づいた予測アルゴリズムを販売して莫大な広告収益を上げるという、ソーシャル・メディアなどを運営するビッグ・テックが行うビジネスモデルを批判的に指摘する概念である。このような経済秩序において、ビッグ・テックは、行動ターゲティング広告を通じてユーザーを自身の経済的利益のために操作することさえあると指摘されている1。アテンション・エコノミーも類似の概念であるが、従来の貨幣経済（monetary economy）と対比的に用いられ、ユーザーのページビュー（閲覧数）やインプレッション（表示数）、滞在時間などで示される「アテンション」を広告主に売り、利益を上げるテック企業のビジネスモデルを意味する2。このようなビジネスモデルの下では、ソーシャル・メディアはユーザーのプライバシーを保護するインセンティブをほとんど持たず、むしろ怒りや恐れといったネガティブな感情を引き起こしてユーザーの注意を引き、関心を集めるコンテンツを推進するインセンティブが強くなる。陰謀論の蔓延は、このビジネスモデルに大きく起因しているのである。

この問題を乗り越えるために、注目すべき議論を展開している論者に、ジャック・バルキンがいる。彼は「情報信認者（information fiduciaries）」という概念を提唱し、ソーシャル・メディアを公的言説の責任あるオーガナイザーやキュレーターに作り変えていくことを提案している3。バルキンによれば、デジタル時代においてテック企業とユーザーの間には力と知識に関する大きな非対称性があり、ユーザーは特に脆弱な立場にある。こうした非対称性のもとでは、ユーザーのデータを集め利用するテック企業は、ユーザーに対して守秘義務、配慮義務、忠実義務からなる「信認義務（fiduciary duties）」を負うことになる。情報信認者として位置づけられたテック企業は、ユーザーを操作したり、ユーザーの利益を損なったりする目的でユーザーのデータを利用することは許されず、他の会社とユーザーのデータを共有する際にも、その会社が同様の信認義務を負っていることを確認しなければならない。このように、バルキンに従えば、プライバシーとはデータを集める会社とユーザーの間に成り立つ「信頼（trust）」の問題であり、情報信認者の中心的な義務は、この信頼を悪用したり裏切ったりしてはいけないということなのだ。

こうして情報信認者として位置づけられたテック企業は、広告主の利益ではなく、ユーザーの利益を最優先に考え、その利益追求型の戦略を制限する必要がある。その結果、ユーザーからのデータの収集方法や、第三者への販売条件、フィードの調整やコンテンツ・モデレーションの方法などが規制されるだけでなく、ユーザーを操作したり中毒に陥れたりするような形での広告システムやレコメンドシステムが規制されることになる。具体的には、ソーシャル・メディアが、反ワクチンのプロパガンダはユーザーにとって有害であると公に表明した場合、ソーシャル・メディアは、反ワクチンを掲げる陰謀論的言説を拡散するためにユーザーのデータを利用してはならないという義務を負うことになるのだ。

信認義務が具体的な場面でどのような規制をソーシャル・メディアに課すことになるかなど、考慮すべき事柄は多く残されているが、ソーシャル・メディアとユーザーの間に信頼という概念を設定し、ソーシャル・メディアを責任ある言論機関に作り変えるという視点は非常に興味深く、今後の議論の進展が期待されている。

1 S. Zuboff, The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power, Public Affairs, 2019（邦訳、野中香方子（訳）、『監視資本主義：人類の未来を賭けた闘い』、東洋経済新報社、2021年）

2 山本龍彦、『アテンション・エコノミーのジレンマ』、KADOKAWA、2024年

3 J. M. Balkin, “To reform social media, reform informational capitalism”, in L. C. Bollinger, G. R. Stone (eds), Social Media, Freedom of Speech and the Future of Our Democracy, Oxford University Press, 2022, pp. 233-254.

エッセイ一覧に戻る言説化の取り組みへ戻る