エッセイ #29「知能社会のリスクを考える」
言説化の取り組み | 2026年9月10日
- 宇佐美 誠 京都大学 大学院地球環境学堂 教授／ ミュンヘン工科大学 人工知能倫理研究所 客員教授
2021年採択宇佐美プロジェクト：人工知能の開発・利用をめぐる自律性および関係性の理論分析と社会実装
キーワード Ver.2.0：自分以外の存在が自分に与える影響ってなに？
キーワード Ver.2.0：人間らしい生き方ってなに？動物やAIとはどう違う？
キーワード Ver.2.0：ものごとを決めるにはどんな要因や問題点があるの？
18世紀半ば、アダム・スミスは、人類史を狩猟時代／牧畜時代／農業時代／商業時代に区分した。今日では、狩猟社会／農業社会／工業社会／情報社会という四分法が一般に用いられる。2016年、日本政府は第5期科学技術基本計画で、情報社会に続くべき新時代としてSociety 5.0を掲げた。これは、サイバー空間とフィジカル空間の融合によって、経済発展と社会的課題の解決の両立をめざす社会像だという。
私自身は近年、狩猟社会／農業社会／工業社会／知能社会という四分法を提案している。狩猟社会では、人々はもっぱら肉体労働を通じて自然から糧を得ていたが、農業社会では、農具を用いた労働の補助や家畜による労働の代替が始まり、知識労働も生まれた。工業社会に入ると、機械による肉体労働の代替が進行するとともに、社会の大規模化・複雑化に応えて知識労働が増大した。知能社会では、知識労働がICTを通じて支援され、AIによって補完・代替されてゆく。いわゆる情報社会は知能社会の最初期段階であり、またサイバー空間とフィジカル空間の融合はその後続段階の一側面にすぎない。知識労働の弥増す需要量と限られた供給量のギャップを継続的に埋めてゆくためには、サイバー空間での知識の共有化や、知的労務のAIへの部分的委託、さらには人間の脳とAIの協働が必要となる。それゆえ、知能社会の到来は歴史的必然だと私には思われる。
ところが、知能社会で新たなタイプのリスクが出現している。ここでリスクを、個人的／社会的と突発事故型／漸次変容型という2次元で大別しよう。個人的・社会的な突発事故型リスクに対しては、種々の対策が開発され発展してきた。交通事故という個人的リスクについては、道路交通法に基づく事前対策や、不法行為法・刑法による事後対策がある。水道水の汚染という社会的リスクは、水道法や水質管理制度で抑止されている。近年は、社会的な漸次変容型リスクや、それが現実化したハザードへの対策も、発案され実施されている。気候変動の緩和策は、地球規模ですでに発生しているハザードがさらに増幅するリスクを抑制するための事前対策であり、また適応策はハザードへの事後対策だと言える。これらと大きく異なり、知能社会では、AIが随所で実装された情報エコシステムのなかで、個人的な漸次変容型リスクが生起し増大しつつある。これは、対策法がいまだ確立していない新たなタイプのリスクである。
個人的な漸次変容型リスクのなかでも、フィルター・バブルを通じた認知の歪みや、エコー・チェンバーによる意見の極端化は、すでに広く知られている。これらを独善化と呼ぼう。それに加えて、2種類のリスクが蔓延しつつある。第1は、個人が覚醒時間のかなりの部分をサイバー空間のなかで孤独に過ごすという、いわば自閉化である。人間は、フィジカル空間のなかで五感を通じて外界を認知し、現実に生起する事象を体験し、そして他者と交流する身体性を備えた存在である。ところが、多くの人が日々、サイバー空間に引き籠り、ディスプレイを独り眺め続けている。特に、20歳代の若者によるインターネットの私的利用の1日当たり平均時間は4.5時間に上り、10歳代後半では5時間に達する 1。ある若者が将来も長時間利用を続け、生涯の平均利用時間が4時間だと仮定しよう。この若者が90歳まで生きた場合、動画を眺めたりSNSを続けたりゲームに興じたりすることに、じつに15年を費やしたことになる。この15年間は、はたして意義ある人生だろうか。
第2のリスクは、インターネット上で偶々見つけた情報・意見を信じ込んで認知を形成し、またAIからの助言を無批判に受け入れて行為を選択するという、いわば他力化である。これは、個人による主体的認知形成や自律的意思決定を根底から掘り崩す。さらに、他力化はときに社会的パニックを引き起こす。2020年2月、新型コロナウイルス感染症禍で、「トイレットペーパーは中国からの輸入品なので、間もなく品薄になる」というデマがSNSで拡散し、消費者が小売店に殺到して、商品は店頭から姿を消した。このような社会現象は、遊泳する鰯の大群を連想させる。
スミスは、自らの行為・感情の適切性を非利害関係者の仮想的視点から冷静に評価する内省メカニズムとして、不偏的観察者（公平な観察者）を提唱した。不偏的観察者の相異なった対極にあるのが、独善化・自閉化・他力化である。個人的な漸次変容型リスクは、突発事故型リスクや社会的な漸次変容型リスクと異なって認知されにくく、またその対策は、内心の監視や私生活への干渉をしばしば必要とする。そのため、対策の発案・実施は決して容易でない。オーストラリア・インドネシア・フランスなどでの15～16歳未満によるSNS利用の法的禁止のように、部分的対策がようやく緒についたところだ。深刻化する個人的な漸次変容型リスクにどのように対処するかは、知能社会での喫緊の課題である。
エッセイ一覧に戻る 言説化の取り組みへ戻る