「社会の中の科学、社会のための科学」（ブダペスト宣言、1999年）が重視されるようになって四半世紀が経つが、決して社会で実践される科学技術だけに意味があるわけではない。科学の原点はソクラテスの「無知の知」であり、我々の知るところはあまりに少なく、謙虚でなければならない。さらに「無用の効用」ということもある。ファラデーやマクスウェルの電磁気学やアインシュタインの相対性理論にも役に立つことは期待されていなかったし、その相対性理論さえもガウスの数学研究がなければあり得なかった由である。すべての基本的な科学知識は使用済みか、未使用なのかの違いだけかもしれず、将来のために様々な新たな知識を創り続ける必要がある。

科学技術の社会実践と学問

国力増強に向けた科学技術振興の概念は、第二次世界大戦の終了直前に、米国の科学研究開発局責任者のヴァニーヴァー・ブッシュが、時のトルーマン大統領に提出した報告書「Science: The Endless Frontier」に始まり、まだ80年の歴史をもつに過ぎない。我が国の科学技術・イノベーション基本法（1995年）もこの文脈の先にある。

一方、より広い学問の歴史は古代ギリシャ時代、プラトンやソクラテス以前の紀元前7世紀まで遡る。欧州の近代学術でさえ17世紀から400年の歴史をもつ。日本の学問は、徳川幕府三代将軍家光の後、武力を背景とする武断政治から文治政治へ転換するため藩校が設立されて始まったという。もう500年くらいの歴史があろう。そして実学重視の福沢諭吉の「学問のススメ」は150年ほど昔に上梓された。現代の科学技術駆動社会が、先達たちの知恵を軽んじてはなるまい。

未来は不確実性に満ちている。大きな天変地異が人類を襲い壊滅的な打撃を与えないとは言えない。しかし、人類自らが愚かな行為で破滅に至ってはならない。特定分野におけるAI（人工知能）の能力はすでに個人の能力を超えており、その力量の差は不可逆に拡大していく。今後、人知を超える汎用AI技術が出現すれば社会は破壊的に変革するとされるが、ここに自然の摂理に基づく負のフィードバックがかかる可能性はない。健全かつ強靭な社会自律性の確保が求められるが、その成否の責任はもっぱら人間社会自らの判断に帰属する。高度なAI技術開発に向けてひた走る各界においては、何よりも人間性尊重に立脚した真摯な議論がなされて然るべきである。現代の指導者たちの決断は果たして「歴史の法廷」に立てるであろうか。

誰の、何のために「役に立つ」科学技術なのか

役に立つ技術は果てしなく拡大し続ける。「役に立つ」とは「社会に影響を与える」ことを意味する。だがこの社会とはいったい何を指すのか、技術の目指すところは何なのか。結果として有益と有害、善もあれば邪悪もある。誰の役に立つのか。世の中には善人もいれば、たくさんの悪人もいる。我々は自らを善人だと思い込んでいるが、それでも邪悪な部分を合わせもつに違いない。現実社会に蔓延する「力は正義なり」とする傲慢な価値観、覇権主義がしばしば不正義をもたらしてきたではないか。

現代人は深刻な矛盾内蔵型の社会に生きる。我々が信奉する科学技術が全人類社会に大きな恩恵を施したことに疑いないが、同時にさまざまな深刻な地球規模の問題、悲惨な戦争や地域紛争、また絶望的な経済格差をもたらした事実を直視すべきである。その反省と是正はまったく不十分である。先端AI技術の多面的活用によるパラダイムシフトはこれらの不具合の解決、軽減に貢献するのだろうか。あるいは不都合をさらに助長するのであろうか。

高度AI技術は必ず組織や国家の科学技術力の尺度、水準を決定するので、社会の発展、企業の生産性や効率性にはその最大活用が不可欠である。ここにはさまざまなリスクが存在する。現在、基礎研究からビジネスに至るまで世界は入り乱れての総力戦、たとえば米国のAI研究発表における最大の共同相手は激烈な競争の相手でもある中国である。懸念される影の部分を最小化して、光の部分を「正しく」最大限に使いこなすべく国際的連帯感の醸成が必要である。

人間社会では人間がすべての決定権を行使する

今後の生成AI、汎用AI、超人AIへの展開は、政治、経済、軍事、医療、文化、教育、学術などあらゆる人の営みに巨大な影響を与える。これは大いなる希望であるが未曾有の惨禍の源かもしれず、活用範囲は人類にとって真に利益あるものに限定されるべきである。「利益がリスクに勝る」、それはいったい誰の利益か、この言い分は通るまい。AIからの出力が、意図するかしないに関わらず立法権、軍事、経済などの独占的な支配力を握り、また収拾のつかない社会的混乱を招くならば、それは自己矛盾である。

AIは人類の歴史上最も優れた技術かもしれないが人間に鋭い牙をむくかもしれない。「人工知能は人類最悪にして最後の発明」とした知識人もいる（ジェームス・バラット）。偏向した価値観をもつ権力者たちの信条や政治的、経済的、軍事的動機が想定外の正のフィードバックを誘導して社会の破綻をもたらす可能性を否定はできまい。今すでに、AI技術を駆使した安全保障に関わるサイバー攻撃や狂気の沙汰である自律的致死兵器システム（LAWS）への転用、さらに社会的にもAI偽情報の拡散、偏見の拡大、世論誘導や心理介入認知戦などにより巨大な不都合をもたらしている。

社会の主権は当然人間にある。社会の信頼を高めるため責任あるAI技術の開発を望む声があるが、それは責任放棄で、すべての決定責任は技術ではなく、それを主体的、自律的に利用する人間の倫理性に帰属することを認識すべきである。超人AI技術が、人間性最大尊重の価値観を蹂躙することがあってはならない。人工の知能物件は常に受動的、他律的であり続けなければならない。

制御不能な大衆扇動民主主義

情報通信技術（ICT）がAI技術と一体化して社会を席巻する。強欲な巨大情報プラットフォーマーの責任回避で、すでに情報流出によるプライバシーの収奪、名誉毀損、著作権の侵害、既存の偏見の再生産や増幅、新型犯罪などが顕在化している。悪質情報の氾濫の結果として、合理主義専門知識人の指導性は著しく低下した。思慮深く賢明な人々が、情緒的な扇動により衆愚に敗れ、秩序崩壊が訪れようとしている。

この潮流の必然的帰結は究極の直接民主主義社会、つまり「法による統治」から「人による統治」、しかも（かつての独裁と異なり）自制なき群衆による支配への転換である。民主主義が望む自由言論の成果ではなく制御不能な混沌の世界である。「事実」の伝達にとどまらず、意図的な出来事の加工、改ざん、捏造、誇張、増殖と情報の拡大、蔓延、扇動行為、詐欺行為、情報テロリズムが破局的混乱を招く。古くは2010年、一つの動画配信から始まった「アラブの春」を思い起こすが、すでに世界にはこのような制御不能な政治の波が茶飯事として押し寄せている。我々まともな（と思っている）人間はいかに生きていけばいいのか。いや、もはや抵抗は無駄であって、ダーウィンにならい「新たな社会環境に順応すべく」心ならずも価値観を転換すべきなのだろうか。

社会的倫理観のイノベーションを

日本社会はAI技術に破壊的イノベーションを求めるというが、その行方はユートピアなのか、あるいはディストピアであろうか。いったいAIは公共財なのか私財なのか。制御するのは国家、企業体、あるいは個人なのか。政治、経済、教育などにおける平等、公平、公正の十分な保障についての構想があるのだろうか。AI技術濫用による多様な社会的病理の発生、拡大、蔓延は、抗い難いエントロピー増大（無秩序状態への移行）の問題であり、その軽減、解決は抑止目的の科学技術はもとより法規制だけでは甚だ困難である。可能だとすれば、国際的合意による高性能半導体や必須部品の供給停止、あるいは強権による膨大な電力消費の制限くらいであろうか。しかし実効性は乏しいだろう。

むしろ、人間の理性、ソフィアと共にフロネシスを勘案した新たな価値観への転換こそが望みの綱ではないか。健全な人間社会の要である文化的価値の維持は、多様な文化圏に暮らす人類共通の課題である。国家間で優勝劣敗を競う政治、経済、軍事とは一線を画すべき大問題であるが、他方で高度な科学技術に駆動される熾烈な国家間競争が特色ある精神活動を損ない続けることも事実である。文明社会の存続を賭けた人間性や自然の摂理を尊重する普遍的価値観に基づく総合判断が不可欠ではないか。

冒頭に述べたが、公平性、多様性、包摂性を重んじる学術界こそが、ここに叡智を提供すべきである。我が国の特色ある学術界（科学技術界ではない）、特に見識ある日本学術会議には短期的なSTI振興の方策検討にとどまらず、いかにAI技術の台頭に対峙するのか、特色あるELSI（倫理的、法的、社会的課題）研究推進と実効性ある社会実践を促してほしい。狭い専門性の殻に閉じこもり、他人事とするのは無責任である。

なぜ自らの生き方を人工頭脳に委ねるのか

人間生来の身体能力には限界があり、科学技術はこれを「外的」に拡張してきた。AI技術も同様にあまりの利便性を提供するが、決して人間に内在する思考力そのものを拡大するものではない。それでも世界各国がこぞってAI支配社会の出現を「待望」する最大の原因は、現代人の知性の衰退、「自己家畜化現象」であろう。画家ポール・ゴーギャンは「我々は何処から来たのか。我々は何者か。我々は何処へ行くのか」と問う。一度しかない人生であり、正面から考えてみる価値があるではないか。

しかし、我が国の若い世代の多くは先人の足跡にほとんど関心がない。自らの特性を見つめての自己実現は求めず、社会の将来にも思いを致さない。成り行き任せで組織に属して自由を束縛され、「何か」に追い立てられ、環境に順応しつつ、確たる目標もないままに生活を続けていく。やがて老いが訪れる。個人にとどまらず、組織も国家も同様の傾向にあるように見えてならない。社会全体の仕組みの老朽劣化、特に幼少期から大学に至る教育に問題があるのではなかろうか。

もし自らの人生の意味、国家の存続に普遍的意義を見出さなければ、そのあり方を決めるのは（思想、信条に基づく）自らの頭脳であっても、（過去の事実を巧みに編集する）人工知能技術であっても大差はない。主権国家である日本国、特色ある日本国民として、それはあまりの精神性の衰微であり安易に過ぎはしないか。すべての国民が自律的に生き、すべての組織、国家が主体的に存続するのが良い。非人間的なAI支配社会の到来は好ましいはずがない。

最強の科学技術は、最悪の結果をもたらす可能性がある

科学技術の「光と影」、最大の悪夢は原子力技術利用がもたらしたマンハッタン計画による原子爆弾の開発、投下であった。昨年は天才物理学者オッペンハイマーの苦悩を描く映画が評判になった。しかし、汎用ないし超人AIの幾何級数的な進展はそれを上回り、遺伝的な進化に依存する人類を滅ぼすかもしれない。その本質を最も深く理解する創始者ジェフリー・ヒントン（昨年のノーベル物理学賞受賞者）は深刻に悩むが、恩恵を享受する社会がこの天才科学者に汚名を着せてはなるまい。

世界の核軍縮の機運が停滞する中で、昨年のノーベル平和賞に、壮絶な体験を持つ被爆者の証言を通じて核兵器廃絶に向けて尽力し続ける日本原水爆被害者団体協議会（日本被団協）が選出された。ノルウェーの平和賞委員会の英断に敬意と感謝を表したい。ここで忘れてはならないことは、80年昔、広島と長崎への原子爆弾の投下は米国のただ一人の最高権力者、トルーマン大統領の最終決断によってなされたことである。英国チャーチル首相に相談したともされるが、行為責任の所在は明確である。

一方、近年の最大の問題点は、さまざまな高度科学技術の支配権が国家権力者に限定されず、多様な民間企業組織に移行（ないしそこで発生）、拡張され、さらにすべての個人にまで拡散されつつあることである。まさに社会的エントロピー増大則に沿う困難である。爆発的に発展するAI技術については、経済効率が主目的であり道徳心を欠く技術提供企業、プラットフォーマーが「表現の自由」を盾にとり、その危険性と誤用、悪用結果について責任を取ろうとしない。理不尽に思われるが、民主至上主義の当然の帰結であろうか。

従って、AI技術が原子爆弾と異なるところは、世界のすべての人が加害者であり、また被害者たり得ることである。多くの善意の市民が、意図せずとも不都合に加担する事態も頻発するであろう。あらゆる影響がAI技術自身によって自己触媒的に加速、増幅される。であれば、この最強の科学技術は人類史上最悪の結果をもたらす可能性がある。輝かしい科学技術の歴史を汚すことは断じて許し難いが、その名誉を守るのはやはり人間の叡智をおいてないはずである。