人工知能（AI）の発展は急速であり、社会的影響も広範にわたる。科学分野においても、今年ノーベル化学賞は、「AIを使ったたんぱく質の立体構造の予測などの技術開発」（D・ベイカー、D・ハサビス、J・ジャンパー）に対して、またノーベル物理学賞は「AIの基盤技術である機械学習に関する発見と発明」（J・ホップフィールド、G・ヒントン）に対して与えられることになった。後者課題の基本となるAIと神経回路網理論研究の源流が、甘利俊一の論文など日本にもあることを誇りとしたい。財団は、今回の授賞理由を「AI技術革新は物理学の大きな推進力となっている」としたが、確かに科学分野の研究のあり方が変わりつつあると強く感じている。

最も注目すべきは、物理学賞を受賞するジェフリー・ヒントンが記者会見で、AI技術の社会的影響の大きさを認めた上で、困惑気味に「技術が制御不能になる脅威のように、起こり得る多くの悪い結果にも注意を払うべき」と警告したことである。彼は昨年、10年間も研究を率いたグーグル社の副社長職を辞してカナダ・トロント大学に移り、自由な立場でAI技術の安全性、AI支配の社会到来の懸念について発言を続けている。ノーベル賞の授賞対象はアルフレッド・ノーベルの遺言「人類に最も大きく貢献した科学者に贈る」の趣旨に整合しなければならない。今回のノーベル財団の意図は果たしてAI技術開発への賞賛だけであろうか、あるいは社会的注意喚起を促すためのものであろうか。

もともとネットワーク型のAI は人間の脳の働きを真似しようとして科学研究が生み出した技術である。しかし、今や社会的に大きな存在へと成長したため、その定義はさまざまである。OECDは現在「人間が定義した一定の目的に対して、現実または仮想の環境に影響を及ぼす予測、提言または決断をすることができる機械ベースのシステム」と定義するが、今後さらに進歩と進化を続ける。本稿の論点は、人びとが「AIという道具」に敵対して戦う、あるいは人と機械の能力の優劣を競うことではない。むしろ世界の多くの国々や組織、また多くの人たちが自ら望み、意図してつくりつつある「便利な」社会環境の中で、人間がいかに生きるべきかという、ELSI　(Ethical, Legal, and Social Issues；倫理的、法的、社会的課題)の観点からの問いかけである。地球進化の中で大地震や火山噴火など自然の摂理がもたらす脅威とは異なり、もし不都合があるとすれば、自らの意思で正すべき、また正し得るはずの社会的な問題である。人間の叡智（HI, Human Intelligence）は覇権国家の野心、蔓延する経済至上主義、とめどもない個人の欲望にいかに対峙するのであろうか。

我が国は「科学技術イノベーション（STI）立国」を標榜する

科学は未知への挑戦であり発見を目指し、技術は不可能への挑戦であり発明を目指す。そしてイノベーションとは、さまざまな知識、技術、文化、諸制度などの結合によって社会的価値を創り出すことを意味する。日本がSTIに立脚した主権国家として生きるためには、国民個人の能力の充実とともに自国の特徴を活かしつつ世界に通じる諸制度を整備して、総合的に国力涵養に努めることが求められる。とくに人工知能（AI）研究の格段の振興は不可欠である。

同時にAI技術の社会実践がもたらす社会的影響への対応はそれにも増して喫緊の課題である。科学技術は基本的に公共財的性格が強く、過度に営利的、競争的であることは好ましくない。我が国としては世界の動向を見据えるにとどまらず、その流れにあえて身を投じるべきであろう。日本はこの新たな環境にいかに生きるのか。いや、より積極的にこの機会にいかに自らの特色を生かして良い国をつくるのか。若い世代の意見も取り入れて本質的かつ包括的な議論がなされていいはずである。米国スタンフォード大学の「人間中心のAI研究所」の「AI活力ランキング」調査によると、近年日本は競争力を下げ、米中の2強、さらにインド、アラブ首長国連邦、韓国などにも劣り世界36ヵ国中9位という。インフラ整備、研究開発、経済などの項目では健闘するが、AI人材、基盤モデル、さらに法律整備、ソーシャルメディア上のAIに関わる世論などが低迷している。

科学技術が駆動する文明社会

科学技術は文明の礎である。振り返れば、近代社会は15世紀のルネサンス期の活版印刷の発明に始まり、18世紀後半のジェームズ・ワットの蒸気機関が駆動した産業革命を経て、現在まで5次にわたるKondratieff技術革命を通して大発展を遂げてきた。とくに20世紀は「イノベーションの世紀」（全米工学アカデミー）であり、電力利用に始まり、自動車、航空機、水の供給、エレクトロニクス、ラジオとテレビ、コンピュータ、インターネット、医療、宇宙衛星、石油技術、原子力技術などの多岐にわたる発明と発展があり、新たな世紀が拓けた。

STIの恩恵は明白である。20世紀の間に先進国の平均寿命が45年から80年に延びたことは最大の恩恵であろう。また、我々が遺伝的に受け継いできた生来の身体能力は科学技術のおかげで「外的」に大きく拡張した。さらにその経済効果は極めて大きい。現在の世界経済規模は約100兆ドル、産業革命以降250倍以上にまで拡大したという。この発展は加速傾向にあり、これからも限りある地球の枠組みの中で成長し続ける。予想される人工知能革命の規模は産業革命に比べて数百倍大きく、影響は数千倍に及ぶと言う。だが人類文明の行き先はユートピアであろうか、ディストピアなのであろうか。思慮なき技術的卓越性、経済効果の追求だけで終わっていいはずがない。

創造への敬意、直観への信頼を確認する

科学は知識の積み重ねによって進歩する。その原点には必ず先人の創造的な営みがある。この知的資産の蓄積なくして卓越技術もイノベーションもあり得ない。ある特定分野において、仮に人工知能（AI）装置の統計推論能力が生身の人間よりも圧倒的に優れているとしても、その力量はこの基盤の上に成り立つ。まずは人間自らが特徴的に持ち合わせる創造性の尊厳を再度、確認しておきたい。

一科学者として自然界の規模の大きさと複雑さに向き合うとき、自らに出来ることは限られている。しかし人間にしかできないこともある。個人の好奇心、想像力、経験に基づく直観、研究者同士の共感や信頼関係などを紡いで、多様な人間らしい創造が生まれる。

筆者は、真に創造的な発見は統計推論だけでは難しく、それぞれの人に固有の直観が不可欠と感じている。自らの怠慢による知識、推論力の不足を認めつつも、今もってこの価値観から脱することができない。今世紀になり世界から認められた白川英樹の導電性高分子の発見、田中耕一のMALDI質量分析法原理の発見、下村脩の蛍光蛋白の発見、鈴木章のクロスカップリング有機合成反応の発明、小林誠・益川敏英の素粒子理論、山中伸弥のiPS細胞の発見、大村智の抗寄生虫薬イベルメクチンの発見は間違いなくセレンディピティーの産物であった。一方、本庶佑の抗がん剤オプジーボの発見、大隅良典の自食作用の発見などは飽くなき思い入れの結果、赤崎勇・天野浩・中村修二の青色発光ダイオードや吉野彰のリチウム電池開発もまた不屈の執念、小柴昌俊・梶田隆章のニュートリノ研究の成果は揺るがぬ確信に基づくものであった。すべてにおいて、彼らそれぞれの人生経験、特異な研究経緯、独自の実験技術、そしてしばしば幸運なくして不可能であったはずである。

もしも、彼らが当時AI技術の常用者であったならば、これらの画期的な発見、発明はなかったはずである。創造は公知の証拠に基づく（evidence-based）計画ではなく、むしろ研究者固有の前衛的な好奇心と想像力から生まれることが多い。人工機械とは異なり過去のデータを安易に信じ込まないことも人間に備わる優れた能力の一つかもしれない。真っ当な科学者たちが信ずるのはデータに依存する予測ではなく、理論（theory）に依拠する論理（logic）であることを忘れてはならない（Teppo Felin, Matthias Holweg, 2024）。

創造は人間性の真髄である。デカルトは「我思う、故に我あり」とし、パスカルは「人間は自然の中で最も弱い葦である。しかし考える葦である」との名言を残している。つまり人間にとって「自らの頭で考えること」自体に最も大きな意義があり、また人知に新たな地平を開く機会をつくることになる。これは科学に限らず、芸術、工芸、文学を含むおよそ創造と呼ばれるあらゆる精神活動において共通であろう。創造とは単なる既存知識の集積による統計推論だけでなく、仮説形成による推論能力や、独自の感性などの文化的な要素を駆使した知恵がそこにある。今後予期されるAI機能の最大活用の圧倒的な社会的流れが、この人間の主観的な営みの尊さを否定することがあってはなるまい。このスコア化偏重の時代に「尊さ」などは古めかしい価値観とする人も多いが、それでも測ることができない良いものはたくさんあるはずである。独創性を高く評価される科学者の中には、測られることを嫌う人が多い。

では、なぜ人工知能なのか

科学技術における大きな成果の根源がしばしば多様な知性の累積であるからである。もとより天才科学者アインシュタインの独創性には敬意が払われるだろう。しかし「一人のダ・ヴィンチが世界を変えた。もし、千人のダ・ヴィンチがいたら？」（The Polymath Foundation）と問う、「個人がどれだけ賢いかではなく、どのくらい多くの人と接触するかが重要だ」と唱える人たちもいる。ここでは集団が大きいほど誰かがアイディアを思いつく可能性は高まるはずである。だから同じ目標に向かう人の多様性と流動性こそが効果的な知識集約の鍵を握る。すでにゲノム解読の大規模な国際協同研究や多数の病院における患者、健常者の包括的データ収集はもとより、天文学、蝶や鳥類の観測、水質や土壌などの環境モニタリング、古文書解読などアマチュア研究者も含めた分野での成功例はその証左である。

しかし、人の流動性には、その規模と速度において自ずと限界がある。もし実際に個人的に出会うことのできない何億人もの人のもつ知識をも効果的に集積し、編集することができるならば、この方法論は間接的に共創を促すことになる。この情報革命の時代にビッグデータこそが「石油に代わる新しい資源」と言われる所以であり、国家のみならず、さまざまな組織において、できるだけ高質な大量データ集積、管理、そして公正な共用に努めなければならない。エントロピー（熱力学第二法則における「秩序の乱れの度合い」）の縮小は価値の向上の可能性を秘めており、ここに散漫な人知を上回る高性能な人工知能の力量の源泉がある。確認すべきは、あくまで個人データはその人自身に帰属し、公表データは人類社会共通の資産であって、これらの提供者は事業寡占を目論む巨大プラットフォーマーに従属するものではないことである。いずれのデータについても占有、利用法が制限されることは当然である。

科学界におけるAI技術活用

筆者がAI活用の圧倒的な有効性を具体的に認識した事例は、2018年にGoogle DeepMind 社が発表したAIプログラムAlphaFoldであった。「タンパク質の折りたたみ構造」を予測する精度はまさに驚異的であり、のちにオープンソースとして公開された。これまで数年かかっていたタンパク質構造の決定が数分で可能になり、今や創薬や疾病の原因究明研究のために200万人以上が利用するという。そして今年、わずか6年後にノーベル化学賞の授賞対象となった。なお、受賞者のD・ハサビスは、コンピュータ科学や神経科学の研究者であるだけでなく、囲碁AIのAlphaGoの開発者、起業家としても名をなしてきた。

今後、AIが科学の発展に大きく貢献することは明白で、人間が本当に良い問題をつくれば、AIがその解答を助けてくれる。2016年に北野宏明は世界に先駆けて2050年までにノーベル賞級の成果をと「ノーベル・チューリング・チャレンジ」を提唱したが、現在期待される水準の自然科学、技術の成果の多くはおそらく5−10年以内に確実に達成され、さらに衝撃的な研究局面が拓かれるではないだろうか。

AI新技術が研究開発を指数関数的に促進することは確実で、決して科学の進展を損なうものではない。

確認すべきことは、AIは人間の知恵を代替するものではなく、人類が目的をもって創り出した「技術」であることである。これまでにも自然現象の解明に様々な先端機器の恩恵を受けてきたが、信頼性あるAI技術も同じである。ただ波及効果は果てしなく大きく広い。

ただし人間にはごく単純な問題を、理解できないことはすべて機械学習に長けたAI外部装置に解決を託すという短絡的な思考は避けるべきである。AIはあくまでも特定タスクをこなす擬人化した外的存在である。人間が尊ぶ創造性（creativity）や独創性（originality）には価値観を内包する思考が関与するため、研究意義や評価は必ずしも客観的分析指標とは一致しない。まず人間が良い問いを立てることが肝心で、AI技術だけで実現したものは、たとえ新規性（novelty）があっても創造とは呼ばない。

科学研究におけるAIの役割

AI技術が科学者から創造性を奪うことがあってはならず、活用はあくまで科学の営みの本質、誠実性と整合しなければならない。科学論文の作成において多様な面で有効であるために、その利用の可否や責任に関わる取り決めが問題になっている。AI技術は科学研究の水準を高めることに間違いないので、筆者は条件付きながら前向きに考えている。むしろ今後この強力な手段を、細心の注意を払いつつも使わざるを得ないであろう。もちろん、個人であれ組織であれ課題の発想者自らがAI技術の作動目的と結果の正当性について責任を持つべきであり、決して結論をAIの自動出力に委ねてならない。

科学論文は典型的には、まず研究目的の記述に始まり、観測、合成、分析実験や理論やシミュレーションなどの研究実施事項、考察が続き、最後に結論を述べる。全体として記述される事実の科学的相関関係、論理の合理性が重視される。したがって、信頼性ある入力基礎データを十分に学習したAIの判断は、研究社会全体がこれまでに営々と生み出し続けてきた叡智を統計的に集約した結果のはずである。研究者たちが自らの限られた知識、経験だけを用いて得た結果よりは相関合理性が高いかもしれないが、それでも人知による確認が不可欠である。

最大の関心事は使用する基礎データの信頼性である。もし科学者が創造を怠れば良質の知識データは早晩底をつき、逆にAI技術濫用が科学界の知性の連鎖的な劣化をもたらす。誤りを含む不適切、不都合な入力データの利用は、さらなる偏見の増幅を招きかねない。真偽不明の「過去の情報」を学習したAIは、当然真偽不明の「新たな情報」を出力する。これを繰り返すことになる。情報の自己増幅的効果は迅速かつ巨大であるので、場合によっては研究界を混乱に陥れる。本来の科学分野は本質的に反証可能性や自己修正機能をもつため、無意味な、あるいは誤りを含むデータは時間を経て淘汰されていくはずである。これまでの手続きに沿って、AI技術利用者によるAI出力の確実かつ迅速な修正の履行は絶対条件である。

AIは研究における自由意志、目的を持たないので、成果発表の内容の全責任は著者にある。もしこの無責任が横行すれば、科学の信頼性の失墜は必定であり、さらに研究成果に依拠する社会的営み、例えば人の命を預かる医療体制は完全に崩壊するだろう。

人の営みには人による鑑定、機械出力には機械検定の活用を

科学論文における「生成AI」の倫理的問題はその表現力ゆえに、記述内容が研究者自身の知能によって成されたのか、あるいはAIという道具、物件が発出したのかの見分けがつきにくいことである。人が作った論文抄録（abstract）とAIが書いたもの区別が第三者研究者には非常に難しく、他方AIにはある程度の精度で区別できるようである。LLM（大規模言語モデル）を用いたAIチャットボットには特有の語句を使う癖があり、すでに相当多くの科学論文にAI使用の痕跡が検出されているという。

論文作成におけるAIの使用には慎重を期す必要があり、実際にScience誌はChatGPTを使った投稿論文を禁止した。しかし、この有力な新技術は、これまで開発されてきた人間の視覚では観察できないものを検出し、複雑な計算やシミュレーションを行い、実験者がつくれない物を効果的に合成してきた先端機器類とどう違うのか。科学者は全くはじめからでなく先人が築いた知識体系の上に立って研究する。「自分自身」が知の拡大に向けていかにして意味のある研究をしたかを、論文引用をしつつ明確化することが肝要である。論文は「私たち（著者）は以下の○○の研究内容について報告する」とするので、AIが一人称を偽装して著者たることは許されない。しかし、科学の進歩に向けた解析、推論のための機器、物件としてその使途を透明性ある形で明確化すれば、使用は許されるのではなかろうか。米国や英国の化学会はこの方針のようである。

権威あるScience誌の編集方針に研究者たちの信用がここまで地に落ちたのかとも感じている。著者の安易な作法による事実誤認や誤情報（hallucination）の混入を避けて科学的公正性を維持するための安全措置であろう。では、優越的に投稿論文の採否の権を握る編集者や論文査読者には生成AIを使うことが許されるのか。知識創造者とその評価者の間に生じる責任と倫理の非対称性をどう説明するのか。さらにAI評価にたえる研究へと、活動の保守化も危惧される。人が問題設定すれば、自動的に論文ができる日が来るというが、それで何が面白いのだろうか。透明性確保はAI時代の科学界における絶対的倫理条件である。もちろんゼロリスクはあり得ない。産業活動における特許権や知財の取り扱いはさらに複雑になるだろう。

企業の研究開発におけるAI技術活用

米国MITの気鋭の経済学学生のごく最近の報告（Aidan Toner-Rodgers, 2024）によれば、AI技術は確かに各種新材料の発見、発明に貢献すると言う。実際に大企業の1018人の研究者について調べると、AIが支援する研究者は44％もの多くの材料、特に新規な化学構造を持つものを発見し、その結果特許出願が39％増加し、さらに川下製品イノベーションも17%増加している。だがここでもともと最上位の研究者たちの生産量はほぼ倍増するが、下位の3分の1の人たちにとってはほぼ恩恵がないと言う。つまり、この革新プロセスにおいて、AIの計算アルゴリズムと個人の専門性が強い相互補完性が存在することである。つまりAI技術は十分に熟練した研究者と組み合わせた場合にのみ効果的であるという。これはAI技術が「アイディア創出作業」の57％を自動化し、研究者たちを目的候補物質の評価という新たな作業に振り向けることになったためと解釈される。結果として、82％の研究者について、本来自身が持つ創造性が低下し、また技術の活用機会の喪失するために満足度が大きく減少するという。AI濫用が研究の魅力を損なえばもはや研究組織は存続し得ないのではなかろうか。

なお、特許法においては、発明を「自然法則を利用した技術的思想の創作のうち高度なもの」と定義しており、世界共通で特許権が帰属する対象は人以外あり得ないと認識されている（日経新聞、2024.11.12）。AIの活用をいかに取り扱うのか、我が国の産業政策上、迅速な議論が必要でないか。

技術的特異点は来るだろうか

現時点では深層学習を用いるAI技術においては入力と出力の間に相関はあっても因果関係は不明であるという。しかし、この分野の専門家たちが主張するように、集積された信頼できる膨大な基礎データの中に「人が認知できない因果関係や一定の規則性が内包されている」ことが確かであれば、合理的なアルゴリズムを用いる編集によって「科学的発見」が可能になる。もちろん、これは発見という言葉の定義による。

カーツアイルは、人工知能が人類の知能を凌ぐこと、その技術的特異点（シンギュラリティー）が2045年に到来とした。人類の知能とは何か。冷静に考えればAI技術が科学や科学技術の相当の分野において大きな力を発揮することは間違いない。AIは一秒間に8億ページの文字を読むとされ、2010年代に入り深層学習技術が進んだ。そして今日、少なくとも特化型AIにおいては、人間の通常の演繹的推論の速度と正確さは信頼できるデータを元にした機械の出力にとても及ばない。生成AIのChat GPT-4では処理できるデータ（パラメータ数）が一兆を超え、創発的推論も可能になりつつあるという。不安は大きいが、科学者、技術者たちも感情的に目を覆い、耳を塞いでいては始まらない。ただし高い倫理感をもって正しく使いたい。