第64回「サイバーとフィジカルの融合 信頼されるAIが日本の勝ち筋」
※この記事は「科学新聞2021年11月26日号」に掲載されたインタビュー記事です。
システム・情報科学技術分野の俯瞰報告書では、技術トレンドとビジョンを、あらゆるもののデジタル化・コネクティッド化による「サイバー世界とフィジカル世界の高度な融合」、あらゆるもののスマート化・自律化がもたらす「データ駆動型・知識集約型の価値創造」、社会の要請に応え人間の主体性を確保することによる「社会課題解決と人間中心社会の実現」という3つの流れで捉え、36の技術領域を俯瞰している。
それらを大きくまとめて「人工知能・ビッグデータ」「ロボティクス」「社会システム科学」「セキュリティー・トラスト」「コンピューティングアーキテクチャー」という5区分で俯瞰している。あらゆるもののデジタル化・コネクティッド化を支えるのが、通信・ネットワークを含む「コンピューティングアーキテクチャー」である。集中から分散へ計算環境が広がるとともに、量子コンピューティングのような新しい計算方式も注目されている。あらゆるもののスマート化・自律化を牽引するのが、深層学習を中心とする「人工知能・ビッグデータ」である。「ロボティクス」は、産業用ロボットなど工場内の定型的な工程の自動化に活用されてきたが、人工知能（AI）技術の活用により、家庭や一般社会で多様な作業に対応できる知能ロボットの研究開発が盛んになった。このような高度で複雑な技術が社会の様々な場面で使われるようになりつつあることから、安全性・信頼性などの社会的要請を受けた「セキュリティー・トラスト」の重要性が高まっている。従来のサイバー攻撃や情報漏洩への対策といった面だけでなく、高度で複雑な技術に対するトラストの確保も重要課題である。このような技術が広く深く社会に入り込んだことで、大規模化・複合化・複雑化の進んだ社会システム自体を研究対象とする「社会システム科学」への取り組みも進められている。
福島俊一フェローは「情報技術は、社会に広がったことで、性能が高いだけでなく、技術に対する人々の不安・懸念を払拭し、安全で信頼される技術であることが求められています」と指摘する。技術開発面で米中2強という状況の中「国として研究投資をするのであれば、日本の勝ち筋が見えるようなシナリオを描き、投資しなくてはいけない」という。そのため、日本が保有する強い技術や強い産業を足がかりとして発展させるシナリオ、労働人口減少のような社会課題が新技術の受容を促進するシナリオ、社会基盤を支える根幹技術を他国に依存せずに自国で確保するシナリオに基づき、戦略的に重要度が高い21の重点推進テーマを抽出している。それらは、量子コンピューティング、非フォンノイマンコンピューティング、ブロックチェーンのような情報処理基盤から、信頼されるAI、トラスト基盤、Society5.0プラットフォームのような社会に関わるもの、AIと人間の共進化、AI×ロボット融合、AIと科学、数学と情報科学など分野横断のテーマまで広がる。
特にAI技術の進展は著しい。深層学習は、画像・音声などのパターン認識に飛躍的な精度向上をもたらし、分類・異常検知・予測など様々な分野へ応用され、第3次AIブームを牽引した。深層学習を用いて生成・変換の様々な応用も生み出された。例えば、架空の顔画像を生成したり、ラフスケッチから写実画へ変換したり、自然言語の生成では、少数の例示をもとに、小説やブログ記事、プログラムコードの生成もできるようになった。さらに、試行錯誤を通して学習する深層強化学習は、囲碁の世界チャンピオンを破ったアルファ碁にも使われ、自動運転やロボット制御への応用も進められている。
自動運転や医療など、AIがミスをすると人命に関わるようなところまで応用が進んできたことで、AIの安全性・信頼性が強く求められるようになった。福島フェローは「ブラックボックス性の問題があります。『あなたは不採用』『このプロジェクトは失敗する』といった判定結果を出しても、その理由を説明してくれない。事故が発生しても原因解明や責任判断が難しい。学習データによってはバイアスや偏見を持った判断をしてしまう。さらに深層学習に誤認識させるサイバー攻撃などもでてきていますし、フェイク動画を作成して政治的に悪用するケースもあります」とした上で「従来のプログラミングは処理手順を明示的に書くことで動作を定義する演繹型の方法でしたが、機械学習は、データを例示するとそれをまねるようにシステムの動作が決まる帰納型です。開発方法のパラダイムが全く異なるため、品質保証に新たな考え方が必要」という。
今年提出された欧州AI法案では、AIのリスクレベルに応じた利用に制限や条件を課すという、踏み込んだ案が示されている。「AIの公平性・説明責任・透明性などが要求されたところで、それを満たすシステムをどうすれば開発できるのかは大きな課題です。そこで『信頼されるAI』の開発、さらに基本アーキテクチャ自体を進化させようという基礎的な研究が進んでいます。人間は大量の教師データなしに学習・成長し、学習したことを組み合わせて、別な場面や状況にも応用できます。人間の知能にヒントがあります」
人間の知能は、熟考的知能（意識的で論理的な思考）と即応的知能（無意識で早い思考）という2つの面がある。「第3世代AIである今の深層学習は即応的知能に対応しますが、次の第4世代AIは、即応的知能と熟考的知能の両方を統一的な枠組みで融合し、演繹的な言語・知識処理もニューラルネットワークによるパターン処理と連動させます。これによって、自律化・汎用化が進み、人間との親和性・協調性も向上すると期待されます」
福島フェローは「日本の産業界には、品質や信頼性に強いこだわりがあり、それが信頼されるAIには強みです。第4世代AIへの取り組みは、どの国もスタートラインに立ったところ。日本は新しい技術を受け入れる社会受容性にも可能性があり、スパコンやロボティクス、生体認証などにも強みがあります。これらを融合した研究開発を進めることで、世界に先行できるチャンスがあります」と語った。
（「科学新聞2021年11月26日号」掲載）
フェロー紹介
福島 俊一（ふくしま としかず）
CRDSシステム・情報科学技術ユニット