第115回「信頼される新世代AI研究」
2つの潮流
人工知能（AI）技術は、さまざまな応用が社会に広がるにつれて、精度・性能の向上だけでなく、安全性・信頼性の確保を強く求められるようになった。例えばAIのブラックボックス性は、判定結果の理由が説明されず、事故が起きたときに責任の所在が明らかにならないとか、差別・不公平を生むような学習がされていないかといった懸念を生んでいる。
また、AIの誤認識を誘発させる攻撃が可能であるとか、人間には見分けるのが困難なフェイク画像・動画・文章を簡単に作れるようになってしまったという悪用の懸念も強まっている。このような懸念に対処し、「信頼されるAI」を目指すのがAI研究の第1の潮流である。
この取り組みは個別の問題への対処を積み上げる傾向にあるのに対して、現在のAIの中心である深層学習（ディープラーニング）にはそもそも何か足りない面があるのではないか、その限界を克服する「新世代AI」の新しい仕組みを考える必要があるのではないかというより基礎的な研究も立ち上がってきた。これが第２の潮流である。
人間は大量の教師データなしに学習・成長し、学習したことを組み合わせて別な場面・状況にも応用できる。このような人間の知能に関する基礎研究の成果・知見がヒントになり得る。
日本の勝ち筋
「信頼されるAI」に向けては、AIシステムが満たすべき要件・指針が論じられ、国・世界レベルでAI社会原則が掲げられた。それをAI品質管理の方法論・技術に落とし込むことが必要だが、日本はその取り組みで国際的に先行している。品質や信頼性はもともと日本の産業界の意識が高く、AI開発においても日本の強みになり得るはずである。
「新世代AI」への取り組みは米国国防高等研究計画局（DARPA）が「AIネクスト」を掲げた研究投資を推進しているが、研究としては世界的にまだ初期ステージで、日本にも先行チャンスがある。ロボットとの融合や脳科学・認知発達などの知能基礎研究の強みの活用も見込める。
深層学習を中心とした現在のAIは、米中2強と言われる状況だが、ここで述べた二つの新潮流で先行することで、日本の存在感が高まると期待したい。
※本記事は 日刊工業新聞2021年9月3日号に掲載されたものです。
東京大学理学部物理学科卒、NECにて自然言語処理・情報検索の研究開発に従事後、2016年から現職。工学博士。11－13年東大大学院情報理工学研究科客員教授、21年情報処理学会フェロー。
＜日刊工業新聞 電子版＞
科学技術の潮流（115）信頼される新世代AI研究（外部リンク）