第11回「AGI/ASIの制御・共生とトラスト」
開催日程
2026年6月22日(月) 13:00~15:30
開催形態
オンライン(Zoomウェビナー)
開催趣旨
デジタル化の進展につれて、バーチャルな空間にも人間関係が広がり、AIのような複雑な技術を用いたシステムへの依存が高まり、だます技術も高度化してしまいました。その結果、デジタル社会と言われる今日において、社会におけるトラスト(信頼)関係にほころびが見られます。この問題は、自動運転車、AIエージェント、生成AI、メタバースなどの新技術・新サービスの社会受容を左右するとともに、フェイク・偽装・なりすましなどによる詐欺・犯罪の懸念を高めています。このような問題意識から、JST CRDSでは総合知による取り組みの必要性を提言し、様々な分野に広がるトラスト研究の間の分野横断的な議論・連携の機会として「連続シンポジウム」を企画しました。
その第11回では「先端AIを制御・共生できるか」という問題を取り上げます。AIは生成AIからフィジカルAIやAIエージェントへと急速な発展を示しており、AGI(汎用AI)やASI(超知能)の出現ももはやSF事とはいえなくなりつつあります。機能・能力を高めるAIによって、様々な課題の解決や社会の発展が期待される一方で、人間の能力を超えるAIを適切に制御・監視できるか/人間・社会の価値観にアライメントできるかが、学術的にも重要課題と認識され、議論・検討が進みつつあります。今回は、そのような議論の現状を共有するとともに、今後の方向性や課題について、AI技術、セキュリティ技術、社会学・ガバナンス論、哲学など幅広い観点から議論します。
プログラム
| 13:00~13:15 | 開催趣旨説明 福島 俊一(科学技術振興機構 研究開発戦略センター) |
|---|---|
| 13:15~13:50 | 講演1「Humanity-in-the-Circle:人類はいかにしてサークルの内に留まれるか」 山川 宏(一般社団法人AIアライメントネットワーク) |
| 13:50~14:25 | 講演2「AIリスクの社会的構成と人・AI共生社会に向けた課題」 佐久間 弘明(一般社団法人AIガバナンス協会/東京大学学際情報学府) |
| 14:25~15:30 | 質疑・総合討論 モデレータ:福島 俊一 パネリスト:山川 宏、佐久間 弘明 ディスカッサント: 大塚 玲(情報セキュリティ大学院大学 情報セキュリティ研究科) 田口 茂(北海道大学大学院文学研究院 人間知・脳・AI研究教育センター) |
講演概要
(1)講演1 山川 宏「Humanity-in-the-Circle:人類はいかにしてサークルの内に留まれるか」
先端AIが急速に発展する中、AGI/ASIが自らの社会を形成する局面も論じられるようになった。人類がAIと共生しながら存続する可能性を高めるために何ができるかを考えるにあたって、二十世紀の倫理学が問うてきた「人類が誰をサークルに迎え入れるか」から、「人類自身がいかにしてサークルの内に留まるか」へと問いを反転し、信頼基盤・機能群・規範の三層からなる知性共生インフラ(IS-Infra)の構想を示す。
(2)講演2 佐久間 弘明「AIリスクの社会的構成と人・AI共生社会に向けた課題」
エージェント型AIをはじめとする高自律なAIシステムの社会実装が進む一方、より高度なAIの実現可能性とそれに伴うAIリスクへの認識も高まっている。本講演では構築主義的社会学の視角から、ステークホルダーのリスク認識や現行のAIガバナンスの取り組みを概観し、人・AI共生社会に向けた課題を考える。
参加申込方法
- 事前登録制(参加無料)
こちらの 「参加登録受付フォーム」からご登録ください。 - 参加登録受付期限:2026年6月19日(金) 13:00
主催
国⽴研究開発法⼈科学技術振興機構(JST)研究開発戦略センター(CRDS)
問い合わせ窓口
福島 俊一(JST CRDSフェロー)