慶應義塾大学 理工学部 電気情報工学科の吉岡 健太郎 専任講師は、エッジコンピューティングの普及に伴い、より身近なデバイスへの人工知能(AI)応用を促進するため、深層ニューラルネットワーク(DNN)、特にTransformer処理の高効率な推論を実現する高精度かつ省エネルギーなコンピュート・イン・メモリー(CIM)回路を開発しました。
本研究では、従来のCIMが抱えていたTransformerの推論に必要な演算精度を実現するために、データ格納、演算、アナログ-デジタル(A/D)変換を1つのメモリーセルに集積した「容量再構成型CIM(CR-CIM)」構造を提案しました。この構造によって、アナログCIMで初めてTransformer処理に必要な演算精度を達成しつつ、消費電力1ワットあたりの処理速度が818TOPS(兆回/秒)と非常に高い電力効率を実現しました。また畳み込みニューラルネットワーク(CNN)処理を行う際は、同等の演算精度を持つ従来技術と比べ10倍のエネルギー効率となる4094TOPS/ワットを達成しました。
本研究成果は、エッジコンピューティングやAIの分野で、電力効率と処理速度の両面で効率的なAIハードウエアの開発に貢献します。また将来的にはより多くの人々が大規模言語モデル(LLM)といったAIサービスを利用しやすくなると期待されます。
研究成果の詳細は、米国時間2024年2月18日から開催されている「ISSCC2024(国際固体素子回路会議)」にて発表されました。ISSCCは集積回路に関するオリンピックとも称される、最難関国際会議です。
本研究成果は、科学技術振興機構(JST) 戦略的創造研究推進事業 チーム型研究(CREST)「信頼されるAIシステムを支える基盤技術」研究領域(研究総括:相澤 彰子)「D3-AI:多様性と環境変化に寄り添う分散機械学習基盤の創出」(研究代表者:高前田 伸也、グラント番号:JPMJCR21D2)の事業・研究課題の助成により得られました。
<プレスリリース資料>
- 本文 PDF(678KB)
<論文タイトル>
- “A 818-4094TOPS/W Capacitor-Reconfigured CIM Macro for Unified Acceleration of CNNs and Transformers”
<お問い合わせ先>
-
<研究に関すること>
吉岡 健太郎(ヨシオカ ケンタロウ)
慶應義塾大学 理工学部 電気情報工学科 専任講師
E-mail:kyoshioka47keio.jp -
<JST事業に関すること>
前田 さち子(マエダ サチコ)
科学技術振興機構 戦略研究推進部 ICTグループ
〒102-0076 東京都千代田区五番町7 K’s五番町
Tel:03-3512-3526 Fax:03-3222-2066
E-mail:crestjst.go.jp -
<報道担当>
慶應義塾 広報室(望月)
Tel:03-5427-1541 Fax:03-5441-7640
E-mail:m-pradst.keio.ac.jp科学技術振興機構 広報課
〒102-8666 東京都千代田区四番町5番地3
Tel:03-5214-8404 Fax:03-5214-8432
E-mail:jstkohojst.go.jp