小脳を模した光ニューラルネット回路 ?超高速?省電力の光リザバー計算チップを実現?
2021/11/2
金沢大学理工研究域機械工学系の砂田哲教授と埼玉大学大学院理工学研究科数理電子情報部門の内田淳史教授の共同研究グループは，小脳を模したニューラルネットワーク（※1）の一種であるリザバー計算（※2）を，光を用いて超高速かつ低消費電力で処理可能な新しい光回路チップを作製しました。
近年の人工知能（AI）?機械学習の急速な進展により，コンピューティングの需要が爆発的に増加している一方で，電子を情報の担い手とする既存コンピューティング技術の進展の限界が指摘されています。そこで，新たなコンピューティング技術として光を利用したニューラルネット処理が注目され，現在，世界的に研究開発が進んでいます。しかし，既存研究では１次元的な細い光配線（光導波路，※3）によって光回路を構成しているため，光波動の空間的な自由度を活かせず高密度な実装?演算が困難であり，その演算速度において限界がありました。
本研究では，光波動の空間的自由度を活かして光の“ニューロン”を微小領域中に高密度かつ大規模に実装できる光回路を設計?試作し，これを用いてリザバー計算が超高速かつ低消費電力で実現可能であることを示しました。本研究で開発した光回路では，空間的に連続に分布する光のニューロンの“場”を形成できます。そのため，原理的に光波長スケール（数百ナノメートル）の間隔で（仮想）光ニューロンが配置されたような実装が可能となり，その高密度性を活かして最先端の光リザバー回路チップの60倍以上の高速性，電子回路の100倍以上の省エネ性を実現できる可能性を秘めていることが明らかにされました。
今後，本研究の光回路チップをさらに高度化することで，AI処理の超高速化や省エネ化が可能となり，これまで捉えることのできなかった高速現象の異常検知?認識などへの応用が期待されます。また，光通信や光計測分野をはじめとしたさまざまな分野への応用が期待されます。
本研究成果は，2021年11月1日23時（日本時間）に米国光学会誌『Optica』に掲載されました。
研究背景
現在，我々は日常的にコンピュータを使い，画像認識や音声認識，翻訳などさまざまな作業をAIが担ってくれるようになりました。また最近では，病状の診断や自動運転などの高度で多様なタスクをAIが担ってくれる未来が想像されます。このような進化を可能にする技術が，機械学習の一分野であるニューラルネットワーク（そして深層学習）であり，その凄まじい進化を支える要因が，今日まで続くコンピュータの計算能力の増加と利用可能なデータ量の増加です。より高度な処理を実現するには，更に莫大な計算が必要となります。現在，ニューラルネットに必要な計算量は，指数関数的に増大しており，多くのコンピューティングリソースが投入されています。しかし，現在のコンピューティング技術ではAI演算に非常に多くのエネルギーが必要となってしまい，最近では環境に負荷を与えるレベルになっています。急増するAI計算のニーズに，それを支えるコンピューティングハードウェア技術の進展がこのまま追従できるか懸念されており，現在ではAI処理を加速させる新しいコンピューティング技術や計算原理を開拓すべく世界的に研究開発が進められています。
光を用いたコンピューティングは，その中で注目される技術の一つです。電子を情報の担い手とする現在のコンピューティングと異なり，配線抵抗や容量などによるエネルギー損失がないため，消費電力を大幅に改善できると期待されています。ある試算によれば，光を用いてニューラルネット演算が可能となると電子型デバイスの100万倍以上のエネルギー効率が達成可能と言われています。また，光の速度での高速演算も期待されます。これまでにさまざまな光ニューラルネット回路が提案されてきましたが，そのほとんどは1次元的な光配線（シングルモード導波路，※3）から構成される回路でした。そのため，大規模なニューラルネット回路をチップ上で構成することは原理的に困難でした。また，膨大な配線や複雑な制御を必要とする設計に限られてきました。
研究成果の概要
そこで，本研究グループでは，光の波動性による高い空間的自由度に注目した新しい光ニューラルネット回路を提案しました。これはスペックル現象と呼ばれる光学現象に基づいています。スペックル現象は，紙やすりやガラスなどにレーザー光を当てた時にギラギラと輝く不規則な斑点模様のことで，簡単な光学実験で観測できます。本研究では，幅が太く空間的な広がりのある光配線（マルチモード導波路，※3）中で生じるスペックルは，仮想的に空間的に連続で無限の自由度があるニューラルネットとみなすことができる点に注目しました（図1）。このような光ニューロンの”場”をつくり，その高い表現能力を活かすことでニューラルネット処理が可能になることが期待できます。そこで，昨年度はマルチモードファイバ（※4）と呼ばれる光ファイバを使って，その光ニューラルネット演算の原理実証を行いましたが，非常に長いファイバを用いてシステムを構築していたため，システムサイズが大きく，演算までの遅延時間（レイテンシ）が長いという問題点がありました。
本研究では，光ニューロン場の生成に必要な要素をシリコンチップ上に集積した新しい光回路を作製しました（図2）。作製した光回路では，スパイラル型の結合マルチモード導波構造により，ランダム結合した光ニューロンに対応するネットワークを微小チップ内で高密度かつ大規模に実装することができ，それを情報のリザバーとして利用することで，リザバー計算が高速?低レイテンシかつ低電力消費で可能となりました。リザバー計算は小脳との類似性が指摘されている新しいニューラルネットワークです。「大脳」を模倣したニューラルネットワークでは，高度な処理ができるが計算に時間がかかったり，学習自体が困難だったりする場合がありますが，リザバー計算では，大量のデータを必要としなくても学習が可能であり，学習が簡単という特徴があります。そして，再帰型ニューラルネット（※5）のように，音声や株価のように変動する時系列データの処理を得意とします。図3では，毎秒12.5ギガサンプルのレートでのカオス時系列の1ステップ予測の例を示しています。これは，毎秒1ペタ回以上の積和演算処理を光が自発的に実行していることに対応しており，最先端の光回路の60倍以上の計算処理能力があることがわかりました。光通信分野で用いられる光波長分割多重方式（※6）を用いることで更なる高速化も可能となります。また，そのニューラルネット演算に必要なエネルギーは入射光パワーのみであり，光ネットワークの調整は必要ない，そして無配線でよいという利点などから，1回の積和演算あたりのエネルギー消費量は既存の回路よりも遥かに小さく，0.15フェムトジュール（0.15×10-15 J）と試算されました。
今後の展望
光リザバー計算を含め，さまざまな光ニューラルネット回路の研究が盛んに行われていますが，本研究で開発した光回路は，空間的に連続した光ニューロンの場を形成することで，光の波長スケール（サブマイクロメートルスケール）の高密度で大規模な光ニューラルネット演算が可能という他にはない特徴があります。これにより，他のリザバー計算回路を圧倒する高速性と省エネ性が実現できます。光閉じ込めや伝搬方法の工夫により，更なる高密度化?大規模化が可能となります。まだ原理検証実験の段階ですが，将来的には光チップ上で100万を超える光ニューロンに対応する光リザバー計算を用いて，実用的で高度なタスクに対しても一瞬で認知?判断できると期待できます。そのため，これまで見過ごされてきた突発現象の異常検知や認識，光通信分野での情報処理などへの応用が期待できます。また，本研究の光ニューラルネット回路はアナログ処理に基づいています。物理世界から得られる光をそのまま処理することが可能となるため，センサと情報処理が一体となった新しい光計測技術やAI処理系へ展開でき，更に低レイテンシや学習コストの低さを活かしてエッジコンピューティング（※7）への応用も期待できます。
＊－＊－＊－＊－＊－＊－＊－＊－
本研究は，科学技術振興機構（JST）戦略的創造研究推進事業さきがけ「革新的コンピューティング技術の開拓」（研究総括：井上弘士 九州大学大学院システム情報科学研究院教授）研究領域における「光波動コンピューティングの展開」（研究者：砂田哲）（JPMJPR19M4），日本学術振興会科学研究費助成事業（基盤研究A 19H00868，基盤研究B 20H04255），公益財団法人大川情報通信基金の支援を受けて実施されました。
＊－＊－＊－＊－＊－＊－＊－＊－
図1．（a）リザバー計算の基本モデル (b)本研究提案の光リザバー計算回路の概念図
マルチモード導波路中の複雑干渉により，スペックルパターンを生成して，これを空間連続的なニューラルネット（ニューロンの場）としてリザバー計算に利用。モード分散によりメモリ機能を与えることも可能。(b)の構成は(c)に示すような高密度な光ニューロン実装に対応する。
図2．本研究で作製した光リザバー計算回路チップ。
シリコンチップ上の4 mm2角内に折り畳まれたスパイラル型の結合マルチモード導波路によりリザバー計算に適した光のニューロン場を生成可能。左側から処理したい情報を入力すると右側からその特徴変換した結果を出力。時間のかかる演算を光の伝搬に伴い自然に実行可能。
図3．カオス的な複雑信号の1ステップ先を予測した結果
(a)入力カオス信号。毎秒12.5ギガサンプル(Gsamples/sec)の速度で光位相を変調し，計算回路チップへ入力。(b) 光リザバー計算回路チップで生成した光ニューロン場の応答。この時空間応答から1ステップ先を予測するように学習した。(c)はその結果を示す。このように高速に変動する時系列データもよい精度で高速に予測できる。
掲載論文
| 雑誌名 | Optica |
|---|---|
| 論文名 |
Photonic neural field on a silicon chip: Large-scale、 high-speed neuro-inspired computing and sensing （シリコンチップ上の光ニューラルフィールド：大規模?超高速のニューロ?インスパイアード?コンピューティングとセンシング） |
| 著者名 | Satoshi Sunada and Atsushi Uchida（砂田哲、内田淳史） |
| 掲載日時 | 2021年11月1日23時（日本時間）にオンライン版に掲載 |
| DOI | 10.1364/optica.434918 |
用語解説
※1 ニューラルネットワーク
脳内にある神経回路網の一部を模した数理モデル。近年の人工知能の中核的機能を担っている。
※2 リザバー計算（リザバーコンピューティング）
時系列データの処理を得意とする再帰型ニューラルネットワーク（RNN，※5）の一種であり，最近では，小脳での情報処理モデルとの類似性が指摘されている。リザバー計算では，一般的に，リザバー層と呼ばれる中間層に巨大なランダムネットワークを用いる。RNNと異なり，ランダムネットワークでの学習は行わないので，簡単な最適化法で学習が可能である。なお，リザバー計算ではランダムネットワークに拘る必要はなく，多様なダイナミクスを生成可能な動的システムをリザバーとして用いて良いことが分かってきた。本研究では，結合マルチモード光導波路で生成する光ニューロンの場（スペックルによる擬似ランダムなネットワーク）をリザバーとして用いた。
※3 光導波路（シングルモード導波路，マルチモード導波路）
光の配線。コアと呼ばれる屈折率の高い芯を屈折率の低い物質（クラッド層）で覆った構造。コア層の幅が狭く単一の伝搬モードしか伝搬させない導波路をシングルモード導波路と呼び，コア層の幅が広く，さまざまなモードを伝搬させる導波路をマルチモード導波路と呼ぶ。マルチモード導波路の場合，コアの部分が光の波長に比べて十分に大きくなっており，複数の光の進み方ができる。その結果，伝搬速度が進み方によって異なり，ファイバ端での干渉によってスペックルが観測できる。
※4 マルチモードファイバ
光信号の伝送路である光ファイバ（光信号を伝送させる細い線）の一種であり，主に中短距離の光伝送に使われている。マルチモード導波路のようにさまざまなモードを伝搬させる光ファイバ。
※5 再帰型ニューラルネットワーク(RNN)
中間層のニューロンの出力が再び中間層のニューロンに入力する構造のニューラルネットワーク。そのような再帰型のネットワークによって時系列データなどの処理を得意とする。基本的なRNNでは，中間層?入力層間のネットワークまで含めて学習を行うが，勾配消失や爆発の問題により学習が困難とされてきた。
※6 光波長分割多重化手法
光通信分野で利用されている通信方式のこと。1本の伝送路に2つ以上の異なる波長の光信号を同時に送信することで光ネットワークの容量を拡張する手法である。本研究では，光信号の通信ではなく，2つ以上の情報を同時に処理するために利用可能。
※7 エッジコンピューティング
ユーザーや端末の近くでデータを処理すること。端末の近くで処理することで，通信遅延や上位システムへの負荷を低減できる。
参考URL
