位相変化に基づく教師あり学習と教師なし学習 全光ニューロンシステム

最近、Nature は IBM による新しい研究結果を発表しました。 光学デバイスで構築された「全光学式」ディープ ニューラル ネットワークは、従来のコンピューティング手法よりもエネルギー効率が高く、スケーラビリティ、光電変換不要、高帯域幅という利点があります。 この発見は、将来の光ニューラル ネットワーク アクセラレータの出現の基礎を築く可能性があります。光ファイバーは光の形で世界中にデータを送信でき、現代の電気通信技術の柱となっています。 ただし、これらの伝送データを解析する必要がある場合は、光信号から電子信号に変換し、電子機器で処理する必要があります。 しばらくの間、光学は将来最も可能性のあるコンピューティング技術の基礎であると考えられていましたが、電子コンピュータの急速な進歩と比較すると、光コンピューティング技術の競争力は明らかに不十分です。しかし、ここ数年、業界はコンピュータのエネルギーコストにますます注目するようになりました。 そこで、光コンピューティングシステムが再び注目を集めている。 オプティカル コンピューティングはエネルギー消費が低く、ディープ ニューラル ネットワーク (DNN) などの AI アルゴリズム用の特別なアクセラレーション ハードウェアとして使用できます。 最近、フェルドマンらは、この「全光ネットワーク実装」の最新の進捗状況をネイチャー誌に発表しました。

ディープ ニューラル ネットワークには、多層人工ニューロンと人工シナプスが含まれます。 ネットワーク重みと呼ばれるこれらの接続の強度は、ニューロンの興奮を示す正の場合もあれば、ニューロンの抑制を示す負の場合もあります。 ネットワークは、画像認識などのタスクを実行するためにシナプスの重みを変更するために、実際の出力と期待される出力の差を最小限に抑えるために最善を尽くします。通常、DNN の計算には CPU およびその他のハードウェア アクセラレータが使用されます。 DNN のトレーニングでは既知のデータセットを使用でき、トレーニング済みの DNN を使用してタスク内の未知のデータを推論できます。 計算量は多くなりますが、多くのシナプス重みや神経興奮において「乗算と累積」操作が支配的であるため、計算操作の多様性はそれほど高くありません。計算精度が低くても DNN は正常に動作します。 したがって、DNN ネットワークは、非伝統的なコンピューティング テクノロジの潜在的な機会を表します。 研究者たちは、新しい不揮発性メモリデバイスをベースにした DNN アクセラレータを構築しようとしています。 この種の機器は、電源切断時に情報を保存し、アナログ電子計算を通じて DNN の速度とエネルギー効率を向上させることもできます。

そこで、光学機器の使用を検討してみてはいかがでしょうか?光ガイドコンポーネントには、通信用の光ファイバーであろうと、フォトニックチップ上の導波路であろうと、大量のデータが含まれる可能性があります。 この種の導波路では、「波長分割多重」技術を使用して、多くの異なる波長の光を一緒に伝播させることができます。 各波長は、電子から光への変調および光電子検出に関連する利用可能な帯域幅によって制限される速度で変調 (情報を伝達できる方法で変更) できます。 1全光パルスニューロン回路共振器を使用することで、トラックの積み下ろしと同じように単一波長の追加や削除が可能です。 DNN ネットワークのシナプス ウェイト アレイは、ミクロン リング共振器を使用して構築できます。 共振器は、熱変調、電気光学変調、または相変化材料によって変調することができます。 これらの材料は非晶質相と結晶相の間で切り替えることができ、材料によって光吸収容量は大きく異なります。 理想的な条件下では、乗算と累算の消費電力は非常に低くなります。

フェルドマン氏の研究チームは、ネットワーク内で光電変換を使わない「全光ニューラルネットワーク」をミリ波フォトニックチップ上に実装した。 入力データはさまざまな波長に電子的に変調され、ネットワークに注入されますが、すべてのデータはチップ上に残ります。 統合された相変化材料は、シナプスの重みを調整し、ニューロンを統合するために使用されます。 2 パルスの生成と人工ニューロンの操作著者らは、小規模な教師あり学習と教師なし学習、つまりラベル付きデータを使用したトレーニング (DNN 学習) とラベルなしデータを使用したトレーニング (人間の学習と同様) を実証します。

図。 3 位相変化に基づく教師あり学習と教師なし学習 全光ニューロンシステム 重み表現は光吸収によって実現されるため、負の重みはより大きなバイアス信号を必要とし、相変化材料を活性化できません。 別の方法は、マッハ ツェンダー干渉計のデバイスを使用して 1 つの導波路を 2 つのアームに分割し、その後それらを再結合することです。 このとき、透過光量は２つの伝播路間の光位相差に依存する。 ただし、各干渉計のアームは波長ごとに適切な位相差を導入する必要があるため、この方法を波長分割多重化と組み合わせるのは難しい場合があります。DNN のすべての光学的実装は依然として大きな課題に直面しています。 理想的には、それらの合計電力使用率は低い可能性があり、各マッハ ツェンダー干渉計アームの光位相差を調整および維持するために熱光学電力が必要になることがよくあります。

図。 4 すべての光ニューラル ネットワークのスケーラブルなアーキテクチャさらに、相変化材料を含むシステムに注入される合計光パワーは、入力信号に対する材料の応答が期待どおりになるように慎重に校正する必要があります。 相変化材料を使用してマッハツェンダー位相を調整することもできますが、材料によって吸収される光の強度と光速度の低下との間には避けられないクロスカップリングが発生し、システムの複雑さが増大します。従来の DNN は開発しました。数千のニューロンと数百万のシナプスを含む大規模なものまで。 ただし、フォトニックネットワークの導波路は、結合を防ぎ、光が導波路から出ないようにするための急激な曲がりを避けるために、互いに遠く離れている必要があります。 2 つの導波路の交差により、不要な電力が誤った経路に注入される可能性があり、フォトニック チップ設計の 2D 特性が実質的に制限されるためです。

図。 5 単層パルスニューラルネットワークの実験的実装 光学デバイスのニューラルネットワークを構築するには長距離と広い面積が必要ですが、各光学構造の主要部分の製造には高い精度が必要です。 これは、各マイクロリング共振器の入口と出口などの導波路と結合領域が、対応するネットワークのパフォーマンスに必要な正確なサイズに達する必要があるためです。 また、小さなマイクロリング共振器の製造方法にも多くの制限があります。最後に、変調技術は光学効果が弱く、通過する光に対する影響を大幅に制限するには長い相互作用領域を必要とします。

フェルドマンチームの研究の進歩は、この分野の将来の発展を促進することが期待されます。 この研究は、将来、エネルギー効率が高くスケーラブルな光ニューラル ネットワーク アクセラレータの出現の基礎を築く可能性があります。