データセンターの消費電力を削減する光AIプロセッサ...

米国の MIT とベルリン工科大学の研究者らは、GPT4.0 などの大規模言語モデル AI の消費電力を削減する、レーザーが組み込まれた光ニューラルネットワークプロセッサを構築しました。

3D アーキテクチャは、ベルリン工科大学の Reitzenstein グループによって開発された最先端の垂直面発光レーザー (VCSEL) アレイに基づいています。これにより、エネルギー効率が 100 倍向上し、計算密度が 20 倍向上します。

「これは彼らなしでは不可能な共同プロジェクトでした」と、同僚とともにこの設計の特許を取得した MIT 電子研究所 (RLE) の研究者ライアン・ハマーリーは言う。

このシステムは、6 TOP/mm2/s1 の計算密度で 1 操作あたり 7 フェムトジュール (OP) のエネルギー効率を達成でき、最先端のデジタルプロセッサと比較して、それぞれ 100 倍と 20 倍の向上を示します。短期的な開発により、これらの指標はさらに 2 桁向上し、データセンターから分散型デバイスまで機械学習タスクが可能になる可能性があります。

「数年以内に商用利用できるようになると予想しています。たとえば、関連するレーザーアレイは、携帯電話の顔 ID やデータ通信に広く使用されています」と筆頭著者のザイジュンチェン氏は述べています。彼は MIT のポスドク時代に RLE でこの研究を行い、現在はサザン大学の助教授です。カリフォルニア。

「ChatGPT は、今日のスーパーコンピューターの能力によってそのサイズが制限されています。はるかに大きなモデルをトレーニングするのは経済的に採算が取れません。私たちの新技術により、近い将来、そうでなければ到達不可能だった機械学習モデルへの飛躍が可能になるかもしれません」と、MIT電気工学・コンピュータサイエンス学科の准教授であり、この研究のリーダーであるダーク・イングランド氏は述べた。

「次世代の ChatGPT が 100 倍強力になった場合にどのような機能が搭載されるかはわかりませんが、それがこの種のテクノロジーで可能な発見体制です。」イングランド氏は、MIT の量子フォトニクス研究所のリーダーでもあり、RLE および材料研究所に所属しています。

現在の Nature Photonics 論文のその他の共著者は、Alexander Sludds、Ronald Davis、Ian Christen、Liane Bernstein、および Lamia Ateshian です。全員が RLE です。ベルリン工科大学のトビアス・ホイザー氏、ニールス・ヘルマイヤー氏、ジェームス・A・ロット氏、ステファン・ライツェンシュタイン氏。

チェン氏、ハメリリー氏、イングランド氏はこの研究に関する特許を申請しており、この研究は米国陸軍研究局と日本のNTTリサーチ、そしてドイツのフォルクスワーゲン財団の支援を受けている。