何が起きたか

Cornell Techの博士研究員Yifan He氏は、実験室のベンチで、約1メートル離れたLEDから発せられる赤色光のビームに光受信機のレンズを向けた。受信機に接続されたモニターは、QRコードに似た正方形の配列を表示した。この受信機は、光のビームによって生成されたフォトカレントを使用して、自身のメモリを直接変更する。この光学コードは、AIモデルのパラメータを伝達できる可能性がある。

詳細

新しい受信機の設計は、先月ホノルルで開催されたIEEE/JSAP VLSI Technology & Circuitsシンポジウムで発表された。この技術は、AIシステムのメモリ需要の増大に伴う負担を軽減することを目的としている。研究者らは、データをプロセッサに光で照射することで、データセンター、自動運転車、さらにはAI搭載ロボットなどの「エッジ」アプリケーションで通常必要とされるエネルギーを削減できると述べている。 Cornell Techの電気・コンピュータ工学准教授Jae-sun Seo氏は、「人々はさまざまな種類のAIチップを設計している」と述べる。これらのプロセッサには、AIモデルを構成するすべてのパラメータを格納する余地がしばしばなく、追加データはDRAMに保存される。DRAMとプロセッサ間でデータを移動するために一般的に使用される電気接続は、システムがスケールアップする際にコストと効率の問題を引き起こす。Seo氏は「それが主要なボトルネックの1つだ」と指摘する。光リンクはデータを移動する。

Key Facts

Cornell Techの博士研究員Yifan He氏が、光受信機のレンズを約1メートル離れたLEDから発せられる赤色光のビームに位置決めした。[0]
受信機は、光のビームによって生成されたフォトカレントを使用して、自身のメモリを直接変更する。[0]
光学コードは、AIモデルのパラメータを伝達できる可能性がある。[0]
新しい受信機の設計は、先月ホノルルで開催されたIEEE/JSAP Symposium on VLSI Technology & Circuitsで発表された。[0]
この技術は、データセンター、自動運転車、AI搭載ロボットなどのエッジアプリケーションで必要なエネルギーを削減できると研究者らは述べている。[0]
Cornell Techの電気・コンピュータ工学准教授Jae-sun Seo氏は、「人々はさまざまな種類のAIチップを設計している」と述べた。[0]
AIモデルのパラメータはDRAMに保存され、DRAMとプロセッサ間の電気接続はスケールアップ時にコストと効率の問題を引き起こす。[0]
Seo氏は「それが主要なボトルネックの1つだ」と指摘した。[0]

なぜ重要か

この技術は、AIシステムのメモリ需要の増大に伴うエネルギー消費とコストの課題に対処する可能性がある。光を使ってデータを直接メモリに書き込むことで、従来の電気接続によるボトルネックを回避し、データセンターやエッジデバイスでの効率的なAI処理を実現する可能性がある。