Cerebras、30倍高速なAI推論システムCS-4を発表

Cerebasはラック規模のAI推論システム「CS-4」を発表した。3つのWSE-3 Turboウェーハを搭載し、GPU比で最大30倍高速な推論、前世代比で10倍のスループット/ワット効率を実現する。当四半期から出荷開始予定。

Cerebasが発表したCS-4は、ラック規模のAI推論システムである。3つのWSE-3 Turboウェーハを搭載し、GPU系システムに比べて最大30倍高速な推論を提供する。また各ウェーハは前世代比で最大2倍の速度を実現している。

性能と技術仕様

CS-4はCS-3比で最大10倍のスループット/ワット効率を達成する。ウェーハ間の相互接続遅延を2マイクロ秒に削減することで、10兆パラメータを超えるモデルに対して秒間1,000トークン以上のトークン生成性能を実現する。さらに製品化されたGPUシステムと比較して、最大30倍高速なトークン生成を提供するとされている。

アーキテクチャと設計革新

CS-4はモジュール設計のNexus Rack-Scale Platformアーキテクチャを採用している。電力供給がプロセッサから0.5ミリメートルの距離に配置され、従来型GPUボード上の50ミリメートルと比べて100倍近接している。また各Wafer-Scale Backpackは前世代設計比で50%少ないコンポーネントで実現され、コンパクトな3Dパッケージにまとめられている。Cerebasパワーラックはコンピュート機器の到着前に設置可能な設計となっている。

出荷予定

CS-4の初出荷は当四半期より開始される予定である。

この記事は元記事の事実のみに基づいて自動生成されました。

出典

Cerebras「Product - System - Cerebras」https://www.cerebras.ai/cs4