AMDとCerebrasが1つの推論を分担。電力あたり最大5倍を見込む分離型構成

AMD Cerebras 分離型推論は、プロンプト処理(prefill)をAMD Helios、トークン生成(decode)をCerebras Wafer-Scale Engineが担当する構成で、2026年7月23日に発表されました。

📖 この記事で分かること

• AMDとCerebrasが共同で発表した推論基盤の中身
• prefillとdecodeを別ハードに分ける理由
• 電力あたり最大5倍という数値の前提条件
• 提供時期と、どの利用者に効くのか

💡 知っておきたい用語

• 分離型推論: 1回の推論処理を性質の違う2工程に切り分け、それぞれ得意な機械に担当させる方式。料理で仕込みと仕上げを別の担当に分けるようなもの
• レイテンシ: 入力してから最初の応答が返るまでの待ち時間

最終更新日: 2026年7月24日

▶ 公式ページ

• AMD and Cerebras Announce Industry-Leading Ultra-Low-Latency and High Throughput AI Inference Solution(AMD Investor Relations)

AMDとCerebrasが分離型AI推論ソリューションを発表

この記事のポイント

• AMDとCerebrasが2026年7月23日、AMD HeliosとCerebras Wafer-Scale Engineを組み合わせた分離型AI推論ソリューションを発表しました(2026年7月時点)。
• プロンプト処理をHelios、トークン生成をWSEが担当し、電力あたりのトークン毎秒で最大5倍を見込みます。
• まずCerebras Cloud経由で2026年後半に提供予定です。

AMDとCerebrasは2026年7月23日、両社のハードウェアを組み合わせた分離型(disaggregated)AI推論ソリューションを発表しました。AMDのイベント「Advancing AI 2026」(2026年7月23〜24日開催)での発表です。1つの推論ワークフローの中に性質の異なる2種類の計算エンジンを置き、工程ごとに担当を分けるという構成になっています。

prefillとdecodeを別々のハードに割り当てる

今回の構成の技術的な肝は、推論処理を2つの工程に分けて別のハードに振り分ける点にあります。

• AMD Helios 側: プロンプト処理と長いコンテキストウィンドウの処理(prefill)を担当。超高スループットを受け持ちます。AMD Instinct GPUを搭載するラックスケール製品です。
• Cerebras Wafer-Scale Engine 側: メモリ帯域を大きく消費するトークン生成(decode)を担当。超低レイテンシを受け持ちます。

この分け方には理由があります。prefillとdecodeは、ボトルネックになる資源が異なるためです。prefillは入力された文章をまとめて処理するため計算量が支配的になり、演算性能が効きます。一方decodeは1トークンずつ順番に生成する工程で、その都度モデルの重みを読み出す必要があるため、メモリ帯域が上限を決めます。性質の違う2工程を1種類のハードで賄うと、どちらかで能力を持て余すことになります。工程ごとに得意な機械を割り当てれば、その無駄を減らせるという設計思想です。

5倍という数値の前提

性能面では、トークン毎秒毎ワット(T/s/W)で最大5倍とされています。この数値を読むときは、前提を2つ押さえる必要があります。

第一に、比較対象はCerebras WSE単体構成です。他社製品や一般的なGPU構成との比較ではありません。第二に、これはAMD Performance LabsとCerebrasによるモデリング(試算)に基づく見込み値であり(2026年7月時点)、実機の測定値として公表されたものではありません。性能比較にはKimi 2.6 1Tモデルが使われています。

提供時期は、まずCerebras Cloud経由で2026年後半の予定です(2026年7月時点)。Cerebrasが自社データセンターにAMD Heliosを先行導入する形を取ります。

AMD CEOのリサ・スー氏は「Cerebrasとともに、最もレイテンシに敏感な用途へとそのリーダーシップを広げる」と述べ、Cerebras CEOのアンドリュー・フェルドマン氏は「AMDとの提携は、その性能をより多くの顧客に届ける絶好の機会」とコメントしています。

編集部の見方

編集部は、今回の発表で注目すべきは5倍という数字そのものより、推論の工程分割がハード調達の単位にまで降りてきたことだと見ています。

• 根拠1: prefillとdecodeで律速要因が違うことは以前から知られていましたが、今回は工程ごとに別ベンダーのハードを組み合わせる構成として製品化されました。推論基盤を「1種類のアクセラレータをどれだけ並べるか」で考える前提が動くことになります。
• 根拠2: 効果指標がT/s/Wという電力あたりの効率で示されています。データセンターの制約が電力側にあることを踏まえた指標選択で、規模を追う事業者ほど判断材料になります。
• 根拠3: 提供がCerebras Cloud経由から始まるため、当面は自社でラックを組む話ではなく、クラウド越しに試せる形になります。評価のハードルは低めです。

この見方が変わる条件: 5倍が試算値である以上、実機ベンチマークが出た段階で評価は変わり得ます。とくにWSE単体比という比較軸が、一般的なGPU構成と比べてどの位置にあるのかが公表されるかどうかが分かれ目です。あわせて、2つのハードをまたぐ構成では工程間のデータ受け渡しが新たな待ち時間を生むため、その実測値も確認したい点です。

よくある質問

Q: 分離型推論は今回が初めての考え方ですか?

A: prefillとdecodeを分けて処理する考え方自体は以前から知られています。今回発表されたのは、その工程分割を異なるベンダーのハードウェアを組み合わせる製品構成として実現した点です。

Q: 最大5倍というのは実測値ですか?

A: 実測値ではありません。AMD Performance LabsとCerebrasによるモデリング(試算)に基づく見込み値で、比較対象はCerebras WSE単体構成です(2026年7月時点)。

Q: いつから使えますか?

A: まずCerebras Cloud経由で2026年後半に提供予定とされています(2026年7月時点)。Cerebrasが自社データセンターにAMD Heliosを先行導入する形です。

まとめ

AMDとCerebrasは2026年7月23日、AMD HeliosとCerebras Wafer-Scale Engineを組み合わせた分離型AI推論ソリューションを発表しました。プロンプト処理をHelios、トークン生成をWSEが担当し、それぞれ演算性能とメモリ帯域という異なるボトルネックに対応させる構成です。電力あたりのトークン毎秒で最大5倍とされていますが、これはWSE単体構成との比較かつ試算値です。提供はCerebras Cloud経由で2026年後半を予定しており、実機ベンチマークの公表が次の判断材料になります。

【用語解説】

• prefill: 推論の最初の工程。入力されたプロンプト全体をまとめて処理する段階で、計算量が処理速度を左右します。
• decode: 推論の後半工程。応答を1トークンずつ順に生成する段階で、モデルの重みを繰り返し読み出すためメモリ帯域が処理速度を左右します。
• T/s/W: トークン毎秒毎ワット。消費電力1ワットあたり毎秒何トークン生成できるかを示す効率指標で、電力が制約になるデータセンターで重視されます。

引用元:

• [1] AMD and Cerebras Announce Industry-Leading Ultra-Low-Latency and High Throughput AI Inference Solution(AMD Investor Relations)
• [2] AMD and Cerebras Announce Industry-Leading Ultra-Low-Latency and High Throughput AI Inference Solution(GlobeNewswire 配信)
• [3] AMD and Cerebras partner on low-latency, high-throughput AI inference(Tom’s Hardware)

この記事について: AI 支援で執筆、編集部が事実確認・編集しています。誤りや追加情報があれば Contact よりお知らせください。