次のAIサーバーは、今ある空冷ラックに収まるか
AxeleraのTitaniaは、空冷4Uサーバーでの大規模モデル推論を目指します。シミュレーションの数値を、電力、メモリ、導入費用の観点から読み解きます。
次のAIサーバーは、最初の質問に答える前に、電源回路の増設や冷却設備の見直し、ソフトウェアの移行を必要とするかもしれません。推論を自社施設に持ち込むチームにとって、こうした条件はアクセラレーターの価格と同じくらい重要です。高性能なチップが実際の処理能力になるには、継続して稼働できる環境が欠かせません。
オランダのアクセラレーター企業Axelera AIは2026年11月12日、第3世代のAIアクセラレーション技術「Titania」のアーキテクチャーを発表しました。リファレンスサーバー案のAX8は、8基のアクセラレーターパッケージと1 TBのアクセラレーターメモリを空冷4U筐体に収めます。Axeleraはシステムの標準的な消費電力として5~6 kWを示し、既存データセンターの電力・冷却環境での運用を想定しています。いずれも将来のプラットフォームについて公表された設計値です。現時点で購入できるサーバーの実測値は示されていません。Axeleraの11月12日付発表
この設計で、今ある施設でも大規模モデルの推論を無理なく運用できるのでしょうか。判断するには、メモリ容量、利用者に届く応答、設置作業、運用し続けるソフトウェアを見る必要があります。Titaniaの製品ページは性能比較の条件も明記しており、その判断を具体的に考える事例になります。
TitaniaでAxeleraはエッジから大規模推論へ
Axeleraはすでにエッジや企業向けにMetisとEuropaというアクセラレーターを展開しています。Titaniaはその製品路線をより大規模な推論へ広げ、1つのSiP(システム・イン・パッケージ)に2つのチップレットを搭載します。独自のデジタル・インメモリ・コンピューティング、プログラマブルなRISC-V演算機構、LPDDR6メモリを採用します。発表ではPCIeカードとOAMアクセラレーターモジュールを挙げ、システムパートナーを通じて空冷・液冷の両構成を計画しています。
調達時には、アクセラレーターパッケージと完成サーバーを別の製品として検討します。PCIeカードでも、既存筐体に必要なスロット、電源供給、通風、ソフトウェア対応がそろうかは別途確認が必要です。空冷のリファレンス設計も、それだけで各設備への適合を保証するわけではありません。比較すべきは、供給元が実際に納品し、保守できる対応構成です。
独自の解説図。導入予算には、サーバーを運用・保守できる推論サービスにするための設備やソフトウェアも含まれます。AX8のサイズと電力の出典はAxeleraの11月12日付発表です。
Axeleraの製品資料にはTitaniaのチップレット構成を示したメーカーの図があります。示しているのは設計意図とメモリ階層です。同じページには性能グラフを読み解くための構成条件も記載されています。
1 TBで最初に見えるのは速度より容量
Axeleraによると、Titaniaの各パッケージは128 GBのLPDDR6を搭載します。8基を使うAX8の公称アクセラレーターメモリは1 TBで、合計メモリ帯域幅は19.6 TB/s、FP8演算性能は20 PFLOPSとされています。対応精度としてFP4、MXFP4、FP8、MXFP8、BF16を挙げています。数値を解釈するには、演算精度とモデルを各パッケージにどう配置するかが重要です。公表されたアーキテクチャーとリファレンスサーバー仕様
大規模な混合エキスパートモデルでは、格納する重みのデータ量は総パラメーター数で決まり、各トークンで動くのは一部に限られる場合があります。そのため、必要な演算を処理できてもメモリ容量に制約を受けることがあります。Axeleraが大容量のLPDDR6と効率的なデータ転送を重視する背景はここにあります。HBMを中心に設計したアクセラレーターとは、メモリ、演算、実装の配分が異なります。
発表では、AX8一台ならFP4で1.6兆パラメーターのモデルを保持し、キー・バリューキャッシュの領域も確保するよう設計していると説明しています。メーカーによる特定精度での容量の説明です。導入する側は、実際のモデル表現、コンテキスト長、同時リクエスト数が対応構成に収まるかを確かめる必要があります。会話が増えたり長くなったりすれば、保存した重み以外に必要なメモリも増えます。
モデルをメモリに常駐させると運用上の制約が一つ減りますが、利用者が体験するのは待ち時間と回答品質です。メモリに収まっても応答時間の目標に合わせて調整が必要な場合があります。一方、より小さいモデルですでに十分な正答率を得られるなら、追加容量が不要な場合もあります。業務に合うモデルと許容できる精度を決めてから、それを提供できるハードウェアを評価します。
対話の速さと総スループットでは評価が変わる
従業員が会議中に使う社内文書アシスタントを考えてみます。議論を止めずに使える速さで答えが届くことと、夜間に数百件の回答をまとめて仕上げることでは価値が異なります。文書アシスタントでは総トークン処理数に加え、役立つ最初の文章が届くまでの時間と、その後の生成速度が大切です。これは用途を説明する例で、Titaniaの試験結果ではありません。
別のチームは、一つ一つの応答を待つ利用者がいない状態で、たまった文書を処理するかもしれません。まとめて処理することで1時間あたりの仕事量が増えるなら、待ち時間が長くても許容できます。大規模な共用サービスでは、時間帯によって両方が必要になることもあります。利用者一人あたりの速度をそろえる比較と、総スループットを最大にする比較では順位が変わり得ます。
Axeleraは応答性の高い推論をTitaniaの狙いに掲げつつ、非常に大きいバッチではラック規模のGPUが優位になり得ることも製品ページで認めています。グラフはモデルやラックの異なる構成を取り上げています。調達で問うべきは、想定する同時利用と費用で、サービスの遅延要件を満たせる構成がどれかです。Titaniaの性能比較条件
| ワークロードの確認事項 | 求める証拠 | 単一のピーク値で残る疑問 |
|---|---|---|
| 従業員は文書アシスタントをその場で使えるか | 想定同時利用数での初回応答時間と生成速度 | 混雑時の待ち行列や遅い応答 |
| 夜間のバッチ処理で滞留を解消できるか | 代表的な文書での1時間あたり完了件数 | 入力長とバッチが完了時間に及ぼす影響 |
| 一台で映像処理と言語処理を併用できるか | デコード、推論、アプリ処理を含む全体結果 | ホスト負荷、処理の競合、欠落や遅延 |
性能比を見る前にシミュレーションの条件を読む
Titaniaの製品ページは性能値について、Axeleraの本番用コンパイラーを通した社内シミュレーションだと明記しています。あるサーバー比較は、2026年8月にシミュレーションしたTitaniaの8カード構成と、2026年9月付のInferenceXの競合データを使っています。記載条件にはFP4、8,000トークンの入力、1,000トークンの出力が含まれます。ほかには10月のラック単位のシミュレーションを、それぞれの構成で扱うグラフもあります。
この条件はグラフが意図する比較を説明すると同時に、調達側が引き出せる結論の範囲も定めます。コンパイラーを組み込んだシミュレーションは設計判断の参考になります。製品版Titaniaのハードウェアを用いた独立検証は別途必要です。MetisやEuropaの導入は技術の背景を理解する助けになりますが、Titaniaの予測値を出荷済みサーバーの実測値に変えるものではありません。
電力あたりのスループットが最大7倍、総所有コストの比較で最大20倍という発表上の主張は、同社の比較条件に基づきます。いずれも個別施設の見積価格や請求額の予測とは区別して読むべきです。製品ページは電力をTDP同士で比較し、費用はAxeleraの総所有コストモデルで算出したと説明します。TDPは設計上の電力指標です。稼働するサービスの実際の電力使用量はシステム全体とワークロードで変わります。
独自の解説図。性能比較はモデル、精度、リクエスト長、同時処理数を併せて読みます。条件の出典はAxeleraのTitania製品ページです。
調達の比較表に倍率を入れる前に、その構成を確認します。モデルのバージョン、精度、品質検証、リクエストの分布も結果と一緒に記録します。電力をアクセラレーター単体、サーバー全体、施設のいずれで測ったかも質問します。測定範囲の小ささが結果を有利に見せる場合があるからです。
空冷でも電力と熱の余裕が必要
「空冷」はサーバーが周囲の空気へ熱を逃がす方式を指します。その熱を室外に出すには、施設側にも適切な冷却が必要です。AX8で想定される標準的な5~6 kWは、4Uサーバー一台として負荷の大きい値です。設備担当者は、見積対象の構成、設置要件、予定する負荷をもとにラックに収容できるかを判断します。
試算で規模をイメージできます。平均5~6 kWで24時間動くと仮定すれば、一日のサーバー単体の使用電力量は120~144 kWhです。一定の平均電力を仮定した計算で、Titaniaの実測ではありません。実負荷やアイドル時の挙動によって変わり、冷却や電力変換の損失、施設のその他の機器による消費も加わります。
Axeleraの設計は、高密度の液冷ラックを前提に設備を再構築せず、既存データセンターを活用できる可能性を示します。どれだけ節約できるかは施設に何を収容できるかで決まります。電力と放熱に余裕のある拠点と、回路や空調が限界に近い拠点では必要な工事が異なります。4U筐体やPCIeカードでも、導入にはデスクトップPCの部品交換より多くの確認が必要です。
ソフトウェアの継続性もハードウェア容量と同じくらい重要
AxeleraはVoyager SDKとAxeleraScriptの基盤をMetis、Europa、Titaniaにまたがって提供すると説明しています。発表は、テンソル並列、エキスパート並列、パイプライン並列、投機的デコード、KVキャッシュのオフロードまたは分離への対応計画を挙げています。TitaniaのPCIeカードは、EuropaベースのAxelera Server 250pを将来更新する選択肢とされています。同社製品を導入済みのチームに関係する計画です。
既存のEuropa利用者は、サポートする演算、モデル変換、接続コード、監視、配布パッケージをどこまで引き継げるかが当面の問題です。別の環境からなら、Voyagerへの切り替え自体が開発作業になります。共通のSDKは同一メーカー内の移行を省力化できても、アプリは新しい構成ごとの検証が必要です。実モデルと処理工程を使って移行可能性を確認します。
録画された出来事を説明文にする映像サービスを考えてみます。Titaniaが発表したチップ上でのH.265・AV1の8Kデコードと4Kエンコードは、アクセラレーターとホスト間の役割分担を変える可能性があります。試す際は対応するコーデック設定、フレーム準備、言語モデル、ストレージ、アプリの応答も含めます。言語モデルが速くても、映像負荷をサービス全体が処理できるかは別途検証が必要です。
非公開の文書アシスタントなら、検索とアクセス制御も設計の一部です。推論をオンプレミスに移すとモデルの稼働場所が変わります。文書へのアクセス権、ログ、バックアップ、サービスの認証情報は別々の設計が必要です。機器の見積もりに加え、ランタイムを更新し、モデル変更を確認し、障害時に復旧する担当を明確にします。
評価に先立って決める六つのこと
現段階のTitaniaは、購入を前提とするより段階的に評価するのが適しています。まず対象アプリと現在利用できる比較基準を定め、対応システムが使えるようになるに従って証拠を集めます。メーカーの実演も、構成や制約を記録すれば次の判断に使えます。最後には導入予定の施設で受入試験を行います。
- 業務とサービス目標を定める。 代表的な文書、エージェント、映像のリクエストを選びます。最大のモデルを選ぶ前に、許容できる回答品質、応答時間、混雑時の同時利用数を決めます。
- 現状の基準を記録する。 現在のシステムやホスティングで処理量、遅延、運用費を把握します。後で比較できるようモデルとリクエストのバージョンを保存します。
- 対応構成を問い合わせる。 対応予定モデル、メモリの配置、ホスト仕様、ソフトウェアのバージョン、システムパートナーの責任範囲を確認します。その構成で実演した機能と発表段階の機能を区別します。
- 施設の適合を確認してもらう。 供給元の電源、通風、設置条件を担当チームに渡します。周囲の機器と利用可能な冷却能力も確認対象に含めます。
- ハードウェア提供後にサービス全体を試験する。 リクエストの到着パターン、検索、コーデック、監視を含めます。同じ期間に、サーバー全体の電力、完了件数、応答時間統計を測ります。
- 運用を続ける費用を見積もる。 組み込みに要する時間、サポート、保守、実行可能な代替策を含めます。閑散時間も含む想定負荷で総所有コストを比較します。
既存設備を使い続ける判断にも有効です。小さいモデルが少ない運用負担で目標を満たすなら、移行を見送ることで費用と担当者の時間を節約できます。メモリ容量や設置作業が制約なら、Titaniaの設計は供給元に次に何を問いかけるかを具体化します。
生産時期もハードウェアの仕様の一部
11月の発表は2027年第3四半期の生産を目標とし、2028年初めまでの顧客導入に向けたコミットメントに言及しています。製品ページは生産時期をより広い「2027年後半」とし、2028年のアップグレード経路を示しています。いずれも今後の計画です。製造開始、保守対応付きサーバーの納品、特定の国での設置は別々の節目です。
2026年11月時点で導入を計画するには、地域ごとの価格、納期、サポート範囲をシステムパートナーに確認する必要があります。将来の購入に合意していることと、顧客施設で実際に動作していることでは評価に使える証拠が異なります。推論を今すぐ必要とする組織には、現時点で利用できる解決策と保守できる運用計画が必要です。Titaniaは差し迫った立ち上げの前提にせず、将来の評価候補に加えられます。
望ましいのは、自社施設に無理なく設置し、費用を賄いながら保守できる推論処理能力です。Titaniaはメモリ、対話の応答性、既存の施設設備を結び付けてその可能性を示します。次に問われるのは、こうした設計とシミュレーションを、顧客の業務で実測できる保守対応システムにできるかです。
出典
- Axelera AI:Titaniaアーキテクチャー発表、2026年11月12日
- Axelera AI:Titaniaの製品仕様、ロードマップ、シミュレーション条件(2026年11月18日参照)
- DAREプロジェクト:パートナーのAxeleraがTitaniaを発表、2026年11月12日
想定ワークロード、供給元への質問、今後の試験結果をまとめて保存すれば、次も同じ前提で比較できます。Telli.shで最初のノートを作る。