Поместится ли ваш следующий ИИ-сервер в существующую стойку с воздушным охлаждением?
Axelera проектирует Titania для инференса крупных моделей в сервере 4U с воздушным охлаждением. Результаты моделирования показывают, какие вопросы об энергопотреблении, памяти и расходах на внедрение стоит задать.
Прежде чем новый ИИ-сервер ответит на первый вопрос, для него может потребоваться новая электрическая линия, другая схема охлаждения и перенос программного обеспечения. Для команды, которая разворачивает инференс на своей площадке, эти требования могут быть не менее важны, чем цена ускорителя. Более быстрый чип приносит пользу, когда вся система способна поддерживать его работу.
12 ноября 2026 года нидерландская компания Axelera AI представила архитектуру Titania, третье поколение своей технологии ускорения ИИ. Предлагаемый эталонный сервер AX8 объединяет восемь корпусов ускорителей и 1 ТБ памяти ускорителей в системе высотой 4U с воздушным охлаждением. Axelera заявляет типичное энергопотребление системы 5–6 кВт и ориентируется на возможности питания и охлаждения существующих дата-центров. Это заявленные проектные параметры будущей платформы, а измерения на доступном покупателям сервере ещё предстоит получить. Анонс Axelera от 12 ноября
Главный вопрос состоит в том, позволит ли такая конструкция разворачивать инференс крупных моделей на уже существующих площадках. Для ответа надо оценить объём памяти, скорость ответа для каждого пользователя, объём работ по установке и ПО, которое предстоит сопровождать. Titania удобна для такого разбора ещё и потому, что на странице продукта приведены условия сравнения производительности.
С Titania Axelera переходит от периферийных устройств к более крупным системам инференса
Axelera уже выпускает ускорители Metis и Europa для периферийных и корпоративных задач. Titania продолжает это направление в более крупных системах инференса. Каждый корпус SiP (system-in-package) объединяет два чиплета. В разработке используются фирменная архитектура Digital In-Memory Computing, программируемые вычислительные блоки RISC-V и память LPDDR6. В анонсе представлены планы по картам PCIe и модулям OAM, а системные партнёры должны предложить варианты с воздушным и жидкостным охлаждением.
Для покупателя важно разделять выбор ускорителя и выбор готового сервера. Форм-фактор PCIe ещё ничего не говорит о наличии нужных слотов, достаточного питания, воздушного потока и поддержки ПО в имеющемся корпусе. Наличие эталонной конфигурации с воздушным охлаждением тоже не подтверждает пригодность любого помещения со стойкой. Сравнивать стоит поддерживаемые конфигурации, которые поставщик действительно сможет поставить и обслуживать.
Авторская схема. В бюджет внедрения входят инфраструктура и ПО, которые нужны, чтобы сервер стал обслуживаемой системой инференса. Размер AX8 и данные о мощности взяты из анонса Axelera от 12 ноября.
В материалах Axelera есть иллюстрация архитектуры чиплетов Titania от производителя. На ней изображены проектная схема и иерархия памяти самого устройства. На той же странице приведены конфигурации, необходимые для интерпретации графиков производительности.
Один терабайт прежде всего отвечает на вопрос о вместимости
Axelera заявляет 128 ГБ LPDDR6 на корпус Titania. Восемь корпусов в конструкции AX8 дают заявленный 1 ТБ памяти ускорителей. Компания также указывает суммарную пропускную способность памяти 19,6 ТБ/с и 20 Пфлопс в FP8. В перечень поддерживаемых форматов входят FP4, MXFP4, FP8, MXFP8 и BF16. При чтении этих цифр важно учитывать точность и то, как модель распределяется между корпусами. Анонсированные характеристики архитектуры и эталонного сервера
У крупной модели с архитектурой смеси экспертов общий объём параметров определяет, сколько данных весов нужно хранить. При обработке конкретного токена может участвовать только часть модели. Поэтому объём памяти может оставаться ограничением, даже если активный объём вычислений невелик. Axelera опирается на эту особенность, предлагая ёмкую LPDDR6 и эффективное перемещение данных. Компания ищет свой баланс между типом памяти, вычислениями и компоновкой ускорителя, в отличие от архитектур, построенных вокруг HBM.
Согласно анонсу, сервер AX8 рассчитан на размещение модели с 1,6 трлн параметров в FP4 с запасом для кеша ключей и значений. Это заявление производителя о вместимости при конкретной точности. Для приложения всё равно нужно проверить, помещаются ли в поддерживаемой конфигурации конкретное представление модели, требуемая длина контекста и ожидаемое число одновременных запросов. Рабочая память сервиса растёт сверх объёма весов по мере увеличения числа и длины диалогов.
Удержание модели в памяти снимает одно из препятствий. Для пользователя всё равно важны ожидание и качество ответа. Даже поместившуюся модель может понадобиться настроить под требования к времени ответа. Если небольшая модель уже отвечает достаточно точно, дополнительные ресурсы могут быть излишними. Выбирайте модель и допустимую точность для конкретной задачи, а затем оценивайте оборудование для её обслуживания.
Быстрый ответ пользователю и высокая общая пропускная способность требуют разных компромиссов
Представьте внутреннего помощника по документам, которым сотрудники пользуются на совещаниях. Ответ, поступивший вовремя для текущего обсуждения, даёт другой результат, чем сотни ответов, обработанных за ночь. Для такого помощника наряду с общим количеством обработанных токенов важны время до первого полезного текста и скорость дальнейшей генерации. Это иллюстративный сценарий, без испытания Titania.
Другая команда может обрабатывать очередь документов, пока никто не ждёт отдельного ответа. Более долгое ожидание допустимо, если пакетная обработка повышает число выполненных задач в час. Крупному общему сервису могут понадобиться оба режима в разное время суток. Сравнение при заданной скорости для одного пользователя поэтому может дать иную расстановку, чем оптимизация суммарной производительности.
Axelera позиционирует Titania как платформу для быстрого интерактивного инференса и признаёт на странице продукта, что стоечные системы на GPU могут лидировать при очень больших пакетах. На графиках указаны различные модели и конфигурации стоек. При выборе стоит спросить, какая конфигурация укладывается в требуемое время ответа при ожидаемом числе одновременных запросов и разумных затратах. Условия сравнения производительности Titania
| Вопрос о нагрузке | Какие данные запросить | Чего не объяснит один пиковый показатель |
|---|---|---|
| Подходит ли помощник по документам для живого обсуждения? | Время первого ответа и скорость генерации при ожидаемом числе одновременных запросов | Очереди и самые медленные ответы в часы пик |
| Успеет ли пакетный сервис обработать ночную очередь? | Число завершённых задач в час на типовых документах | Влияние длины входа и формирования пакетов на время обработки |
| Справится ли один сервер с видео и задачами на языке? | Сквозные результаты с декодированием, инференсом и логикой приложения | Нагрузка на хост, конкурирующие задачи и задержки или потери работы |
Прежде чем сравнивать коэффициенты, прочитайте условия моделирования
На странице Titania показатели производительности обозначены как внутренние результаты моделирования, выполненного с помощью промышленного компилятора Axelera. В одном сравнении сервер на восьми картах Titania смоделирован в августе 2026 года, а данные о конкуренте взяты из InferenceX за сентябрь 2026 года. Среди указанных условий есть FP4, вход на 8 000 токенов и выход на 1 000 токенов. Для других графиков применены октябрьские симуляции на уровне стойки и иные конфигурации.
Условия показывают, что именно сравнивают на графиках, и задают границы выводов для покупателя. Моделирование с учётом работы компилятора полезно для инженерной оценки. Независимые замеры на серийном оборудовании Titania будут отдельным подтверждением. Внедрения Metis и Europa помогают понять опыт Axelera, а оценку Titania по-прежнему предстоит подтвердить на поставляемых системах.
Заявления о производительности на ватт до семи раз выше и о преимуществах в совокупной стоимости владения до двадцати раз относятся к методике самого производителя. Эти коэффициенты не определяют цену покупки или счёт конкретного дата-центра. На странице продукта указано, что мощность сравнивают по TDP, а затраты рассчитывают по модели Axelera. TDP описывает проектную мощность, тогда как потребление работающего сервиса зависит от всей системы и нагрузки.
Авторская схема. При чтении сравнения учитывайте модель, точность, длину запросов и число одновременных обращений. Условия взяты со страницы Titania компании Axelera.
Прежде чем перенести коэффициент в таблицу закупки, запросите соответствующую конфигурацию. Сохраните версию модели, точность, проверку качества и распределение запросов. Уточните границы замера мощности. Это может быть ускоритель, весь сервер или площадка. Иначе сравнение может показать преимущество из-за разницы в учтённом оборудовании, хотя для пользователя сервис работает так же.
Воздушное охлаждение по-прежнему требует запаса мощности и отвода тепла
Воздушное охлаждение означает, что сервер передаёт тепло окружающему воздуху. Затем система охлаждения площадки должна вывести это тепло из помещения. Заявленные Axelera типичные 5–6 кВт для AX8 — значительная нагрузка для одного блока 4U. Чтобы определить, выдержит ли её стойка, инженерам площадки понадобятся коммерческая конфигурация, требования к монтажу и ожидаемая нагрузка.
Простой расчёт показывает масштаб. При непрерывном среднем потреблении 5–6 кВт в течение 24 часов сам сервер израсходовал бы 120–144 кВт·ч. Это расчёт при условии постоянной средней мощности. Реальные измерения Titania будут зависеть от нагрузки и поведения в простое. Охлаждение, потери при преобразовании питания и остальная инфраструктура добавят своё потребление.
Axelera привлекает возможностью использовать существующий дата-центр без перестройки под стойки высокой плотности с жидкостным охлаждением. Экономия зависит от текущих возможностей помещения. Площадка с запасом по питанию и отводу тепла потребует иных работ, чем та, где электрические линии и система охлаждения уже близки к пределу. При оценке монтажа учитывайте характеристики целого сервера в стойке.
Совместимость ПО может быть так же важна, как объём памяти
Axelera заявляет, что основа Voyager SDK и AxeleraScript общая для Metis, Europa и Titania. В анонсе описана планируемая поддержка тензорного, экспертного и конвейерного параллелизма, спекулятивного декодирования, выгрузки или раздельного размещения KV-кеша. Карта PCIe Titania также представлена как будущий вариант обновления сервера Axelera Server 250p на базе Europa. Эти планы важны командам, оценивающим программную экосистему компании.
Для пользователя Europa ближайший вопрос — сколько частей приложения перенесётся. Это касается поддерживаемых операций, преобразования модели, интеграционного кода, мониторинга и упаковки для развёртывания. Для команды с другой платформой переход на Voyager сам по себе потребует инженерной работы. Общий SDK может её сократить при переходе между продуктами одного производителя. Приложение всё равно нужно проверить на каждой целевой системе. Подтвердите переносимость на своей модели и на всех этапах её обработки.
Представьте видеосервис, который генерирует описания записанных событий. Заявленные встроенное декодирование 8K и кодирование 4K для H.265 и AV1 могут изменить распределение работы между ускорителем и хостом. В практический тест следует включить настройки поддерживаемых кодеков, подготовку кадров, языковую модель, хранилище и ответ приложения. Скорость языковой модели показывает лишь один этап полного процесса обработки видео.
Для закрытого помощника по документам сюда добавляются поиск и контроль доступа. Развёртывание на своей площадке меняет место работы модели. Авторизация документов, журналы, резервные копии и сервисные учётные данные по-прежнему требуют отдельного проектирования. Вместе с ценой оборудования нужен план сопровождения ПО с ответственными за обновление среды исполнения, проверку изменений модели и восстановление сервиса.
Полезная оценка начинается с шести решений
На нынешней стадии Titania подходит для поэтапной оценки. Начните с приложения и доступного базового решения, а затем собирайте данные по мере появления поддерживаемых систем. Демонстрация поставщика может подсказать следующий шаг, если зафиксированы её конфигурация и ограничения. Приёмочные испытания на целевой площадке всё равно нужно будет провести отдельно.
- Опишите задачу и требования к сервису. Выберите типовые запросы к документам, агенту или видео. Определите допустимое качество ответа, задержку и число одновременных запросов в часы пик, прежде чем выбирать самую большую модель.
- Зафиксируйте базовый результат. На имеющейся системе или облачном сервисе измерьте объём работы, задержку и операционные расходы. Сохраните версии моделей и запросов, чтобы последующие результаты можно было сопоставить.
- Запросите поддерживаемую конфигурацию. Уточните доступность нужных моделей, устройство памяти, параметры хоста, версии ПО и обязанности системного партнёра. Ведите отдельный учёт заявленных функций и показанных на этой конфигурации.
- Закажите проверку площадки. Передайте ответственной команде требования поставщика к питанию, воздушному потоку и установке. В оценку нужно включить соседнее оборудование и имеющийся запас охлаждения.
- Испытайте весь сервис после появления оборудования. Учтите распределение запросов по времени, поиск, кодеки и мониторинг. Измерьте потребление всего сервера за тот же период, что и объём выполненной работы и задержки.
- Оцените затраты на эксплуатацию. Включите время на интеграцию, поддержку, обслуживание и доступный запасной вариант. Сопоставьте стоимость владения с ожидаемой нагрузкой, включая периоды простоя.
Эти шаги могут обосновать и решение оставить текущее оборудование. Если более компактная модель уже справляется с задачей при небольших эксплуатационных затратах, можно сохранить бюджет и время команды. Если ограничение связано с памятью или монтажом, проект Titania помогает предметно обсудить эти параметры с поставщиком.
Сроки производства тоже входят в оценку оборудования
В ноябрьском анонсе Axelera называет целью начало производства в третьем квартале 2027 года и сообщает об обязательствах по развёртываниям у клиентов вплоть до начала 2028 года. На странице продукта указано более широкое окно — второе полугодие 2027 года — и показан путь обновления в 2028 году. Эти даты относятся к планам производителя. Старт производства, поставка поддерживаемого сервера и монтаж в конкретной стране — отдельные этапы.
При планировании в ноябре 2026 года местную цену, сроки поставки и условия обслуживания надо уточнять у системного партнёра. Обязательство купить будущее оборудование и готовая установка у заказчика находятся на разных этапах. Для проекта, которому инференс нужен сейчас, требуются доступное сегодня решение и реалистичный план его сопровождения. Titania можно включить в будущую оценку, оставив ближайший запуск независимым от неё.
Ценность представляет система инференса, которую команда может установить, обслуживать и оплачивать на собственной площадке. Titania связывает это предложение с объёмом памяти, скоростью ответов и уже имеющейся инфраструктурой. Следующая проверка состоится, когда проектные решения и моделирование воплотятся в поддерживаемых системах, испытанных на нужных заказчикам задачах.
Источники
- Axelera AI. Анонс архитектуры Titania, 12 ноября 2026 года
- Axelera AI. Характеристики Titania, планы и условия моделирования, проверено 18 ноября 2026 года.
- Проект DARE. Партнёр Axelera представил Titania, 12 ноября 2026 года
Сохраните описание нагрузки, вопросы поставщику и результаты испытаний вместе, чтобы начать следующее сравнение с тех же условий. Создайте первую заметку в Telli.sh.