ТЕХНИЧЕСКОЕ ОПИСАНИЕ

VIAVI TestCenter — решение для тестирования ЦОД для ИИ

Обзор применения

В современном быстро меняющемся технологическом ландшафте корпоративные сети и сети центров обработки данных значительно развились. Широкое внедрение ИИ/ML, периферийных вычислений и систем высокопроизводительных вычислений (HPC) требует от современных ЦОД сети с исключительно высокой производительностью и минимальной задержкой. Такая сеть должна также без затруднений адаптироваться к огромному росту потребности в передаче больших объёмов данных с крайне низкой задержкой и без потерь, обусловленному приложениями с интенсивной обработкой данных и вычислений.

Технология Remote Direct Memory Access (RDMA) обеспечивает эффективный и быстрый перенос данных между GPU внутри кластеров ИИ, одновременно повышая производительность сети и хостов за счёт меньшей задержки, снижения нагрузки на CPU и более высокой пропускной способности.

RDMA over Converged Ethernet version 2 (RoCEv2) расширяет область применения RDMA на сети L2 и L3 с несколькими подсетями. Это позволяет эффективно строить эластичные и масштабируемые кластеры.

RoCEv2 применяется в центрах обработки данных уже более десяти лет. Однако в крупных средах неправильные или неоптимизированные сетевые настройки могут приводить к низкой производительности приложений. Поэтому критически важно проверять производительность коммутационной фабрики, оптимизировать конфигурации и обеспечивать стабильность и отказоустойчивость сети в условиях перегрузки.

Ключевые механизмы управления перегрузкой, реализуемые коммутаторами и NIC, включают Data Center Quantized Congestion Notification (DCQCN) и Priority Flow Control (PFC). Самодельные тестовые решения на реальных серверах и решения с открытым исходным кодом могут быть полезны, однако зачастую не обеспечивают требуемые масштаб и эффективность.

Ultra Ethernet Transport (UET)*, основанный на спецификации UEC 1.0, устраняет ключевые ограничения RoCEv2 в фабриках ИИ: повышает масштабируемость, упрощает эксплуатацию сети, обеспечивает эффективное адаптивное управление перегрузкой и оптимизирует распределение трафика в крупных кластерах. Снижение зависимости от строго управляемого lossless-поведения и более эффективная многопутевая доставка помогают уменьшить перегрузку, повысить использование каналов и добиться более стабильной производительности, требуемой современными нагрузками ИИ.

VIAVI предлагает комплексное решение для валидации ЦОД для ИИ с аппаратными вариантами, поддерживающими скорости от 100G до 1.6T. Решение точно эмулирует шаблоны трафика Collective Communication Library (CCL), используя RoCEv2 или UET как транспорт поверх Ethernet, и измеряет KPI Ethernet-фабрики ИИ. Оно позволяет эффективно проверять способность Ethernet-инфраструктуры ЦОД обслуживать крупные нагрузки ИИ без сложностей развёртывания и управления серверными фермами на базе GPU в качестве тестовой среды.

* CCL не поддерживается на fX3 и mX3; UET не поддерживается на fX3, mX3 и A1.

Обзор возможностей и преимуществ

Collective Communication Library (CCL)

Из-за большого объёма обмена данными между GPU в ЦОД для ИИ обработка не может выполняться одним GPU и должна распределяться между несколькими GPU. CCL, построенная на open MPI, обеспечивает высокопроизводительные вычисления и параллельную обработку в ЦОД для ИИ. Библиотека CCL VIAVI поддерживает широкий набор различных шаблонов трафика CCL, включая AlltoAll по аналогии с NCCL. С помощью мастеров настройки шаблоны трафика ИИ создаются быстро и просто. При возникновении перегрузки сети решение VIAVI поддерживает управление потоками DCQCN и PFC, воспроизводя поведение реальных сетей ИИ. Значение Job Completion Time (JCT), формируемое по завершении теста, помогает оценить производительность сетевой фабрики ЦОД для ИИ.

Шаблоны CCL AlltoAll и RingAllReduce

Решение VIAVI для тестирования ИИ предоставляет высокоплотную многоскоростную тестовую среду, доступную, экономичную и простую в развёртывании. Открытая и прозрачная архитектура обеспечивает согласованные и повторяемые результаты. Через CCL решение генерирует реалистичные шаблоны трафика ИИ на линейной скорости с поддержкой управления перегрузкой. Для оценки фабрики ИИ можно измерять ключевые сетевые KPI: JCT, throughput, tail latency, packet latency, packet loss, число переупорядоченных пакетов и число поздних пакетов. Эти KPI позволяют оценивать отказоустойчивость фабрики ИИ в условиях перегрузки и при сценариях link flap.

Решение позволяет характеризовать производительность фабрики ИИ и оптимизировать соответствующие сетевые настройки, включая размер буферов, ECN, алгоритм балансировки нагрузки и параметры QoS.

Automatic Benchmark Tool

Современным сетям ЦОД для ИИ необходима гибкость для поддержки различных больших языковых моделей на всех этапах работы — от обучения до инференса. Automatic Benchmark Tool VIAVI предоставляет надёжную среду эмуляции трафика, одновременно применяющую разнородные модели трафика на нескольких портах.

Каждый порт может одновременно генерировать трафик CCL и эмулировать фоновый трафик, формируя реалистичные сложные тестовые сценарии. Настраивая ключевые параметры, такие как размер данных, UDP source port, source IP и размер кадра, пользователь может глубже анализировать поведение сетевой фабрики и оптимизировать общую эффективность.

Решение предоставляет единую автоматизированную тестовую среду, которая выполняет предварительно заданные последовательности тестов в нескольких сценариях и формирует как сводные результаты высокого уровня, так и подробный анализ производительности.

Эти возможности позволяют воспроизводить реальные сетевые условия, одновременно упрощая сложные рабочие процессы и повышая точность, эффективность и уверенность в результатах валидации сети.

CCL Automatic Benchmark Test

Комплексное стресс-тестирование планирования трафика ИИ

Алгоритмы планирования критически важны для максимального использования пропускной способности сети. Традиционные алгоритмы ECMP hash зачастую недостаточно эффективны для нагрузок ИИ, в которых преобладают elephant flows, поэтому требуются более совершенные стратегии планирования, учитывающие дополнительные влияющие факторы.

VIAVI предоставляет гибкую высокопроизводительную среду для тестирования и валидации таких алгоритмов и поддерживает широкий набор настроек для эмуляции сложного поведения трафика:

Эти возможности обеспечивают глубокую оценку производительности планирования, помогают выявлять узкие места и проверять стратегии оптимизации сетей ЦОД для ИИ.

Многоплатформенность и поддержка разных скоростей

Решение VIAVI для тестирования ИИ работает на существующих высокоплотных многоскоростных Ethernet-платформах.

Система D2 — 4-портовая многоскоростная OSFP-платформа 1.6T, предназначенная для передовой валидации AI/ML. См. также D2 1.6T.

Системы B3 доступны в 4- и 8-портовых исполнениях QSFP-DD и OSFP 800G и обеспечивают высокую плотность портов для QSFP-DD и OSFP. См. также B3 800G.

Система A1 400G — 16-портовая платформа с высокой плотностью портов 400GE.

Эти платформы поддерживают эмуляцию нагрузок ИИ и являются многоцелевыми: на них можно одновременно тестировать сценарии ИИ и маршрутизации/коммутации.

FX3-QSFP28-6 предоставляет 3 × 100G или fan-out до 12 × 25G. Кроме того, MX3-QSFP28-4 и FX3-QSFP28-4 предоставляют по 2 × 100G или fan-out до 8 × 25G, что делает их подходящими для тестирования RoCEv2.

Поддерживается многопользовательская работа с резервированием отдельных портов. Порты одной тестовой системы или модуля можно использовать в одной или нескольких параллельных тестовых сессиях. Кроме того, эти системы и модули можно использовать для обычных тестов L2–L3 на уровне отдельных портов вне профиля RoCEv2 на скоростях 1.6T и 800/400/200/100/50/40/25/10G, повышая отдачу от инвестиций.

Интеграция с VIAVI TestCenter

Решение является интегрированным компонентом VIAVI TestCenter и работает совместно с другими компонентами TestCenter, обеспечивая единообразные TCL- и REST API для написания сценариев и NoCode-автоматизацию через Command Sequencer.

Высокоскоростные Ethernet-системы и модули TestCenter

Возможности

Преимущества

Технические характеристики: VIAVI (Spirent) TestCenter AI Data Center Ethernet Test Solution — решение для тестирования

Информация для заказа

Примечания

* Поддержка UET Transport и Link Layer будет доступна в виде будущей программной лицензии.

Примечание. Требуется соответствующая аппаратная лицензия скорости. Некоторые функции RoCEv2 и CCL будут доступны в будущих версиях программного обеспечения на отдельных платформах. Для получения информации о заказе системы D2 1.6T и программного обеспечения необходимо обратиться в VIAVI.