ТЕХНИЧЕСКОЕ ОПИСАНИЕ

Keysight AI Fabric RoCEv2 Test Solution

Валидация производительности фабрик центров обработки данных для нагрузок обучения ИИ

Введение

Обучение крупных моделей искусственного интеллекта требует тысяч вычислительных узлов с AI-ускорителями, работающих параллельно и использующих коллективные коммуникационные операции для обмена данными и результатами. Во многих случаях время и стоимость выполнения задачи обучения определяются производительностью сети, обеспечивающей эти коллективные коммуникации. Keysight AI Fabric Test Solution воспроизводит такие шаблоны коллективных коммуникаций, позволяя инженерам оптимизировать производительность сети под нагрузками обучения ИИ.

Чтобы обеспечить максимально эффективную по времени и стоимости платформу для коллективных коммуникаций, базовая сеть должна обеспечивать высокую пропускную способность, низкую задержку и передачу трафика без потерь. Особое внимание необходимо уделять ECMP-хешированию, взаимной блокировке PFC и сквозной задержке коммуникаций. Для валидации и бенчмаркинга производительности AI-сетевой фабрики необходимо задействовать RoCE Congestion Control и Priority Flow Control (PFC) для оптимизации управления буферами.

Keysight AI Fabric Test Solution включает высокоплотную экономичную аппаратную платформу (AresONE-M 800GE или AresONE-S 400GE) и тестовое приложение IxNetwork. IxNetwork моделирует нагрузку обучения ИИ в целевой топологии тестера. Система создаёт трафик, возникающий в результате коллективных коммуникаций эмулируемых конечных точек. Это включает эмуляцию соединений и потоков Queue-Pair (QP), генерацию уведомлений о перегрузке, динамическое управление скоростью на основе DCQCN и гибкие возможности тестирования пропускной способности, управления буферами и ECMP-хеширования. Такая комбинация позволяет инженерам оптимизировать производительность фабрики под нагрузкой целевого AI-сценария и соответствующих шаблонов коллективных коммуникаций.

Рисунок 1. Keysight AI Fabric Test Solution

Основные преимущества

Ключевые функции

Высокоплотная экономичная тестовая платформа

Keysight поддерживает AI Fabric RoCEv2 Test Solution на аппаратных платформах 800GE и 400GE. Решение устанавливает дополнительный выбираемый режим аппаратуры, активирующий механизм потоков RoCEv2. Этот механизм не только генерирует трафик от созданных Q-Pair, но и обнаруживает ECN-CE, формирует уведомления CNP о перегрузке и выполняет управление скоростью DCQCN. Обе платформы могут одновременно поддерживать обычное тестирование control plane и data plane L2/3 и тестирование RoCEv2 в разных группах ресурсов, повышая эффективность использования и снижая совокупную стоимость владения.

AresONE-M 800GE в 8-портовой конфигурации является высокоплотной платформой 800GE и поддерживает интерфейсы QSFP-DD800 и OSFP800. Keysight AI Fabric RoCEv2 Test Solution поддерживается в режимах 800/400/200/100GE (электрические линии PAM4 106G и 53G), а также в режиме 100GE NRZ (электрические линии 25G).

Рисунок 2. Keysight AI Fabric Test Solution - AresONE-M QSFP-DD800 и OSFP800

AresONE-S 400GE QSFP-DD в 16-портовом фиксированном шасси поддерживает AI Fabric RoCEv2 Test Solution в режимах 400/200/100GE (электрические линии PAM4 106G и 53G), а также в режиме 100GE NRZ (электрические линии 25G).

Рисунок 3. Keysight AI Fabric Test Solution - AresONE-S 400GE QSFP-DD

Эмуляция RDMA Endpoint

Keysight AI Fabric RoCEv2 Test Solution воспроизводит трафик, возникающий в результате коллективных коммуникаций во время задач обучения ИИ. Решение эмулирует RDMA-конечные точки, устанавливающие соединения Q-Pair, выполняет операции RDMA WRITE в режиме Reliable Connection (RC) с фиксированной или непрерывной передачей и предоставляет статистику RoCEv2 по тесту, порту и каждому Q-Pair.

Рисунок 4. Эмуляция конечных точек Keysight AI Fabric RoCEv2 Test Solution - 4 порта all-to-all

Конфигурация Q-Pair автоматически генерирует номер Q-Pair либо позволяет задать его пользователю. Код DSCP может сопоставляться на уровне каждого QP; также настраивается размер сообщения.

Рисунок 5. Конфигурация Q-Pair Keysight AI Fabric RoCEv2 Test Solution

Генерация потоков Q-Pair одним щелчком предоставляет подробную информацию о потоках QP. Пользователь может управлять скоростью трафика либо как процентом от линейной скорости, либо с помощью периода между пакетами.

Подробная информация о потоках Q-Pair

Статистика RoCEv2 по каждому QP показывает количество успешных и неуспешных операций RDMA WRITE, количество пакетов и задержку, а также счётчики ECN/CNP/ACK/NAK для проверки работы управления перегрузкой и диагностики сбоев.

Рисунок 6. Статистика Keysight AI Fabric RoCEv2 Test Solution

Технические характеристики

Информация для заказа