Слияние кода завершено, страница обновится автоматически
DAIBench
DAIBench (DiDi AI Benchmarks) предназначен для предоставления набора оценочных наборов ИИ для производственных сред, охватывающих различные типы серверов GPU и облачные среды, чтобы предоставить пользователям эффективные и достоверные результаты тестирования для будущего выбора оборудования, оптимизации программного обеспечения и библиотек, улучшения бизнес-модели, стресс-тестирования ссылок и других этапов для создания прочной основы данных и технической справки.
DAIBench всесторонне рассматривает существующие инструменты тестирования производительности GPU и делит индикаторы на аппаратный уровень, уровень фреймворка (оператора) и уровень алгоритма.
Для каждого уровня DAIBench в настоящее время поддерживает следующие тесты:
| Уровень | Поддерживаемый тест |
|---|---|
| Аппаратный уровень | Сосредоточение на показателях самого оборудования, таких как пиковая вычислительная пропускная способность (TFLOPS/TOPS), показатели расчёта и полоса пропускания доступа к памяти, полоса пропускания связи PCIe и другие показатели ввода-вывода. |
| Уровень фреймворка/оператора | Оценка вычислительной мощности обычно используемых операторов (свёртка, Softmax, матричное умножение и т. д.) на основе основных фреймворков ИИ. |
| Уровень модели | Выполнение сквозной оценки путём выбора моделей в серии производственных задач. |
cd <test_folder>
bash install.sh
bash run.sh
Для тестирования GPU сначала установите подходящие nvidia-driver и cuda.
Текущий уровень оператора использует DeepBench.
cd operator
bash install.sh # скачать исходный код & подготовить nccl
Чтобы запустить тесты GEMM, свёртки, рекуррентного op и разреженного GEMM:
bin/gemm_bench <inference|train> <int8|float|half>
Чтобы выполнить NCCL одно All-Reduce:
bin/nccl_single_all_reduce <num_gpus>
NCCL MPI All-Reduce можно запустить с помощью mpirun, как показано ниже:
mpirun -np <num_ranks> bin/nccl_mpi_all_reduce
num_ranks не может быть больше количества графических процессоров в системе.
Для тестирования модели требуются docker и nvidia-docker. Чтобы запустить конкретную модель, пожалуйста, прочтите Readme.md в папке.
Общая процедура тестирования:
См. wiki для получения рекомендаций.
Приглашаем внести свой вклад, создавая проблемы или отправляя запросы на вытягивание. См. Contributing Guide для получения инструкций.
DAIBench лицензирован под Apache License 2.0.
Вы можете оставить комментарий после Вход в систему
Неприемлемый контент может быть отображен здесь и не будет показан на странице. Вы можете проверить и изменить его с помощью соответствующей функции редактирования.
Если вы подтверждаете, что содержание не содержит непристойной лексики/перенаправления на рекламу/насилия/вульгарной порнографии/нарушений/пиратства/ложного/незначительного или незаконного контента, связанного с национальными законами и предписаниями, вы можете нажать «Отправить» для подачи апелляции, и мы обработаем ее как можно скорее.
Комментарии ( 0 )