libalgdeploy

Введение

(1) Мощная платформа для развёртывания алгоритмов глубокого обучения, поддерживающая граничные вычисления, централизованные вычисления и различные аппаратные вычислительные блоки, такие как HiSilicon NNIe, Linux-x64 CUDA.

(2) Время вывода на основе NNIe: * face_detect (libfacedetection): 10 мс; * face_landmark (pfld): 2 мс; * face_landmark (pfpld): 10 мс; * face_feature (insight face): 20 мс.

На основе времени вывода этих процессов распознавания лиц на платформе Hi3559A после анализа и оптимизации процесса можно достичь извлечения признаков лица из 10–12 видеопотоков с 8–20 лицами в каждом потоке.

(3) Время вывода для NVIDIA-GPU-RTX2080: [не указано].

Описание модели.

Архитектура программного обеспечения

• alg_api: API для нейронной сети (C);
• alg_engine: API для нейронных сетей (C++);
  • alg_hinnie;
  • alg_mxnet;
  • alg_caffe.
• alg_basic: механизм вывода;
  • alg_basic_hinnie: механизм вывода NNIe;
  • alg_basic_mxnet: механизм вывода mxnet;
  • alg_basic_caffe: механизм вывода caffe.
• alg_common: общий интерфейс вычислительной мощности.
• common: общие модули.

Структура каталогов

|-- examples |-- include #header file | |-- alg_api.h | |-- alg_struct.h | -- image_container.h |-- models #all модели | |-- caffe #модели caffe | |-- mxnet #модели mxnet | -- nnie #модели nnie |-- src | |-- algapi | |-- algbasic_caffe | |-- algbasic_hinnie | |-- algbasic_mxnet | |-- algcaffe | |-- algcommon | |-- alghinnie | |-- algmxnet | -- common -- third_party |-- hi3559av100 `-- linux-64

Инструкция по использованию

#1 Настройка проекта: make config. #2 Компиляция: make -j7. #3 Установка: make install. #4 Запуск демонстрационного примера и тестирование результатов: cd build/bin.

Преобразование моделей

algmodelconvert.

Дополнительная разработка

1 Если вы используете модели, предоставляемые этим проектом (например, libfacedetection, pfld, insightface), то не нужно изменять код, просто интегрируйте alg_api в свой проект.

2 Если у вас есть собственная обученная модель, вам необходимо изменить соответствующую часть постобработки, см. alg_face_detect_v1.cpp, alg_face_feature_v1.cpp и alg_face_lmk_v1.cpp для обработки изображений.

3 Собственные обученные модели можно преобразовать в соответствующие платформы вычислительной мощности с помощью вышеупомянутого инструмента преобразования моделей.

Контакты

Электронная почта: mumulinmail@yeah.net. QQ: 810702785.