Слияние кода завершено, страница обновится автоматически
На основе платы FPGA разработан ускоритель глубокого обучения и проведена оптимизация, что позволило достичь передового уровня в отрасли по общей производительности и энергопотреблению. В технологии отображения используется структура ускорения Look-Aside Acceleration на основе макрокоманд, которая обеспечивает быстрое развёртывание одним нажатием, совместную оптимизацию программного и аппаратного обеспечения и поддержку различных типов свёрток без вмешательства хоста.
Этот проект представляет собой программную часть технологии отображения, предназначенную для реализации компилятора и квантователя CNN. Сначала производится анализ файла модели, созданного TensorFlow, для создания вычислительной модели графа CNN. Затем компилятор CNN выбирает соответствующие блоки библиотеки ускорителей CNN на основании проанализированной вычислительной модели и существующих блоков библиотеки CNN, а также генерирует соответствующую конфигурацию параметров диспетчера и структуру оборудования для достижения баланса между вычислениями, памятью на кристалле, пропускной способностью на кристалле и внешней пропускной способностью, обеспечивая тем самым оптимальную вычислительную производительность.
Квантователь CNN может выполнять 8-битное целочисленное квантование данных каждого слоя на основе файла весов модели, чтобы облегчить вычисления DSP на FPGA. Это позволяет снизить требования к хранению при сохранении точности, повысить скорость обработки и уменьшить энергопотребление.
TVM требует LLVM, который можно установить в Ubuntu (для других систем требуется компиляция исходного кода).
apt search llvm
apt install llvm-6.0
apt install clang-6.0
Установите miniconda для python=3.6, скрипт установки_inna.sh включает сценарий установки TVM (см. TVM https://tvm.apache.org/docs/install/from_source.html).
conda create -n inna python=3.6 ipykernel -y
conda activate inna
cd inna/tools && ./install_inna.sh
Компилятор в TensorFlow или Mxnet, keras или onnx.
$ python compiler.py
Квантователь в TensorFlow.
$ python quantize.py
Время выполнения в нашей системе.
$ python runtime.py
【0416】inna开源代码免责声明.docx
Цао Цичунь
Вы можете оставить комментарий после Вход в систему
Неприемлемый контент может быть отображен здесь и не будет показан на странице. Вы можете проверить и изменить его с помощью соответствующей функции редактирования.
Если вы подтверждаете, что содержание не содержит непристойной лексики/перенаправления на рекламу/насилия/вульгарной порнографии/нарушений/пиратства/ложного/незначительного или незаконного контента, связанного с национальными законами и предписаниями, вы можете нажать «Отправить» для подачи апелляции, и мы обработаем ее как можно скорее.
Комментарии ( 0 )