Архитектура ElasticCTR

Описание модулей:

• Client: клиент для задач прогнозирования CTR, перед обучением пользователь может загрузить собственный файл конфигурации, а во время прогнозирования — отправить запрос на прогнозирование.

• File server: сервер для хранения файлов с конфигурацией, которые были загружены пользователем. Файлы используются Paddle Serving и Cube.

• Trainer/pserver: в процессе обучения используется режим PaddlePaddle parameter server. Есть роли trainer и pserver. Для распределённого обучения используется инструмент volcanic для управления пакетными задачами.

• MLFlow: модуль визуализации процесса обучения. Пользователь может наглядно отслеживать процесс обучения.

• HDFS: используется для хранения данных пользователя. После завершения обучения модель сохраняется в HDFS.

• Cube-transfer: отвечает за мониторинг моделей, созданных в результате обучения. Когда появляется новая модель, она загружается на локальный компьютер. Затем вызывается cube-builder для создания файла словаря cube. Уведомляет cube-agent о необходимости загрузки последнего файла словаря и поддерживает согласованность версий на всех узлах cube-server.

• Cube-builder: преобразует модели, созданные в результате обучения, в файлы словарей, которые могут быть загружены cube-server. Файл словаря имеет определённую структуру данных и оптимизирован для доступа к размеру и памяти.

• Cube-Server: предоставляет услуги узла с возможностью чтения и записи сегментов.

• Cube-agent: развёртывается на том же компьютере, что и cube-server, получает команды обновления от cube-transfer и загружает данные на локальный компьютер, уведомляет cube-server об обновлении.

• Paddle Serving: загружает ProgramDesc и плотные параметры модели задачи прогнозирования CTR и предоставляет услуги прогнозирования.

Все процессы от обучения до прогнозирования выполняются путём соединения этих компонентов. Проект предоставляет сценарий развёртывания elastic-control.sh, который позволяет развернуть все компоненты одним щелчком мыши. Пользователи могут использовать эту схему развёртывания для внедрения распределённого обучения и обслуживания на основе PaddlePaddle в свою бизнес-среду.