Docker-образ

Внутренняя среда: замена прокси

export https_proxy=...
export http_proxy=...
export all_proxy=...

Сборка образа

sudo bash build_dockerfile_upon_transfermers.sh

Загрузка образа на Docker Hub

sudo bash upload_image.sh

Загрузка образа

Образ уже собран, самостоятельная сборка не требуется

sudo docker pull tothemoon/belle:latest

Образ belle содержит sshd, что позволяет подключаться к контейнеру удалённо

Запуск образа

1. Установите container-toolkit по инструкции Nvidia

2. Создайте собственные SSH-ключи

3. Запустите контейнер

sudo bash docker_run.sh

Основные параметры файла docker_run.sh следующие

docker run --gpus all --ipc=host --ulimit memlock=-1 --ulimit stack=67108864 \
    --network host \
    --privileged \
    [--env https_proxy=$https_proxy \]
    [--env http_proxy=$http_proxy \]
    [--env all_proxy=$all_proxy \]
    --env HF_HOME=$hf_home \
    -it [--rm] \
    --name belle \
    -v $belle_path:$belle_path \
    -v $hf_home:$hf_home \
    -v $ssh_pub_key:/root/.ssh/authorized_keys \
    -w $workdir \
    $docker_user/belle:$tag \
    [--sshd_port 2201 --cmd "echo 'Hello, world!' && /bin/bash"]

Параметры в [] можно игнорировать

• --rm: контейнер удаляется при завершении, если требуется длительная работа в контейнере, параметр можно игнорировать
• --sshd_port: порт прослушивания sshd, по умолчанию 22001
• --cmd: команда для выполнения в контейнере "echo 'Hello, world!' && /bin/bash", можно игнорировать
• hf_home: директория кэша huggingface
• $ssh_pub_key: директория с публичными ключами sshd