1 В избранное 0 Ответвления 0

OSCHINA-MIRROR/mirrors-easyml

Присоединиться к Gitlife
Откройте для себя и примите участие в публичных проектах с открытым исходным кодом с участием более 10 миллионов разработчиков. Приватные репозитории также полностью бесплатны :)
Присоединиться бесплатно
Клонировать/Скачать
QuickStart.md 18 КБ
Копировать Редактировать Web IDE Исходные данные Просмотреть построчно История
gitlife-traslator Отправлено 25.11.2024 04:34 dc17d15

Быстрый старт

Прежде чем вы сможете использовать EasyML Studio, необходимо настроить среду, которая включает в себя вашу среду разработки и серверную среду выполнения. Для успешного запуска необходимо выполнить три шага: Подготовка, Запуск контейнеров Docker и Запуск служб.

Среда разработки для IDEA

Шаг 1: Импорт проекта в IDEA

  • Получите код из репозитория Git https://github.com/ICT-BDA/EasyML.
  • Импортируйте код в свою IDE через проект Maven.
импорт проекта в IDEA
  • Поддержка java версии 1.7 по умолчанию.
настройка пути JDK

Шаг 2: Настройка пути GWT Lib

  • Убедитесь, что в вашей среде IDE установлены Maven и GWT плагины.
  • Удалите или закомментируйте свойства зависимости jdk.tools в файле pom.xml (эта зависимость используется не для IDEA, а для среды разработки eclipse).
изменение файла Pom
  • Используйте цели Maven clean и compile для загрузки всего пакета связанных зависимостей.
конфигурация maven
  • Убедитесь, что вы можете видеть все Внешние библиотеки в списке Проект.
внешние библиотеки
  • Используйте плагин gwt:compile для компиляции проекта GWT.
компиляция GWT

Шаг 3: Создание и запуск нашего веб-приложения EML

После того как вы получите все зависимости и завершите всю компиляцию, вы можете приступить к созданию своего веб-приложения EasyML Studio для следующих шагов:

  • Отредактируйте конфигурации запуска.
редактирование конфигурации
  • Добавьте веб-приложение GWT с помощью кнопки «+» в верхнем левом углу. Если вы не видите Конфигурацию GWT в списке, возможно, у вас что-то пошло не так на этапе Настройка пути GWT Lib. Вернитесь к предыдущему шагу и устраните проблему.
Редактирование Easy ML
  • Использование режима Super Dev позволяет вам отлаживать ваше веб-приложение в браузере. Это делает отладку более эффективной, поэтому не забудьте выбрать его.
  • Когда вы закончите все шаги выше, вы можете нажать зелёную кнопку запуска, чтобы создать и отладить EasyML. Через некоторое время вы сможете просмотреть EasyML в своём Chrome, чтобы получить доступ к нему.
домашняя страница Easy ML

Среда разработки для Eclipse

Шаг 1: Импорт проекта в Eclipse

  • Убедитесь, что в вашем eclipse установлены maven и GWT плагины (поскольку плагины GWT сейчас нелегко загрузить, мы предоставляем плагины GWT для Eclipse 4.4 Luna, вы можете установить плагин в eclipse в автономном режиме).

  • Импортируйте код в вашу IDE через проект maven.

Импорт проекта maven
  • Щёлкните правой кнопкой мыши свойства проекта, чтобы изменить фасеты проекта. Сохранение этих фасетов, как показано ниже, сделает структуру вашего проекта более понятной.
Изменение фасетов проекта
  • Проект поддерживает java версию 1.7 по умолчанию, вы можете переключиться на другую версию java, изменив конфигурацию проекта.

Шаг 2: Компиляция проекта GWT

  • Используйте maven clean и maven build goal, чтобы загрузить весь пакет связанных зависимостей. Щёлкните правой кнопкой мыши проект Запустить как, выберите maven clean, чтобы очистить проект, а затем выберите maven build..., чтобы настроить цель для компиляции проекта.
Компиляция проекта maven
  • Если вы встретите ошибку tools.jar не найден, вам следует изменить библиотеку JRE System вашего проекта с JRE на путь JDK. По умолчанию eclipse импортирует проект с использованием пути JRE. Когда вы закончите компиляцию проекта, обновите его.

Используйте цель плагина gwt-maven для компиляции проекта gwt. Если вы не сделаете этот шаг, вы не сможете увидеть некоторые изображения в своём браузере при входе в систему.

Шаг 3: Запустите наше веб-приложение EML

  • Щёлкните правой кнопкой мыши проект «Запустить как», выберите «Веб-приложение (GWT Super Dev Mode)». Затем выберите страницу index.html для запуска проекта.

После выполнения вышеуказанных шагов вы увидите завершённое состояние консоли.

Переключитесь в режим разработки, и вы сможете посетить проект по URL.

Подготовка к кластеру виртуального сервера

Наш кластер серверов основан на Docker, поэтому вы можете создать среду выполнения на своём компьютере. Вам удобно разрабатывать проект без каких-либо удалённых подключений. Кроме того, вы также можете внести свой вклад в серверные среды. Кластер серверов версии docker нестабилен и неэффективен, для чего мы можем сделать ряд вещей. Однако первым шагом к доступу является установка Docker.

Шаг 1: Установите Docker

  • Просто следуйте официальному руководству, чтобы установить Docker. Если вы устанавливаете docker в Windows, минимум требования к памяти (ОЗУ) = 8 ГБ для автономного компьютера. На жёстком диске должно быть достаточно места (10 ГБ), на котором вы устанавливаете Docker. В противном случае это будет очень медленно.
  • Убедитесь, что ваша служба Docker работает правильно через Docker info и Docker version.
  • Независимо от того, какая у вас система компьютера, остановите брандмауэр вашей системы.
  • Если вы используете centos 7, вам также следует остановить selinux, чтобы избежать ошибки запуска контейнера Docker.
  • Выполните команду sudo docker run hello-world, чтобы узнать, успешно ли мы установили Docker.

Шаг 2: Загрузите образы сервера mysql из docker hub

  • Загрузите наши образы сервера mysql с нашего docker hub:

    docker pull nkxujun/mysql_eml:version (latest default)

Шаг 3: Загрузите образы ubuntu_eml из docker hub

Наше Eml-серверное изображение основано на ubuntu, поэтому сначала загрузите его:

```docker pull nkxujun/ubuntu_eml:version(latest default)```

Вы можете использовать docker images, чтобы увидеть, успешно ли вы загрузили эти два образа:

eml_images

Шаг 4: Скачайте установочный зависимый пакет

Каждый отдельный сервер в нашем кластере создан одним образом docker, и этот образ можно создать с помощью Dockerfile, который был определён нами и включает все необходимые утилиты, такие как hadoop. Таким образом, нам нужно загрузить Dockerfile и все зависимые файлы и файлы конфигурации с нашего диска Google или Baidu Cloud.

Шаг 5: Создайте образы Eml-сервера

  • Введите путь к файлам, которые вы скачали на последнем шаге.
  • Используйте build.sh для создания нашего образа, этот процесс займёт несколько минут. sh build.sh
  • Вы можете использовать docker images, чтобы проверить, успешно ли вы создали:
Origin_images

Запуск кластера виртуальных серверов Docker

Создайте сеть для кластера виртуальных серверов docker

  • Используйте sh build_network.sh, чтобы создать сеть под названием shadownet:
networks ### Запустите все необходимые контейнеры * Вы можете использовать sh run_containers.sh для запуска всех серверов:

net works Запущенны все четыре сервера: mysql, hadoop-master, hadoop-slave1, hadoop-slave2. Вы можете использовать docker ps, чтобы проверить.

Подтвердите подключение между контейнерами

Поскольку сетевое взаимодействие кластера Hadoop зависит от SSH, нам необходимо убедиться, что три сервера могут войти в систему по SSH без пароля.

  • Мы можем использовать docker exec -it hadoop-master /bin/bash, чтобы войти в контейнер с именем Hadoop-master.

  • В Hadoop-master используйте ssh localhost, ssh hadoop-slave1 и ssh hadoop-slave2, чтобы протестировать функцию SSH и не забывайте exit после каждого теста SSH. Проверьте, работает ли служба SSH во всех контейнерах Hadoop:

    test ssh
  • Если SSH не работает, войдите в каждый контейнер и выполните следующее: /etc/init.d/ssh start

  • Если вы встретите исключение Bad owner or permissions on ~/.ssh/config при тестировании ssh localhost, вы можете выполнить команду chmod 600 ~/.ssh/config и повторить попытку.

Запустите все службы в кластере

Настройте локальные хосты

  • Добавьте свой Localhost (Linux) или Docker IP (Windows, если вы используете DockerToolBox для установки, виртуальный IP по умолчанию — 192.168.99.100) как hadoop-master, hadoop-slave1, hadoop-slave2 и mysql в файл hosts, например:
 10.20.11.7 hadoop-master
 10.20.11.7 mysql
 10.20.11.7 hadoop-slave1
 10.20.11.7 hadoop-slave2

Инициализируйте базу данных MySQL

  • Выполните sh init_mysql.sh, чтобы подготовить базы данных для Oozie и EasyML Studio

Добавьте поддержку Tensorflow

Наш установочный пакет EML версии 1.2.0 или выше может поддерживать режим Tensorflow. Следуйте инструкциям ниже, если хотите попробовать.

  • Войдите в контейнер hadoop-master через docker exec -it hadoop-master /bin/bash (важная команда для входа в каждый контейнер).
  • Выполните sh /root/config-tensorflow.sh, чтобы настроить среду, необходимую для tensorflow.
  • Если вы хотите настроить среду самостоятельно, вы можете использовать скрипты папки tensorflow в проекте EasyML.

Запустите службы HDFS, spark и Yarn

  • Войдите в контейнер hadoop-master через docker exec -it hadoop-master /bin/bash (жизненно важная команда для входа в каждый контейнер)
  • Выполните sh /root/start-hadoop.sh, чтобы запустить службы hadoop и spark.
  • Вы можете использовать sh /root/run-wordcount.sh для проверки службы hadoop.
  • Посетите http://hadoop-master:50070/ в браузере, чтобы проверить статус namenode и каждого datanode:
namenode_web

Запустите службу Oozie

  • Войдите в контейнер hadoop-master через docker exec -it hadoop-master /bin/bash.
  • Выполните sh /root/start-oozie.sh, чтобы запустить Oozie и Tomcat, это займёт некоторое время:
start oozie
  • Мы запустили пример задачи ooize в стартовой оболочке, вы можете посетить http://hadoop-master:11000/oozie/ в своём браузере и обновить информацию о задаче.
browse_oozie
* Когда вы закончите установку oozie, вы не сможете посетить http://hadoop-master:11000/oozie/, а когда вы выполните проверку состояния oozie с помощью следующей команды в контейнере hadoop-master, появится исключение соединения:
 oozie admin -oozie http://hadoop-master:11000/oozie -status
 //Встречается исключение IO_ERROR:java.net.ConnectException: Connection refused

затем вы можете попытаться перезапустить oozie снова в контейнере hadoop-master следующим образом:

rm -rf $OOZIE_HOME/logs/*    //Очистить каталог журналов
rm -rf $OOZIE_HOME/oozie-server/logs/*    //Очистить каталог журналов
rm -rf $OOZIE_HOME/oozie-server/temp/*    //Очистить временный каталог
rm -rf $OOZIE_HOME/oozie-server/webapps/oozie/     //Удалить oozie 
rm -rf $OOZIE_HOME/oozie-server/webapps/oozie.war    //Удалить oozie.war
./root/start-oozie.sh    //Повторно запустить скрипт запуска oozie

Посетите тестовый веб-сайт EMLStudio, чтобы подтвердить правильность всего процесса

Опубликовать ( 0 )

Вы можете оставить комментарий после Вход в систему

1
https://api.gitlife.ru/oschina-mirror/mirrors-easyml.git
git@api.gitlife.ru:oschina-mirror/mirrors-easyml.git
oschina-mirror
mirrors-easyml
mirrors-easyml
master