О проекте
Данный проект является расширением системы «Числoток», разработанным для управления данными. Это корпоративное решение для централизованного управления данными, которое использует микросервисную архитектуру и включает в себя множество готовых компонентов. Проект предоставляет унифицированный сбор и управление метаданными, поддерживает распространённые типы метаданных баз данных и помогает создавать каталоги корпоративных активов данных и систем безопасности.
Модуль качества данных позволяет контролировать качество данных с помощью автоматических проверок. Визуализация данных не требует использования специальных инструментов разработки и позволяет легко выполнять сложные задачи анализа данных.
Проект разработан на основе Spring Cloud и имеет гибкую модульную структуру, которая может быть расширена и адаптирована к высоким нагрузкам и различным сценариям развёртывания, включая виртуальные машины и контейнеры Docker.
Основные технические компоненты
Серверная часть:
Клиентская часть:
Функциональные возможности
Платформа включает следующие функциональные возможности:
Базовые настройки платформы:
Управление метаданными:
Управление стандартами данных:
Контроль качества данных:
Основное управление данными:
Рынок данных:
Визуализация:
Управление рабочими процессами:
Структура модулей
Система состоит из следующих модулей:
Способ развёртывания
Для работы системы требуется база данных MySQL версии 5.7 или выше. Необходимо создать следующие базы данных: data_cloud, data_cloud_flowable, data_cloud_quartz, foodmart2 и robot. Рекомендуется использовать кодировку utf8mb4 и сортировку utf8mb4_general_ci.
После создания баз данных необходимо импортировать файлы SQL из папки db для инициализации баз данных. Затем следует изменить конфигурационные файлы в папке config модуля datax-config, указав собственные настройки для Redis, MySQL и RabbitMQ.
Далее проект можно импортировать в среду разработки IDEA. После загрузки зависимостей Maven необходимо выполнить команду mvn install в корне проекта. После успешной установки можно получить jar-файлы всех модулей. Эти файлы следует загрузить на сервер и запустить в указанном порядке для завершения развёртывания. Содержание:
#!/bin/sh
# eureka 注册中心
dataxEureka=./datax-eureka.jar
# config 配置中心
dataxConfig=./datax-config.jar
# gateway 网关
dataxGateway=./datax-gateway.jar
# oauth2 认证服务
dataxAuth=./datax-auth.jar
# 系统服务
systemService=./system-service.jar
# 任务调度服务
quartzService=./quartz-service.jar
# 工作流服务
workflowService=./workflow-service.jar
# 元数据服务
metadataService=./data-metadata-service.jar
# 元数据 sql 控制台服务
metadataConsoleService=./data-metadata-service-console.jar
# 数据标准服务
standardService=./data-standard-service.jar
# 数据质量服务
qualityService=./data-quality-service.jar
# 数据集市数据集服务
marketService=./data-market-service.jar
# 数据集市接口映射服务
marketServiceMapping=./data-market-service-mapping.jar
# 数据集市数据集成服务
marketServiceIntegration=./data-market-service-integration.jar
# 主数据服务
masterdataService=./data-masterdata-service.jar
# 可视化服务
visualService=./data-visual-service.jar
case "$1" in
start)
echo "--------dataxEureka 开始启动--------------"
nohup java -jar $dataxEureka >/dev/null 2>&1 &
dataxEurekaPid=`ps -ef|grep $dataxEureka |grep -v grep|awk '{print $2}'`
until [ -n "$dataxEurekaPid" ]
do
dataxEurekaPid=`ps -ef|grep $dataxEureka |grep -v grep|awk '{print $2}'`
done
echo "dataxEurekaPid is $dataxEurekaPid"
echo "--------dataxEureka 启动成功--------------"
sleep 30
echo "--------dataxConfig 开始启动--------------"
nohup java -jar $dataxConfig >/dev/null 2>&1 &
dataxConfigPid=`ps -ef|grep $dataxConfig |grep -v grep|awk '{print $2}'`
until [ -n "$dataxConfigPid" ]
do
dataxConfigPid=`ps -ef|grep $dataxConfig |grep -v grep|awk '{print $2}'`
done
echo "dataxConfigPid is $dataxConfigPid"
echo "--------dataxConfig 启动成功--------------"
sleep 30
echo "--------dataxGateway 开始启动--------------"
nohup java -jar $dataxGateway >/dev/null 2>&1 &
dataxGatewayPid=`ps -ef|grep $dataxGateway |grep -v grep|awk '{print $2}'`
until [ -n "$dataxConfigPid" ]
do
dataxGatewayPid=`ps -ef|grep $dataxGateway |grep -v grep|awk '{print $2}'`
done
echo "dataxGatewayPid is $dataxGatewayPid"
echo "--------dataxGateway 启动成功--------------"
sleep 30
echo "--------dataxAuth 开始启动--------------"
nohup java -jar $dataxAuth >/dev/null 2>&1 &
dataxAuthPid=`ps -ef|grep $dataxAuth |grep -v grep|awk '{print $2}'`
until [ -n "$dataxAuthPid" ]
do
dataxAuthPid=`ps -ef|grep $dataxAuth |grep -v grep|awk '{print $2}'`
done
echo "dataxAuthPid is $dataxAuthPid"
echo "--------dataxAuth 启动成功--------------"
echo "--------systemService 开始启动--------------"
nohup java -jar $systemService >/dev/null 2>&1 &
systemServicePid=`ps -ef|grep $systemService |grep -v grep|awk '{print $2}'`
until [ -n "$systemServicePid" ]
do
systemServicePid=`ps -ef|grep $systemService |grep -v grep|awk '{print $2}'`
done
echo "systemServicePid is $systemServicePid"
echo "--------systemService 启动成功--------------"
echo "--------quartzService 开始启动--------------"
nohup java -jar $quartzService >/dev/null 2>&1 &
quartzServicePid=`ps -ef|grep $quartzService |grep -v grep|awk '{print $2}'`
until [ -n "$quartzServicePid" ]
do
quartzServicePid=`ps -ef|grep $quartzService |grep -v grep|awk '{print $2}'`
done
echo "quartzServicePid is $quartzServicePid"
echo "--------quartzService 启动成功--------------"
echo "--------workflowService 开始启动--------------"
nohup java -jar $workflowService >/dev/null 2>&1 &
workflowServicePid=`ps -ef|grep $workflowService |grep -v grep|awk '{print $2}'`
until [ -n "$workflowServicePid" ]
do
workflowServicePid=`ps -ef|grep $workflowService |grep -v grep|awk '{print $2}'`
done
echo "workflowServicePid is $workflowServicePid"
echo "--------workflowService 启动成功--------------"
echo "--------metadataService 开始启动--------------"
nohup java -jar $metadataService >/dev/null 2>&1 &
metadataServicePid=`ps -ef|grep $metadataService |grep -v grep|awk '{print $2}'`
until
В запросе представлен фрагмент кода на языке shell. Это язык программирования, который используется для автоматизации процессов в операционных системах UNIX и Linux. В тексте запроса нет технических терминов или специфической лексики, которая требовала бы перевода. ```
[ -n "$metadataServicePid" ]
do
metadataServicePid=ps -ef|grep $metadataService |grep -v grep|awk '{print $2}'
done
echo "metadataServicePid is $metadataServicePid"
echo "--------metadataService 启动成功--------------"
echo "--------metadataConsoleService 开始启动--------------"
nohup java -jar $metadataConsoleService >/dev/null 2>&1 &
metadataConsoleServicePid=ps -ef|grep $metadataConsoleService |grep -v grep|awk '{print $2}'
until [ -n "$metadataConsoleServicePid" ]
do
metadataConsoleServicePid=ps -ef|grep $metadataConsoleService |grep -v grep|awk '{print $$2}'
done
echo "metadataConsoleServicePid is $metadataConsoleServicePid"
echo "--------metadataConsoleService 启动成功--------------"
echo "--------standardService 开始启动--------------"
nohup java -jar $standardService >/dev/null 2>&1 &
standardServicePid=ps -ef|grep $standardService |grep -v grep|awk '{print $$2}'
until [ -n "$standardServicePid" ]
do
standardServicePid=ps -ef|grep $standardService |grep -v grep|awk '{print $$2}'
done
echo "standardServicePid is $standardServicePid"
echo "--------standardService 启动成功--------------"
echo "--------qualityService 开始启动--------------"
nohup java -jar $qualityService >/dev/null 2>&1 &
qualityServicePid=ps -ef|grep $qualityService |grep -v grep|awk '{print $$2}'
until [ -n "$qualityServicePid" ]
do
qualityServicePid=ps -ef|grep $qualityService |grep -v grep|awk '{print $$2}'
done
echo "qualityServicePid is $qualityServicePid"
echo "--------qualityService 启动成功--------------"
echo "--------marketService 开始启动--------------"
nohup java -jar $marketService >/dev/null 2>&1 &
marketServicePid=ps -ef|grep $marketService |grep -v grep|awk '{print $$2}'
until [ -n "$marketServicePid" ]
do
marketServicePid=ps -ef|grep $marketService |grep -v grep|awk '{print $$2}'
done
echo "marketServicePid is $marketServicePid"
echo "--------marketService 启动成功--------------"
sleep 30
echo "--------marketServiceMapping 开始启动--------------"
nohup java -jar $marketServiceMapping >/dev/null 2>&1 &
marketServiceMappingPid=ps -ef|grep $marketServiceMapping |grep -v grep|awk '{print $$2}'
until [ -n "$marketServiceMappingPid" ]
do
marketServiceMappingPid=ps -ef|grep $marketServiceMapping |grep -v grep|awk '{print $$2}'
done
echo "marketServiceMappingPid is $marketServiceMappingPid"
echo "--------marketServiceMapping 启动成功--------------"
echo "--------marketServiceIntegration 开始启动--------------"
nohup java -jar $marketServiceIntegration >/dev/null 2>&1 &
marketServiceIntegrationPid=ps -ef|grep $marketServiceIntegration |grep -v grep|awk '{print $$2}'
until [ -n "$marketServiceIntegrationPid" ]
do
marketServiceIntegrationPid=ps -ef|grep $marketServiceIntegration |grep -v grep|awk '{print $$2}'
done
echo "marketServiceIntegrationPid is $marketServiceIntegrationPid"
echo "--------marketServiceIntegration 启动成功--------------"
echo "--------masterdataService 开始启动--------------"
nohup java -jar $masterdataService >/dev/null 2>&1 &
masterdataServicePid=ps -ef|grep $masterdataService |grep -v grep|awk '{print $$2}'
until [ -n "$masterdataServicePid" ]
do
masterdataServicePid=ps -ef|grep $masterdataService |grep -v grep|awk '{print $$2}'
done
echo "masterdataServicePid is $masterdataServicePid"
echo "--------masterdataService 启动成功--------------"
echo "--------visualService 开始启动--------------"
nohup java -jar $visualService >/dev/null 2>&1 &
visualServicePid=ps -ef|grep $visualService |grep -v grep|awk '{print $$2}'
until [ -n "$visualServicePid" ]
do
visualServicePid=ps -ef|grep $visualService |grep -v grep|awk '{print $$2}'
done
echo "visualServicePid is $visualServicePid"
echo "--------visualService 启动成功--------------"``` Перезапуск: datx-cloud-pro.sh restart
Имя пользователя: admin
Пароль: 123456
!
!
!
!
!
!
!
!
!
!
!
!
!
!
!
!
!
!
!
!
!
!
!
!
!
!
!
!
!
!
Если у вас возникнут вопросы, вы можете обратиться за помощью в общедоступный аккаунт Спиральный программист-эксперт для общения и совместного обучения.
Вы можете оставить комментарий после Вход в систему
Неприемлемый контент может быть отображен здесь и не будет показан на странице. Вы можете проверить и изменить его с помощью соответствующей функции редактирования.
Если вы подтверждаете, что содержание не содержит непристойной лексики/перенаправления на рекламу/насилия/вульгарной порнографии/нарушений/пиратства/ложного/незначительного или незаконного контента, связанного с национальными законами и предписаниями, вы можете нажать «Отправить» для подачи апелляции, и мы обработаем ее как можно скорее.
Комментарии ( 0 )