1 В избранное 0 Ответвления 0

OSCHINA-MIRROR/zrxjava-srt-data

Присоединиться к Gitlife
Откройте для себя и примите участие в публичных проектах с открытым исходным кодом с участием более 10 миллионов разработчиков. Приватные репозитории также полностью бесплатны :)
Присоединиться бесплатно
Клонировать/Скачать
Внести вклад в разработку кода
Синхронизировать код
Отмена
Подсказка: Поскольку Git не поддерживает пустые директории, создание директории приведёт к созданию пустого файла .keep.
Loading...
README.md

О проекте

Данный проект является расширением системы «Числoток», разработанным для управления данными. Это корпоративное решение для централизованного управления данными, которое использует микросервисную архитектуру и включает в себя множество готовых компонентов. Проект предоставляет унифицированный сбор и управление метаданными, поддерживает распространённые типы метаданных баз данных и помогает создавать каталоги корпоративных активов данных и систем безопасности.

Модуль качества данных позволяет контролировать качество данных с помощью автоматических проверок. Визуализация данных не требует использования специальных инструментов разработки и позволяет легко выполнять сложные задачи анализа данных.

Проект разработан на основе Spring Cloud и имеет гибкую модульную структуру, которая может быть расширена и адаптирована к высоким нагрузкам и различным сценариям развёртывания, включая виртуальные машины и контейнеры Docker.

Основные технические компоненты

  • Серверная часть:

    • Фреймворк: Spring Boot 2.3.
    • Микросервисный фреймворк: Spring Cloud Hoxton.SR9.
    • Безопасность: Spring Security + Spring OAuth 2.0.
    • Планирование задач: Quartz.
    • Постоянное хранилище: MyBatis Plus.
    • Пул соединений с базой данных: Hikaricp.
    • Регистрация и обнаружение сервисов: Spring Cloud Config.
    • Балансировка нагрузки: Ribbon.
    • Компонент отказоустойчивости: Hystrix.
    • Шлюз: Spring Cloud Gateway.
    • Очередь сообщений: Rabbitmq.
    • Кэширование: Redis.
    • Логирование: Logback.
    • Контейнер выполнения: Undertow.
    • Рабочий процесс: Flowable 6.5.0.
  • Клиентская часть:

    • JS-фреймворк: Vue, nodejs.
    • CSS-фреймворк: sass.
    • Библиотека компонентов: ElementUI.
    • Инструмент сборки: Webpack.

Функциональные возможности

Платформа включает следующие функциональные возможности:

  1. Базовые настройки платформы:

    • Управление системой: настройка пользователей, отделов, меню и ролей.
    • Мониторинг системы: логины, операции и аномалии.
    • Планирование задач: онлайн-управление задачами и их журналами.
  2. Управление метаданными:

    • Источники данных: управление информацией о соединениях с источниками данных и генерация документации.
    • Метаданные: управление метаданными таблиц баз данных.
    • Права доступа к данным: определение прав доступа к метаданным.
    • История изменений: ведение журнала изменений метаданных.
    • Поиск данных: поиск информации о данных, источниках и таблицах.
    • Карта данных: визуальное представление иерархии данных.
    • Рабочая среда SQL: выполнение запросов SQL в реальном времени.
  3. Управление стандартами данных:

    • Стандартные словари: поддержка национальных стандартов данных.
    • Сравнительные таблицы: хранение данных, требующих сопоставления со стандартными данными.
    • Словарь сопоставлений: отображение соответствия между локальными и стандартными данными.
    • Статистика сопоставления: анализ результатов сопоставления локальных и стандартных данных.
  4. Контроль качества данных:

    • Настройка правил: определение правил контроля качества данных.
    • Статистические данные по правилам: сбор статистики по правилам контроля качества.
    • Отчёт о качестве: анализ результатов контроля качества данных.
    • Запланированные задачи: автоматическое выполнение задач контроля качества.
    • Журнал задач: запись журналов выполнения задач контроля качества.
  5. Основное управление данными:

    • Модель данных: поддержание структуры основных данных.
    • Управление данными: обработка основных данных.
  6. Рынок данных:

    • Сервисы данных: динамическое создание API для данных, генерация документации по сервисам.
    • Обезличивание данных: динамическая маскировка конфиденциальных данных в ответах API.
    • Журналы API: регистрация вызовов API и их результатов.
    • Интеграция сервисов: управление интеграцией сторонних сервисов данных.
    • Сервисные журналы: регистрация вызовов сторонних сервисов и их результатов.
  7. Визуализация:

    • Наборы данных: сохранение результатов запросов SQL.
    • Конфигурации диаграмм: динамические конфигурации диаграмм Echarts, включая многомерные таблицы, линии, столбцы, круговые диаграммы, радары и точечные графики.
    • Панели мониторинга: перетаскиваемые компоненты для создания панелей мониторинга, настройки положения, размера и других параметров.
    • CoolScreen: перетаскиваемые компоненты для создания экранов CoolScreen, настройки фона, цвета, положения, размера и т. д.
  8. Управление рабочими процессами:

    • Определение процесса: управление определением рабочих процессов.
    • Экземпляры процессов: управление текущими экземплярами рабочих процессов.
    • Мои процессы: управление моими инициированными процессами.
    • Мои участия: управление моими участвующими процессами.
    • Задачи процессов: управление ожидающими и завершёнными задачами процессов.
    • Бизнес-конфигурация: настройка свойств интеграции бизнес-систем с рабочими процессами.

Структура модулей

Система состоит из следующих модулей:

  • datax-cloud-pro — серверный модуль;
  • datax-ui-pro — клиентский модуль;
  • datax-eureka — модуль регистрации;
  • datax-config — модуль конфигурации;
  • datax-gateway — шлюз Spring Cloud;
  • datax-auth — модуль авторизации;
  • datax-common — общий модуль системы;
  • codegen-service-parent — модуль генерации кода;
  • data-market-service-parent — модуль рынка данных;
  • data-masterdata-service-parent — основной модуль управления данными;
  • data-metadata-service-parent — модуль управления метаданными;
  • data-quality-service-parent — модуль контроля качества данных;
  • data-standard-service-parent — модуль стандартов данных;
  • data-visual-service-parent — модуль визуализации;
  • email-service-parent — почтовый модуль;
  • file-service-parent — файловый модуль;
  • quartz-service-parent — модуль планирования задач;
  • system-service-parent — базовый модуль платформы;
  • workflow-service-parent — модуль рабочих процессов;
  • datax-tools — графический модуль.

Способ развёртывания

Для работы системы требуется база данных MySQL версии 5.7 или выше. Необходимо создать следующие базы данных: data_cloud, data_cloud_flowable, data_cloud_quartz, foodmart2 и robot. Рекомендуется использовать кодировку utf8mb4 и сортировку utf8mb4_general_ci.

После создания баз данных необходимо импортировать файлы SQL из папки db для инициализации баз данных. Затем следует изменить конфигурационные файлы в папке config модуля datax-config, указав собственные настройки для Redis, MySQL и RabbitMQ.

Далее проект можно импортировать в среду разработки IDEA. После загрузки зависимостей Maven необходимо выполнить команду mvn install в корне проекта. После успешной установки можно получить jar-файлы всех модулей. Эти файлы следует загрузить на сервер и запустить в указанном порядке для завершения развёртывания. Содержание:

#!/bin/sh
# eureka 注册中心
dataxEureka=./datax-eureka.jar
# config 配置中心
dataxConfig=./datax-config.jar
# gateway 网关
dataxGateway=./datax-gateway.jar
# oauth2 认证服务
dataxAuth=./datax-auth.jar
# 系统服务
systemService=./system-service.jar
# 任务调度服务
quartzService=./quartz-service.jar
# 工作流服务
workflowService=./workflow-service.jar
# 元数据服务
metadataService=./data-metadata-service.jar
# 元数据 sql 控制台服务
metadataConsoleService=./data-metadata-service-console.jar
# 数据标准服务
standardService=./data-standard-service.jar
# 数据质量服务
qualityService=./data-quality-service.jar
# 数据集市数据集服务
marketService=./data-market-service.jar
# 数据集市接口映射服务
marketServiceMapping=./data-market-service-mapping.jar
# 数据集市数据集成服务
marketServiceIntegration=./data-market-service-integration.jar
# 主数据服务
masterdataService=./data-masterdata-service.jar
# 可视化服务
visualService=./data-visual-service.jar
case "$1" in
start)
    echo "--------dataxEureka 开始启动--------------"
    nohup java -jar $dataxEureka >/dev/null 2>&1 &
    dataxEurekaPid=`ps -ef|grep $dataxEureka |grep -v grep|awk '{print $2}'`
    until [ -n "$dataxEurekaPid" ]
      do
       dataxEurekaPid=`ps -ef|grep $dataxEureka |grep -v grep|awk '{print $2}'`
      done
    echo "dataxEurekaPid is $dataxEurekaPid"
    echo "--------dataxEureka 启动成功--------------"
    sleep 30

    echo "--------dataxConfig 开始启动--------------"
    nohup java -jar $dataxConfig >/dev/null 2>&1 &
    dataxConfigPid=`ps -ef|grep $dataxConfig |grep -v grep|awk '{print $2}'`
    until [ -n "$dataxConfigPid" ]
      do
       dataxConfigPid=`ps -ef|grep $dataxConfig |grep -v grep|awk '{print $2}'`
      done
    echo "dataxConfigPid is $dataxConfigPid"
    echo "--------dataxConfig 启动成功--------------"
    sleep 30

    echo "--------dataxGateway 开始启动--------------"
    nohup java -jar $dataxGateway >/dev/null 2>&1 &
    dataxGatewayPid=`ps -ef|grep $dataxGateway |grep -v grep|awk '{print $2}'`
    until [ -n "$dataxConfigPid" ]
      do
       dataxGatewayPid=`ps -ef|grep $dataxGateway |grep -v grep|awk '{print $2}'`
      done
    echo "dataxGatewayPid is $dataxGatewayPid"
    echo "--------dataxGateway 启动成功--------------"
    sleep 30

    echo "--------dataxAuth 开始启动--------------"
    nohup java -jar $dataxAuth >/dev/null 2>&1 &
    dataxAuthPid=`ps -ef|grep $dataxAuth |grep -v grep|awk '{print $2}'`
    until [ -n "$dataxAuthPid" ]
      do
       dataxAuthPid=`ps -ef|grep $dataxAuth |grep -v grep|awk '{print $2}'`
      done
    echo "dataxAuthPid is $dataxAuthPid"
    echo "--------dataxAuth 启动成功--------------"

    echo "--------systemService 开始启动--------------"
    nohup java -jar $systemService >/dev/null 2>&1 &
    systemServicePid=`ps -ef|grep $systemService |grep -v grep|awk '{print $2}'`
    until [ -n "$systemServicePid" ]
      do
       systemServicePid=`ps -ef|grep $systemService |grep -v grep|awk '{print $2}'`
      done
    echo "systemServicePid is $systemServicePid"
    echo "--------systemService 启动成功--------------"

    echo "--------quartzService 开始启动--------------"
    nohup java -jar $quartzService >/dev/null 2>&1 &
    quartzServicePid=`ps -ef|grep $quartzService |grep -v grep|awk '{print $2}'`
    until [ -n "$quartzServicePid" ]
      do
       quartzServicePid=`ps -ef|grep $quartzService |grep -v grep|awk '{print $2}'`
      done
    echo "quartzServicePid is $quartzServicePid"
    echo "--------quartzService 启动成功--------------"

    echo "--------workflowService 开始启动--------------"
    nohup java -jar $workflowService >/dev/null 2>&1 &
    workflowServicePid=`ps -ef|grep $workflowService |grep -v grep|awk '{print $2}'`
    until [ -n "$workflowServicePid" ]
      do
       workflowServicePid=`ps -ef|grep $workflowService |grep -v grep|awk '{print $2}'`
      done
    echo "workflowServicePid is $workflowServicePid"
    echo "--------workflowService 启动成功--------------"

    echo "--------metadataService 开始启动--------------"
    nohup java -jar $metadataService >/dev/null 2>&1 &
    metadataServicePid=`ps -ef|grep $metadataService |grep -v grep|awk '{print $2}'`
    until

В запросе представлен фрагмент кода на языке shell. Это язык программирования, который используется для автоматизации процессов в операционных системах UNIX и Linux. В тексте запроса нет технических терминов или специфической лексики, которая требовала бы перевода. ``` [ -n "$metadataServicePid" ] do metadataServicePid=ps -ef|grep $metadataService |grep -v grep|awk '{print $2}' done echo "metadataServicePid is $metadataServicePid" echo "--------metadataService 启动成功--------------"

echo "--------metadataConsoleService 开始启动--------------" nohup java -jar $metadataConsoleService >/dev/null 2>&1 & metadataConsoleServicePid=ps -ef|grep $metadataConsoleService |grep -v grep|awk '{print $2}' until [ -n "$metadataConsoleServicePid" ] do metadataConsoleServicePid=ps -ef|grep $metadataConsoleService |grep -v grep|awk '{print $$2}' done echo "metadataConsoleServicePid is $metadataConsoleServicePid" echo "--------metadataConsoleService 启动成功--------------"

echo "--------standardService 开始启动--------------" nohup java -jar $standardService >/dev/null 2>&1 & standardServicePid=ps -ef|grep $standardService |grep -v grep|awk '{print $$2}' until [ -n "$standardServicePid" ] do standardServicePid=ps -ef|grep $standardService |grep -v grep|awk '{print $$2}' done echo "standardServicePid is $standardServicePid" echo "--------standardService 启动成功--------------"

echo "--------qualityService 开始启动--------------" nohup java -jar $qualityService >/dev/null 2>&1 & qualityServicePid=ps -ef|grep $qualityService |grep -v grep|awk '{print $$2}' until [ -n "$qualityServicePid" ] do qualityServicePid=ps -ef|grep $qualityService |grep -v grep|awk '{print $$2}' done echo "qualityServicePid is $qualityServicePid" echo "--------qualityService 启动成功--------------"

echo "--------marketService 开始启动--------------" nohup java -jar $marketService >/dev/null 2>&1 & marketServicePid=ps -ef|grep $marketService |grep -v grep|awk '{print $$2}' until [ -n "$marketServicePid" ] do marketServicePid=ps -ef|grep $marketService |grep -v grep|awk '{print $$2}' done echo "marketServicePid is $marketServicePid" echo "--------marketService 启动成功--------------" sleep 30

echo "--------marketServiceMapping 开始启动--------------" nohup java -jar $marketServiceMapping >/dev/null 2>&1 & marketServiceMappingPid=ps -ef|grep $marketServiceMapping |grep -v grep|awk '{print $$2}' until [ -n "$marketServiceMappingPid" ] do marketServiceMappingPid=ps -ef|grep $marketServiceMapping |grep -v grep|awk '{print $$2}' done echo "marketServiceMappingPid is $marketServiceMappingPid" echo "--------marketServiceMapping 启动成功--------------"

echo "--------marketServiceIntegration 开始启动--------------" nohup java -jar $marketServiceIntegration >/dev/null 2>&1 & marketServiceIntegrationPid=ps -ef|grep $marketServiceIntegration |grep -v grep|awk '{print $$2}' until [ -n "$marketServiceIntegrationPid" ] do marketServiceIntegrationPid=ps -ef|grep $marketServiceIntegration |grep -v grep|awk '{print $$2}' done echo "marketServiceIntegrationPid is $marketServiceIntegrationPid" echo "--------marketServiceIntegration 启动成功--------------"

echo "--------masterdataService 开始启动--------------" nohup java -jar $masterdataService >/dev/null 2>&1 & masterdataServicePid=ps -ef|grep $masterdataService |grep -v grep|awk '{print $$2}' until [ -n "$masterdataServicePid" ] do masterdataServicePid=ps -ef|grep $masterdataService |grep -v grep|awk '{print $$2}' done echo "masterdataServicePid is $masterdataServicePid" echo "--------masterdataService 启动成功--------------"

echo "--------visualService 开始启动--------------" nohup java -jar $visualService >/dev/null 2>&1 & visualServicePid=ps -ef|grep $visualService |grep -v grep|awk '{print $$2}' until [ -n "$visualServicePid" ] do visualServicePid=ps -ef|grep $visualService |grep -v grep|awk '{print $$2}' done echo "visualServicePid is $visualServicePid" echo "--------visualService 启动成功--------------"``` Перезапуск: datx-cloud-pro.sh restart

Имя пользователя: admin

Пароль: 123456

Снимки экрана системы

!

!

!

!

!

!

!

!

!

!

!

!

!

!

!

!

!

!

!

!

!

!

!

!

!

!

!

!

!

!

Помощь

Если у вас возникнут вопросы, вы можете обратиться за помощью в общедоступный аккаунт Спиральный программист-эксперт для общения и совместного обучения.

Комментарии ( 0 )

Вы можете оставить комментарий после Вход в систему

Введение

Описание недоступно Развернуть Свернуть
Apache-2.0
Отмена

Обновления

Пока нет обновлений

Участники

все

Недавние действия

Загрузить больше
Больше нет результатов для загрузки
1
https://api.gitlife.ru/oschina-mirror/zrxjava-srt-data.git
git@api.gitlife.ru:oschina-mirror/zrxjava-srt-data.git
oschina-mirror
zrxjava-srt-data
zrxjava-srt-data
master