FaultManagement

Описание

Данные-управляемый высокопроизводительный инструмент для разработки и управления большими данными в сложных производственных системах.

Проект

Инструмент FaultManagement (далее — инструмент) — это часть системы управления большими данными, которая разрабатывается для высокотехнологичных производственных систем. Из-за особенностей больших данных в производстве система должна обрабатывать временные ряды, графические данные и структурированные данные. Также она должна управлять разнородными данными, которые обрабатываются в системе. На основе этих требований был разработан инструмент FaultManagement. Это набор инструментов для обнаружения и диагностики неисправностей, который работает с контейнеризованными аналитическими данными. Инструмент основан на Kubernetes, мощном инструменте для управления контейнерами. В соответствии с требованиями к мониторингу и обнаружению неисправностей в системе, инструмент разделён на три уровня:

1. Уровень сбора данных: собирает информацию о состоянии узлов кластера, компонентов управления данными и их журналов. Собранные данные сохраняются в базе данных.

• Сбор показателей: Kubernetes предоставляет инструменты для сбора показателей, такие как cAdvisor и Heapster. Они собирают данные о производительности всех узлов, контейнеров и модулей Kubernetes. Для сбора этих данных используются cAdvisor, Heapster и InfluxDB. Эти инструменты не могут собирать данные о производительности компонентов управления данными. Поэтому для каждого компонента управления данными (IoTDB, KVStore, InGraphDB и UnStructFS) используется отдельный агент, который собирает данные через Java Management Extensions (JMX). KingBase использует систему производительности для предоставления информации о своём состоянии. Данные собираются через JDBC и доступ к таблице производительности.

• Сбор журналов: Fluentd используется для сбора журналов. Elasticsearch используется для анализа и хранения собранных данных.

2. Аналитический уровень: отвечает за анализ собранных данных и включает функции обнаружения неисправностей и оповещения о них.

• Обнаружение неисправностей на основе правил: проверяет данные о производительности и сердцебиении системы.
• Обнаружение неисправностей на основе шаблонов журналов: анализирует журналы в реальном времени и ищет неисправности на основе заданных шаблонов.
• Оповещение о неисправностях на основе корреляции: когда обнаруживаются неисправности, информация о них сохраняется в таблице неисправностей. Модуль оповещения периодически проверяет эту таблицу и отправляет уведомления администраторам в соответствии с заданными настройками.

3. Уровень представления информации: предоставляет пользователям возможность настраивать и просматривать информацию. Пользователи могут взаимодействовать с системой через пользовательский интерфейс и получать информацию о кластере, компонентах и результатах обнаружения неисправностей. Включает представление информации о мониторинге кластера, мониторинге компонентов, правилах обнаружения, шаблонах журналов и уведомлениях о неисправностях.

Среда

• Минимум три узла в кластере Kubernetes.
• Операционная система Ubuntu 16.04.
• Память: минимум 32 ГБ для главного узла и минимум 16 ГБ для остальных узлов.
• Диски: каждый узел должен иметь как минимум два физических или виртуальных диска с объёмом свободного пространства не менее 100 ГБ.
• Java Runtime Environment JDK 1.8 или выше.
• Tomcat 1.9 или выше.
• Kubernetes версии 1.9.6 или выше.

Установка и использование

FaultManagement основан на Kubernetes и состоит из двух основных частей: сбор данных и мониторинг и обнаружение неисправностей. Установка и использование инструмента включают следующие шаги:

• Компоненты: FaultManagement предназначен для мониторинга различных компонентов в кластерах Kubernetes. Кластер должен содержать следующие компоненты: Kubernetes, KingBase 5.6+, IoTDB, KVStore и InGraphDB.
• Сбор данных:
  • Показатели: cAdvisor и Heapster используются для сбора данных о производительности кластера, контейнеров и модулей. Для компонентов управления данными используются отдельные агенты.
  • Журналы: Fluentd собирает журналы, а Elasticsearch хранит и анализирует их.

Для установки и использования инструмента необходимо выполнить следующие шаги:

• Установить необходимые компоненты.
• Настроить сбор данных с помощью соответствующих агентов.
• Запустить инструмент обнаружения и диагностики неисправностей. Обновление конфигурационного файла и компиляция исходного кода

Клонируйте или скачайте данный репозиторий на локальный компьютер и обновите файл конфигурации /src/config.xml. В этом файле замените адреса сервисов Kubernetes, адрес приватного репозитория образов и другие записи на реальные адреса. Затем скомпилируйте исходный код в пакет war или другой формат на локальном компьютере или сервере. После компиляции опубликуйте полученный пакет в кластере серверов Tomcat.

Проверка установки

Запустите сервер Tomcat в кластере. В зависимости от IP-адреса сервера и настроек портов получите доступ к URL http://YourIP:YourPort/detection. Проверьте, работает ли инструмент корректно.

Прочее

Если у вас возникли проблемы при использовании инструмента или вы обнаружили ошибку, пожалуйста, оставьте свой отзыв или предложение в разделе Issues данного репозитория.