1 В избранное 0 Ответвления 0

OSCHINA-MIRROR/Hu-Lyndon-streamsets-start-asset

В этом репозитории не указан файл с открытой лицензией (LICENSE). При использовании обратитесь к конкретному описанию проекта и его зависимостям в коде.
Клонировать/Скачать
10.Edge采集windows日志写入kafka测试.md 6 КБ
Копировать Редактировать Web IDE Исходные данные Просмотреть построчно История
Отправлено 09.06.2025 14:20 9a477ac

10. Тестирование записи логов Windows в Kafka с использованием Edge

Запуск DataCollector в WSL

ulimit -SHn 65535
./bin/streamsets dc > ./log/start.log 2>&1

image-20200408193420899

Доступ к пользовательскому интерфейсу DataCollector

Откройте браузер и перейдите по адресу http://localhost:18630/

По умолчанию имя пользователя/пароль: admin/admin

image-20200408193730904

Локальная установка экземпляра Edge на Windows

Вы можете распаковать пакет операционной системы Windows из каталога edge-binaries и сохранить его в любом каталоге, который вы выберете.

image-20200408194208727

Запуск экземпляра Edge с правами администратора

# По умолчанию Edge создает логи в каталоге log, но для удобства отладки мы добавляем два параметра: -debug для включения режима отладки и -logToConsole для вывода логов в консоль
.\bin\edge.exe -debug -logToConsole

image-20200408193943013

Из логов видно, что мы запустили экземпляр Edge на Windows, и он доступен по HTTP-порту 18633

Создание нового конвейера

image-20200408194857034

Здесь мы заполняем заголовок и описание для нового конвейера. Затем мы выбираем конвейер Data Collector Edge Pipeline.

Настройка конвейера

В разделе General -> Data Collector Edge URL введите адрес запущенного модуля Edge

image-20200408201130428

В разделе Error Records выберите Discardimage-20200408201520639

Настройка источника данных для получения системных логов Windows

Нажмите на кнопке Start справа, чтобы открыть панель StageLibrary, и выберите Stage Windows Event Log

image-20200408201824228

В панели Windows выберите System в поле Windows log to read from

image-20200408202032157

Запуск экземпляра Zookeeper на локальной машине

Перейдите в каталог $ZOOKEEPER_HOME\bin, и выполните команду .\bin\zkServer.cmd, чтобы запустить экземпляр Zookeeper на локальной машине. По умолчанию используется порт 2181

image-20200408202617426

Запуск экземпляра Kafka на локальной машине

Перейдите в каталог $KAFKA_HOME, и выполните команду .\bin\windows\kafka-server-start.bat .\config\server.properties, чтобы запустить экземпляр Kafka на локальной машине. По умолчанию используется порт 9092

image-20200408202757271

Создайте тестовую тему

.\bin\windows\kafka-topics.bat --create --zookeeper localhost:2181 --replication-factor 1 --partitions 1 --topic logstest

Просмотр информации о теме

# Просмотр списка всех тем
$ .\bin\windows\kafka-topics.bat --list --zookeeper localhost:2181
__consumer_offsets
benthos_stream
logstest
test0

# Просмотр информации о конкретной теме
$ .\bin\windows\kafka-topics.bat --zookeeper localhost:2181 --describe --topic logstest
Topic: logstest PartitionCount: 1       ReplicationFactor: 1    Configs:
        Topic: logstest Partition: 0    Leader: 0       Replicas: 0     Isr: 0

Запуск потребителя для просмотра данных из Windows System Log```powershell

.\bin\windows\kafka-console-consumer.bat --bootstrap-server localhost:9092 --topic logstest --from-beginning


## Настройка назначения

Откройте панель StageLibrary, выберите назначения, затем выберите Kafka Producer.

В поле Broker URI введите стандартный адрес kafka `localhost:9092`.

В поле Topic введите имя темы, которое вы только что создали `logstest`.

Наконец, в панели Container перетяните круглый значок Windows Event Log вправо к Kafka Producer, чтобы соединить два компонента.

![image-20200408203753270](./image/image-20200408203753270.png)

## Запуск теста

Наконец, нажмите кнопку Publish и кнопку Start, как показано на рисунке.

![image-20200408204300450](./image/image-20200408204300450.png)

Возвращаясь к окну потребителя kafka, вы увидите, что логи Windows были записаны в kafka и затем прочитаны потребителем.

![image-20200408204419148](./image/image-20200408204419148.png)

## Мониторинг

После нажатия кнопки Start, ваша конвейерная линия запускается, и вы можете увидеть соответствующие данные мониторинга ниже.

![image-20200408204731152](./image/image-20200408204731152.png)

Опубликовать ( 0 )

Вы можете оставить комментарий после Вход в систему

1
https://api.gitlife.ru/oschina-mirror/Hu-Lyndon-streamsets-start-asset.git
git@api.gitlife.ru:oschina-mirror/Hu-Lyndon-streamsets-start-asset.git
oschina-mirror
Hu-Lyndon-streamsets-start-asset
Hu-Lyndon-streamsets-start-asset
master