ulimit -SHn 65535
./bin/streamsets dc > ./log/start.log 2>&1
Откройте браузер и перейдите по адресу http://localhost:18630/
По умолчанию имя пользователя/пароль: admin/admin
Вы можете распаковать пакет операционной системы Windows из каталога edge-binaries и сохранить его в любом каталоге, который вы выберете.
# По умолчанию Edge создает логи в каталоге log, но для удобства отладки мы добавляем два параметра: -debug для включения режима отладки и -logToConsole для вывода логов в консоль
.\bin\edge.exe -debug -logToConsole
Из логов видно, что мы запустили экземпляр Edge на Windows, и он доступен по HTTP-порту 18633
Здесь мы заполняем заголовок и описание для нового конвейера. Затем мы выбираем конвейер Data Collector Edge Pipeline.
В разделе General -> Data Collector Edge URL введите адрес запущенного модуля Edge
В разделе Error Records выберите Discard
Нажмите на кнопке Start справа, чтобы открыть панель StageLibrary, и выберите Stage Windows Event Log
В панели Windows выберите System
в поле Windows log to read from
Перейдите в каталог $ZOOKEEPER_HOME\bin, и выполните команду .\bin\zkServer.cmd
, чтобы запустить экземпляр Zookeeper на локальной машине. По умолчанию используется порт 2181
Перейдите в каталог $KAFKA_HOME, и выполните команду .\bin\windows\kafka-server-start.bat .\config\server.properties
, чтобы запустить экземпляр Kafka на локальной машине. По умолчанию используется порт 9092
.\bin\windows\kafka-topics.bat --create --zookeeper localhost:2181 --replication-factor 1 --partitions 1 --topic logstest
# Просмотр списка всех тем
$ .\bin\windows\kafka-topics.bat --list --zookeeper localhost:2181
__consumer_offsets
benthos_stream
logstest
test0
# Просмотр информации о конкретной теме
$ .\bin\windows\kafka-topics.bat --zookeeper localhost:2181 --describe --topic logstest
Topic: logstest PartitionCount: 1 ReplicationFactor: 1 Configs:
Topic: logstest Partition: 0 Leader: 0 Replicas: 0 Isr: 0
.\bin\windows\kafka-console-consumer.bat --bootstrap-server localhost:9092 --topic logstest --from-beginning
## Настройка назначения
Откройте панель StageLibrary, выберите назначения, затем выберите Kafka Producer.
В поле Broker URI введите стандартный адрес kafka `localhost:9092`.
В поле Topic введите имя темы, которое вы только что создали `logstest`.
Наконец, в панели Container перетяните круглый значок Windows Event Log вправо к Kafka Producer, чтобы соединить два компонента.

## Запуск теста
Наконец, нажмите кнопку Publish и кнопку Start, как показано на рисунке.

Возвращаясь к окну потребителя kafka, вы увидите, что логи Windows были записаны в kafka и затем прочитаны потребителем.

## Мониторинг
После нажатия кнопки Start, ваша конвейерная линия запускается, и вы можете увидеть соответствующие данные мониторинга ниже.

Вы можете оставить комментарий после Вход в систему
Неприемлемый контент может быть отображен здесь и не будет показан на странице. Вы можете проверить и изменить его с помощью соответствующей функции редактирования.
Если вы подтверждаете, что содержание не содержит непристойной лексики/перенаправления на рекламу/насилия/вульгарной порнографии/нарушений/пиратства/ложного/незначительного или незаконного контента, связанного с национальными законами и предписаниями, вы можете нажать «Отправить» для подачи апелляции, и мы обработаем ее как можно скорее.
Опубликовать ( 0 )