CarpoSpark
Создание DAG-процесса Spark на основе конфигурации из JSON. Больше не нужно разрабатывать разные программы Spark в соответствии с разными требованиями.
В настоящее время поддерживаются следующие операции:
Можно настроить выходной каталог и формат файла.
Формат:
{
"id": "spark_00002",
"name": "Объединение с последующей фильтрацией",
"size": 10,
"postfix": "test",
"suffix": "",
"extension": "csv",
"format": "",
"output": "/data/spark/testout",
"split": "|",
"nodes": {
"node_11": {
"input": "/data/grid/*.csv",
"type": "input"
},
"node_12": {
"type": "filter_col",
"split": ",",
"fields": {
"time": {
"name": "time",
"text": "time",
"idx": "0"
},
"type": {
"name": "type",
"text": "type",
"idx": "1"
}
}
},
"node_13": {
"type": "map",
"split": ",",
"key_col": -1
},
"node_21": {
"input": "/data/num/*.csv",
"type": "input"
},
"node_22": {
"type": "filter_col",
"split": ",",
"fields": {
"time": {
"name": "time",
"text": "time",
"idx": "0"
},
"type": {
"name": "type",
"text": "type",
"idx": "1"
}
}
},
"node_23": {
"type": "map",
"split": ",",
"key_col": -1
},
"node_8": {
"type": "distinct"
},
"node_6": {
"type": "output",
"time_col": "0",
"time_format1": "yyyyMMdd",
"time_format2": "yyyy",
"split": ",",
"fields": {
"time": {
"name": "time",
"text": "time",
"idx": "0"
},
"type": {
"name": "type",
"text": "type",
"idx": "1"
}
}
},
"node_1": {
"type": "union"
}
},
"lines": {
"line_4": {
"inputs": "node_21",
"outputs": "node_22"
},
"line_5": {
"inputs": "node_22",
"outputs": "node_23"
},
"line_6": {
"inputs": "node_23",
"outputs": "node_1"
},
"line_1": {
"inputs": "node_11",
"outputs": "node_12"
},
"line_2": {
"inputs": "node_12",
"outputs": "node_13"
},
"line_3": {
"inputs": "node_13",
"outputs": "node_1"
},
"line_7": {
"inputs": "node_1",
"outputs": "node_8"
},
"line_8": {
"inputs": "node_8",
"outputs": "node_6"
}
}
}
Вы можете оставить комментарий после Вход в систему
Неприемлемый контент может быть отображен здесь и не будет показан на странице. Вы можете проверить и изменить его с помощью соответствующей функции редактирования.
Если вы подтверждаете, что содержание не содержит непристойной лексики/перенаправления на рекламу/насилия/вульгарной порнографии/нарушений/пиратства/ложного/незначительного или незаконного контента, связанного с национальными законами и предписаниями, вы можете нажать «Отправить» для подачи апелляции, и мы обработаем ее как можно скорее.
Комментарии ( 0 )