1 В избранное 0 Ответвления 0

OSCHINA-MIRROR/rock117-web-crawler

Присоединиться к Gitlife
Откройте для себя и примите участие в публичных проектах с открытым исходным кодом с участием более 10 миллионов разработчиков. Приватные репозитории также полностью бесплатны :)
Присоединиться бесплатно
Клонировать/Скачать
Внести вклад в разработку кода
Синхронизировать код
Отмена
Подсказка: Поскольку Git не поддерживает пустые директории, создание директории приведёт к созданию пустого файла .keep.
Loading...
README.md

#web-crawler Простой веб-кран, реализованный с использованием Scala + Akka. Этот кран может указывать правила фильтрации, а также использовать различные методы хранения данных (хранение в файлах, базах данных и т.д.). Пример использования приведён ниже:

new Crawler()
  .source(ArrayBuffer("http://money.163.com/stock/"))
  .processor(FileStore("d:/crawl-sites").process)
  .filter((url: String) => {
    url.contains("163.com")
  })
  .start

Обратите внимание, что структура и разметка были сохранены как в исходном тексте.

Комментарии ( 0 )

Вы можете оставить комментарий после Вход в систему

Введение

Простой веб-краулер, реализованный с помощью Scala Akka. Развернуть Свернуть
GPL-2.0
Отмена

Обновления

Пока нет обновлений

Участники

все

Недавние действия

Загрузить больше
Больше нет результатов для загрузки
1
https://api.gitlife.ru/oschina-mirror/rock117-web-crawler.git
git@api.gitlife.ru:oschina-mirror/rock117-web-crawler.git
oschina-mirror
rock117-web-crawler
rock117-web-crawler
master