1 В избранное 0 Ответвления 0

OSCHINA-MIRROR/rock117-web-crawler

Присоединиться к Gitlife
Откройте для себя и примите участие в публичных проектах с открытым исходным кодом с участием более 10 миллионов разработчиков. Приватные репозитории также полностью бесплатны :)
Присоединиться бесплатно
Клонировать/Скачать
README.md 792 Байты
Копировать Редактировать Web IDE Исходные данные Просмотреть построчно История
Отправлено 14.03.2025 09:26 f9464b5

#web-crawler Простой веб-кран, реализованный с использованием Scala + Akka. Этот кран может указывать правила фильтрации, а также использовать различные методы хранения данных (хранение в файлах, базах данных и т.д.). Пример использования приведён ниже:

new Crawler()
  .source(ArrayBuffer("http://money.163.com/stock/"))
  .processor(FileStore("d:/crawl-sites").process)
  .filter((url: String) => {
    url.contains("163.com")
  })
  .start

Обратите внимание, что структура и разметка были сохранены как в исходном тексте.

Опубликовать ( 0 )

Вы можете оставить комментарий после Вход в систему

1
https://api.gitlife.ru/oschina-mirror/rock117-web-crawler.git
git@api.gitlife.ru:oschina-mirror/rock117-web-crawler.git
oschina-mirror
rock117-web-crawler
rock117-web-crawler
master