1 В избранное 0 Ответвления 0

OSCHINA-MIRROR/zhangyingwei-cockroach

Присоединиться к Gitlife
Откройте для себя и примите участие в публичных проектах с открытым исходным кодом с участием более 10 миллионов разработчиков. Приватные репозитории также полностью бесплатны :)
Присоединиться бесплатно
Клонировать/Скачать
TASK.md 1.8 КБ
Копировать Редактировать Web IDE Исходные данные Просмотреть построчно История
gitlife-traslator Отправлено 29.11.2024 02:38 59e54b6

cockroach 爬虫

  • httpclient дизайн всё ещё недостаточно изящный √
  • httperrorhandler можно рассмотреть добавление использования исключений в режиме прокси, чтобы обеспечить унифицированное управление √

Далее:

  • заменить способ печати журналов на использование log4j или logback √
  • добавить метод login для получения cookie авторизации (рассмотреть необходимость)
  • task приоритет √
  • для IP-адресов прокси необходимо абстрагировать интерфейс, который может быть реализован для реального времени
  • queue сделать постоянным
  • поддерживать POST запросы
  • добавить поддержку watcher для мониторинга
  • повторная попытка после сбоя всё ещё слишком низкоуровневая
  • необходимо перестроить httpclient

С новым годом и новыми начинаниями, давайте пересчитывать всю работу

  • кажется, что httpclient всё ещё нужно переделать заново, переделали так √
  • здесь срочно нужна рендеринг страницы
  • регулярное выражение здесь, стоит ли продолжать?
  • мониторинг watcher требует долгосрочного планирования
  • IP-адреса прокси нужно выделить в отдельный сервис

Опубликовать ( 0 )

Вы можете оставить комментарий после Вход в систему

1
https://api.gitlife.ru/oschina-mirror/zhangyingwei-cockroach.git
git@api.gitlife.ru:oschina-mirror/zhangyingwei-cockroach.git
oschina-mirror
zhangyingwei-cockroach
zhangyingwei-cockroach
master