• дыбр погроммирование scraping анализ и написание сценариев для web scraping в связке с REPL — одно удовольствие!
    — продумываю уменьшение нагрузки на целевой ресурс, чтобы не засылать туда 400K запросов.
    — нужен ещё один сценарий для сбора метаданных.
    — нужно понять, что не так со скроллингом, он, как бы это сказать, проскальзывает. возможно, и существующие сценарии для фантома с заглушками есть шанс реанимировать. проблема с ним воспроизвелась и локально. имея на руках REPL+браузер + любимый хаскелль, в которых можно производить отладку сценариев наглядно, без JS, видеть живую страницу в любой момент времени.

Replies (3)