1.0.9 • Published 1 year ago

ficbook-feeds-parser-test v1.0.9

Weekly downloads
-
License
MIT
Repository
github
Last release
1 year ago

Ficbook Feeds Observer

Парсер для сайта ficbook.net, отслеживающий появление новых фанфиков в выбранных фандомах, пэйрингах или жанрах.

Представлено два вида парсеров

1) С использованием базы данных в облачном хранилище. 2) С использованием хранящегося локально файла.

Шаги установки парсера

Создание проекта

  1. Создайте на компьютере папку с любым названием.
  2. Находясь в корне проекта, введите в терминале (cmd в Windows) команду:
npm init
  1. Установите парсер, введя команду:
npm install ficbook-feeds-observer

Создание базы данных

  1. Зарегистрируйтесь на сайте cloud.mongodb.com и создайте новый кластер (на данный момент, чтобы зайти на сайт, требуется VPN).
  2. Создайте в кластере базу данных с названием fanficsdb, а внутри нее коллекцию с названием fanfics.
  3. Создайте юзера со всеми правами.
  4. Создайте в fanfics объекты c названием нужного вам фэндома или пэринга, ссылкой на него и количеством фанфиков в значении 0.
  • Выглядеть должно так: { "_id": {"$oid": "5fbd52194c8f4b6314d6b5e1"}, "name": "Гарри Поттер", "url": "https://ficbook.net/fanfiction/books/harri_potter", "count": 0 }
  • ID создается автоматически.
  • В ссылке на пэйринг закодируйте кириллицу в кодировке UTF-8 . Пример ссылки: https://ficbook.net/pairings/%D0%9D%D1%83%D0%B0%D0%B4%D0%B0---%D0%9D%D1%83%D0%B0%D0%BB%D0%B0

Подключение базы данных

  1. Создайте в корне проекта папку data, а внутри нее файл uri.js.
  2. Пропишите в файле uri.js строку:
module.exports = "mongodb+srv://<username>:<password>@<clustername>
.xmsaf.mongodb.net/?retryWrites=true&w=majority&appName=<Clustername>";
  1. В этой же строке поменяйте значения username, password, clustername на ваши значения.

Использование парсера

  1. Создайте в корне проекта файл index.js и пропишите там строки:
const observer = require("ficbook-feeds-observer");
const data = require('./data/uri');
observer(data);
  1. Запустите парсер стандартной командой node index или node . в терминале. Первый запуск парсера добавит количество фанфиков в базу данных. Последующие запуски отобразят количество новых фанфиков при их наличии.

Хранение данных локально

При желании вы можете хранить данные не в базе данных, а локально в файле fanfics.json. Для этого воспользуйтесь следующей инструкцией.

ВАЖНО!

При запуске парсера желательно хотя бы некоторое время проследить за ходом выполнения парсинга. Если вам кажется, что во время парсинга что-то пошло не так, нажмите CTRL+C для завершения процесса.

1.0.9

1 year ago

1.0.7

1 year ago

1.0.6

1 year ago

1.0.5

1 year ago

1.0.4

1 year ago

1.0.3

1 year ago

1.0.2

1 year ago

1.0.1

1 year ago

1.0.0

1 year ago