1.0.9 • Published 1 year ago
ficbook-feeds-parser-test v1.0.9
Ficbook Feeds Observer
Парсер для сайта ficbook.net, отслеживающий появление новых фанфиков в выбранных фандомах, пэйрингах или жанрах.
Представлено два вида парсеров
1) С использованием базы данных в облачном хранилище. 2) С использованием хранящегося локально файла.
Шаги установки парсера
Создание проекта
- Создайте на компьютере папку с любым названием.
- Находясь в корне проекта, введите в терминале (cmd в Windows) команду:
npm init- Установите парсер, введя команду:
npm install ficbook-feeds-observerСоздание базы данных
- Зарегистрируйтесь на сайте cloud.mongodb.com и создайте новый кластер (на данный момент, чтобы зайти на сайт, требуется VPN).
- Создайте в кластере базу данных с названием
fanficsdb, а внутри нее коллекцию с названиемfanfics. - Создайте юзера со всеми правами.
- Создайте в
fanficsобъекты c названием нужного вам фэндома или пэринга, ссылкой на него и количеством фанфиков в значении 0.
- Выглядеть должно так:
{ "_id": {"$oid": "5fbd52194c8f4b6314d6b5e1"}, "name": "Гарри Поттер", "url": "https://ficbook.net/fanfiction/books/harri_potter", "count": 0 } - ID создается автоматически.
- В ссылке на пэйринг закодируйте кириллицу в кодировке UTF-8 . Пример ссылки:
https://ficbook.net/pairings/%D0%9D%D1%83%D0%B0%D0%B4%D0%B0---%D0%9D%D1%83%D0%B0%D0%BB%D0%B0
Подключение базы данных
- Создайте в корне проекта папку
data, а внутри нее файлuri.js. - Пропишите в файле
uri.jsстроку:
module.exports = "mongodb+srv://<username>:<password>@<clustername>
.xmsaf.mongodb.net/?retryWrites=true&w=majority&appName=<Clustername>";- В этой же строке поменяйте значения
username,password,clusternameна ваши значения.
Использование парсера
- Создайте в корне проекта файл
index.jsи пропишите там строки:
const observer = require("ficbook-feeds-observer");
const data = require('./data/uri');
observer(data);- Запустите парсер стандартной командой
node indexилиnode .в терминале. Первый запуск парсера добавит количество фанфиков в базу данных. Последующие запуски отобразят количество новых фанфиков при их наличии.
Хранение данных локально
При желании вы можете хранить данные не в базе данных, а локально в файле fanfics.json. Для этого
воспользуйтесь следующей инструкцией.
ВАЖНО!
При запуске парсера желательно хотя бы некоторое время проследить за ходом выполнения парсинга. Если вам кажется, что во
время парсинга что-то пошло не так, нажмите CTRL+C для завершения процесса.