1.0.9 • Published 1 year ago
ficbook-feeds-parser-test v1.0.9
Ficbook Feeds Observer
Парсер для сайта ficbook.net, отслеживающий появление новых фанфиков в выбранных фандомах, пэйрингах или жанрах.
Представлено два вида парсеров
1) С использованием базы данных в облачном хранилище. 2) С использованием хранящегося локально файла.
Шаги установки парсера
Создание проекта
- Создайте на компьютере папку с любым названием.
- Находясь в корне проекта, введите в терминале (cmd в Windows) команду:
npm init
- Установите парсер, введя команду:
npm install ficbook-feeds-observer
Создание базы данных
- Зарегистрируйтесь на сайте cloud.mongodb.com и создайте новый кластер (на данный момент, чтобы зайти на сайт, требуется VPN).
- Создайте в кластере базу данных с названием
fanficsdb
, а внутри нее коллекцию с названиемfanfics
. - Создайте юзера со всеми правами.
- Создайте в
fanfics
объекты c названием нужного вам фэндома или пэринга, ссылкой на него и количеством фанфиков в значении 0.
- Выглядеть должно так:
{ "_id": {"$oid": "5fbd52194c8f4b6314d6b5e1"}, "name": "Гарри Поттер", "url": "https://ficbook.net/fanfiction/books/harri_potter", "count": 0 }
- ID создается автоматически.
- В ссылке на пэйринг закодируйте кириллицу в кодировке UTF-8 . Пример ссылки:
https://ficbook.net/pairings/%D0%9D%D1%83%D0%B0%D0%B4%D0%B0---%D0%9D%D1%83%D0%B0%D0%BB%D0%B0
Подключение базы данных
- Создайте в корне проекта папку
data
, а внутри нее файлuri.js
. - Пропишите в файле
uri.js
строку:
module.exports = "mongodb+srv://<username>:<password>@<clustername>
.xmsaf.mongodb.net/?retryWrites=true&w=majority&appName=<Clustername>";
- В этой же строке поменяйте значения
username
,password
,clustername
на ваши значения.
Использование парсера
- Создайте в корне проекта файл
index.js
и пропишите там строки:
const observer = require("ficbook-feeds-observer");
const data = require('./data/uri');
observer(data);
- Запустите парсер стандартной командой
node index
илиnode .
в терминале. Первый запуск парсера добавит количество фанфиков в базу данных. Последующие запуски отобразят количество новых фанфиков при их наличии.
Хранение данных локально
При желании вы можете хранить данные не в базе данных, а локально в файле fanfics.json
. Для этого
воспользуйтесь следующей инструкцией.
ВАЖНО!
При запуске парсера желательно хотя бы некоторое время проследить за ходом выполнения парсинга. Если вам кажется, что во
время парсинга что-то пошло не так, нажмите CTRL+C
для завершения процесса.