当前位置:主页 > 中学教育
【原创】【Github】FictionDown 网络小说爬取工具,支持自动校对、多格式转换

 

Github地址为: https://github.com/ma6254/FictionDown
gituhb的用户名和我52pojie的用户名是一样的
下载链接在github的release里
小说爬取类的网上较多,基本上每个看小说的程序员应该都写过类似的东西
这个解决的是章节缺失和章节顺序错乱的问题
还内置了简单的广告过滤,实际上大部分需要手动删除
我学Golang没多长时间,这个算是练手

阅读器:
我安卓上用得的是readera,Mac上用的是calibre

a24.gif (319.22 KB, 下载次数: 15)

下载附件

运行时

2019-3-14 01:48 上传



屏幕快照 2019-03-09 上午12.15.54.png (447.2 KB, 下载次数: 12)

下载附件

书库

2019-3-14 01:49 上传



以下是README的内容(删去了部分内容)

FictionDown

License


release_version


last-commit


Download Count

godoc

travis-ci

特性

以起点为样本,多站点多线程爬取校对

支持导出txt,以兼容大多数阅读器

支持导出markdown,可以用pandoc转换成epub,保留书本信息、卷结构、作者信息

内置简单的广告过滤(现在还不完善)

用Golang编写,安装部署方便,外部依赖只有PhantomJS

使用流程

输入起点链接

获取到书本信息,开始爬取每章内容,遇到vip章节放入Example中作为校对样本

手动设置笔趣阁等盗版小说的对应链接,tamp字段

再次启动,开始爬取,只爬取VIP部分,并跟Example进行校对

手动编辑对应的缓存文件,手动删除广告和某些随机字符(有部分是关键字,可能会导致pandoc内存溢出或者样式错误)

d -f md生成markwown

用pandoc转换成epub,pandoc -o xxxx.epub xxxx.md

Example > ./FictionDown --url https://book.qidian.com/info/3249362 d # 获取正版信息 # 有时会发生`not match volumes`的错误,请启用Chromedp或者PhantomJS # Use Chromedp > ./FictionDown --url https://book.qidian.com/info/3249362 d --driver chromedp # Use PhantomJS > ./FictionDown --url https://book.qidian.com/info/3249362 d --driver phantomjs > vim 一世之尊.FictionDown # 加入盗版小说链接 > ./FictionDown -i 一世之尊.FictionDown d -f md # 获取盗版内容 > pandoc -o 一世之尊.epub 一世之尊.md 未实现

爬取起点的时候带上Cookie,用于爬取已购买章节

支持刺猬猫(即“欢乐书客”)

支持直接输出epub,不需要pandoc

支持小说站内搜索

多线程转换md

整理main包中的面条逻辑

整理命令行参数风格

在windows下,md转换到epub时有路径问题

完善广告过滤

简化使用步骤

优化log输出

书本简介也应该为HTML。即<p>  </p>而不是现在的用\t和\n

编译

包管理采用godep

dep ensure -v

make or make build 当前目录下就会产生可执行文件

交叉编译

需要安装gox

make multiple_build

支持的盗版站点

随机挑选了几个,实际上有些过于旧的书和作者频繁修改的书是爬不全的


 

免费评分 参与人数 20吾爱币 +25 热心值 +19 理由

saberqer1
  + 1   + 1   谢谢@Thanks!  

MaxHHH
  + 1   + 1   我很赞同!  

gg5201314
  + 1   可以添加飞卢和菠萝包吗?  

WarnSake
  + 1   + 1   谢谢@Thanks!  

吴夜
  + 1   你可以看看KindleHelper,写的很完善  

elaplace
  + 1   + 1   热心回复!  

dtchiwei
  + 1   + 1   谢谢@Thanks!  

jinxu99
  + 1   + 1   我很赞同!  

18001175805
  + 1   + 1   谢谢@Thanks!  

a913381753
  + 1   + 1   用心讨论,共获提升!  

nat
  + 1   + 1   谢谢@Thanks!  

osboy
  + 1   + 1   感谢发布原创作品,吾爱破解论坛因你更精彩!  

gs129003
  + 1   + 1   谢谢@Thanks!  

sodeep
  + 1   + 1   谢谢@Thanks!  

小觐蓝
  + 1   + 1   我很赞同!  

WilliamDing
  + 1   感谢发布原创作品,吾爱破解论坛因你更精彩!  

wangkai558
  + 1   + 1   感谢发布原创作品,吾爱破解论坛因你更精彩!  

云在天
  + 6   + 1   感谢发布原创作品,吾爱破解论坛因你更精彩!  

Webrobot
  + 3   + 1   感谢发布原创作品,吾爱破解论坛因你更精彩!  

赵先生
  + 1   + 1   谢谢@Thanks!  

查看全部评分