先说一下作用：
网站链接抓取器顾名思义，主要是用来抓取网站链接的。
也就是输入一个网站的首页地址，然后软件可以把整个网站页面地址给抓取下来并保存。
有啥作用呢？
一、制作网站地图
使用软件保存的TXT。直接上传到网站根目录就可以成为一个简单的TXT网站地图。
制作成网站地图后，可到 http://zhanzhang.baidu.com/sitemap/index 进行提交，以增加收录。
二、检查失误。
所谓的失误，是指某些后台链接。不想让用户知道的。但是由于不小心在程序的某个地方有该网页的链接自己没注意到。这时候就可以使用软件把整个网站的链接抓取下来。然后检查看看有没有敏感链接。
三、检查收录。
可以查看一下百度对本站的索引量。然后使用软件把网站的所有链接都抓取下来。看看数量上的差距是否比较大。如果差距过大，则要注意是否空间不稳定或者文章质量太低或者暴光率太低。
使用方法：
1、输入需要抓取的网站首页地址。
2、设置线程数量。（线程越少，速度越慢，耗CPU及网速越低，越不容易漏掉链接。线程越多，速度越快，耗CPU及网速越高，漏抓取机率高。）
3、设置包含或排除规则。(使用方法见：https://wuyublog.com/wuyufenxiang/398.html)
4、选择抓取后的链接保存地址。（注：如果选择的TXT名称为 abc.txt的话。软件会保存为 abc_*.txt 的形式）
5、选择每个TXT保存的条数。（以第3条举例，如果这里设置为5000，当abc_1.txt保存的链接数到达5000，后面的链接会自动保存到abc_2.txt里，依此类推。）
6、开始
下载地址：
【百度网盘】
