软件介绍
Heritrix是一款具有高度扩展性的网络爬虫工具,这款软件除了可以提供与其它同类软件一样的网络资源抓取功能外,还支持使用用户自定义逻辑进行抓取,让用户可以获得更有针对性的内容,省去之后大量的删选时间。
软件特色
1.Heritrix爬虫工具的主要部件都是高效可扩展的。
2.使用先进的广度优先算法进行处理,让用户获得更好的内容。
3.从一个提供的种子进行爬,收集站点内的精确URI,和精确主机。
4.用单个爬虫在多个独立的站点一直不断的进行递归的爬。
软件功能
可设置输出日志,归档文件和临时文件的位置。
可设置下载的最大字节,最大数量的下载文档,和最大的下载时间。
可设置工作线程数量。
可设置所利用的带宽的上界。
可在设置之后一定时间重新选择。
包含一些可设置的过滤机制,表达方式,URI路径深度选择等等。
安装方法
1、等待Heritrix下载完成
2、解压文件(推荐winrar压缩软件)
3、开始安装Heritrix爬虫工具
下载地址
同类软件
用户评论
所有评论(5)
- 精选留言 来自浙江绍兴联通用户 发表于: 2023-10-15
- 刚好需要用
- 精选留言 来自广西钦州移动用户 发表于: 2023-12-2
- 不错不错
- 精选留言 来自云南昆明电信用户 发表于: 2023-6-7
- 这个值得拥有
- 精选留言 来自湖北襄樊移动用户 发表于: 2023-4-16
- 谢谢,值得一用!!!
- 精选留言 来自江西鹰潭电信用户 发表于: 2023-8-13
- 好用! 谢谢啦,继续加油哦!永远支持你们!