我是同一个规则 然后也激活了全部线索,抓取完第一个网页之后就发现不跳网页了。。。如图
我要怎么做才能让他自己跳转网页抓取
3913.tmp.jpg
举报 使用道具
| 回复

共 1 个关于本帖的回复 最后回复于 2016-3-10 11:22

Fuller 管理员 发表于 2016-3-10 11:22:18 | 显示全部楼层
有好几个方案解决这个问题:
1,方案1:最简单,设置DS菜单 高级-》中断标志-》重复内容,如果最后重复采集,最多重复3次
2,方案2:重复线索,如果还有下一级主题,这一级要为下一级抓取网址,那么在会员中心-》爬虫管理-》规则管理那里,设置调度参数,其中可以设置重复容忍度,比如80%。这样打开爬虫群模式:http://www.gooseeker.com/doc/article-200-1.html
3,方案3:分析DOM,尤其是最后一页的@class值是否有不同,如果不同,可以利用这一点,手工修改翻页规则,当发现@class值变了,就不翻页了。
你先用方案1或者2解决一下试试
举报 使用道具
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • Gephi社会网络分析-马蜂窝游记文本分词并同
  • Gephi社会网络分析-基于马蜂窝游记文本以词
  • 知乎话题文本根据词语间距筛选后生成共词矩
  • 马蜂窝游记文本分词后以词语间距为筛选条件
  • 学习使用apriori算法挖掘关联关系

热门用户

GMT+8, 2024-4-18 08:21