7 15512

数据DIY问题

Sandy0605 于 2019-4-15 09:31 发表 [复制链接]

数据DIY里面采集58同城的小区列表,不管输入样例网址还是与网页结构相同的其他网址都采集数据失败?

每次的日志都是一样的结果:
抓取失败(超时),抓取规则不合适或者超时时间设置太短
没有线索了,可添加新线索或者激活已有的线索

求大神帮忙解答下




举报 使用道具
| 回复

共 7 个关于本帖的回复 最后回复于 2019-4-15 17:52

Fuller 管理员 发表于 2019-4-15 11:40:12 | 显示全部楼层
我测试了,确实是规则不适应网页了,我们修改一下
举报 使用道具
wangyong 版主 发表于 2019-4-15 12:03:13 | 显示全部楼层
规则修改好了,现在可以采集了
举报 使用道具
Sandy0605 新手上路 发表于 2019-4-15 17:18:59 | 显示全部楼层
wangyong 发表于 2019-4-15 12:03
规则修改好了,现在可以采集了

自定义规则爬取数据时,每加载两个网页,就出错一次,请问这是什么原因
举报 使用道具
Fuller 管理员 发表于 2019-4-15 17:24:35 | 显示全部楼层
Sandy0605 发表于 2019-4-15 17:18
自定义规则爬取数据时,每加载两个网页,就出错一次,请问这是什么原因
...

你可以把定义的规则的主题名发出来,帮你检查一下
举报 使用道具
Sandy0605 新手上路 发表于 2019-4-15 17:31:29 | 显示全部楼层
Fuller 发表于 2019-4-15 17:24
你可以把定义的规则的主题名发出来,帮你检查一下

日照房产小区下半段详情信息规则
举报 使用道具
Sandy0605 新手上路 发表于 2019-4-15 17:49:55 | 显示全部楼层
Fuller 发表于 2019-4-15 17:24
你可以把定义的规则的主题名发出来,帮你检查一下

TIM截图20190415174852.png
举报 使用道具
Fuller 管理员 发表于 2019-4-15 17:52:35 | 显示全部楼层
Sandy0605 发表于 2019-4-15 17:31
日照房产小区下半段详情信息规则

定位标志20190415175044.png

所有抓取内容都用上定位标志映射吧,即使最顶上的容器节点,也用一个定位标志映射,从“商圈区域1”往下的抓取内容,都用同一个定位标志映射。这样把网页区域划的很清楚,可能规则的适应性就会很好
举报 使用道具
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • Gephi社会网络分析-马蜂窝游记文本分词并同
  • Gephi社会网络分析-基于马蜂窝游记文本以词
  • 知乎话题文本根据词语间距筛选后生成共词矩
  • 马蜂窝游记文本分词后以词语间距为筛选条件
  • 学习使用apriori算法挖掘关联关系

热门用户

GMT+8, 2024-3-29 12:56