豆瓣租房小组爬虫介绍
豆瓣租房小组爬虫是一款采集豆瓣租房小组信息的工具,能够帮助中介或者找房源的用户快速找到适合自己的房源,可以甄别筛选,能够自定义筛选条件,有需要的用户不要错过了,欢迎下载使用!
使用说明
此爬虫用python开发,基于gevent、pymongo、requests、lxml、Flask。
流程也相对较简单:
配置需要爬取的URL;
配置需要解析的信息元素,用XPATH完成;
配置代理;
配置监控周期、最大页数、并发数等;
运行爬虫,等待抓取,会自动根据配置定时爬取;
启动web服务,在前台搜索、排序等;
使用方法
一、下载打开软件,首先设置要找的房源的地址。
二、接下来设置理想价位和排除关键词。
三、点击爬取即可获取房源信息,等待软件获取相关关键词房源。
四、利用typora软件打开爬取下来的MD文件即可看到房源信息。
常见问题
如何设置豆瓣群组链接?
首先搜索某个地区租房,例如:北京租房
点进去要爬取的某个小组,例如第一个:北京租房
将页面拉到最下面有个> 更多小组讨论超链接,点进去
**地址栏中地址(从/group开始**到结尾),粘贴到软件设置豆瓣群组链接
有时候粘贴进软件会崩溃,不知道什么原因,建议把软件中原来的链接删除再粘贴进去。
将start=后边的数字50改成%d
完成
如何设置排除关键字?
排除关键字是标题和内容只要出现关键字就会排除掉该条租房信息。
例如默认是限女这个关键字,只要租房信息中包含限女生入住,只限女生等出现限女关键字的一律不爬。
多个关键字用|分隔,注意是英文的。
例如:限女|短租|整租,这三个关键字设置后,只要标题和内容出现这三个关键字软件就不会爬取。
关于识别标题中的价格
使用正则\b\d{4}\b识别标题中的价格信息,无法爬取少于1000元的信息。
关于爬取结果排序
先根据价格从小到大排序,价格相同根据发帖时间排序。
版权说明:如非注明,本站文章均为 Btc246下载站 原创,转载请注明出处和附带本文链接;
- 上一篇:迷城起源内购版
- 下一篇:美术宝小班课PC客户端
相关推荐
相关资讯
- 06-08 DNF男街霸武器选择攻略:打造最强战斗力
- 06-07 《幻想三国志4》存档攻略:如何保存和管理你的游戏进度?
- 06-08 洛克王国加尔技能表详解——游戏攻略
- 06-08 《LOL神秘商店第二期》攻略:独家解密全新神秘商店!
- 06-08 完美世界2012:探索神秘的仙侠世界
- 06-07 【dnf圣骑士装备】全面攻略:打造强力装备,成为无敌圣骑!
- 06-07 英雄联盟德邦总管出装攻略:称霸战场的必备利器!
- 06-07 《BMW 1系谍影攻略》:掌握攻略,轻松完成任务!
- 06-08 男街霸用什么武器?游戏攻略详解!
- 06-07 【玩转游戏】cftgp官方助手,让你成为游戏高手!
- 排行榜
- 推荐资讯
-
- 06-08 DNF男街霸武器选择攻略:打造最强战斗力
- 06-07 《幻想三国志4》存档攻略:如何保存和管理你的游戏进度?
- 06-08 洛克王国加尔技能表详解——游戏攻略
- 06-08 《LOL神秘商店第二期》攻略:独家解密全新神秘商店!
- 06-08 完美世界2012:探索神秘的仙侠世界
- 06-07 【dnf圣骑士装备】全面攻略:打造强力装备,成为无敌圣骑!
- 06-07 英雄联盟德邦总管出装攻略:称霸战场的必备利器!
- 06-07 《BMW 1系谍影攻略》:掌握攻略,轻松完成任务!
- 06-08 男街霸用什么武器?游戏攻略详解!
- 06-07 【玩转游戏】cftgp官方助手,让你成为游戏高手!