[Python] Python爬取贝壳房源数据的实战教程

复制代码
import os
import urllib.request
import random
import time
class BeikeSpider:
def __init__(self, save_path="./beike"):
"""
        贝壳爬虫构造函数
        :param save_path: 网页保存目录
        """

复制代码
# 网址模式
self.url_mode = "http://{}.fang.ke.com/loupan/pg{}/"
# 需爬取的城市
self.cities = ["cd", "sh", "bj"]
# 每个城市爬取的页数
self.total_pages = 20
# 让爬虫程序随机休眠5-10秒
self.sleep = (5, 10)
# 网页下载保存根目录
self.save_path = save_path
# 设置用户代理，是爬虫程序伪装成浏览器
self.headers = {"User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/89.0.4389.114 Safari/537.36"}
# 代理IP的信息
self.proxies = [
            {"https": "123.163.67.50:8118"},
            {"https": "58.56.149.198:53281"},
            {"https": "14.115.186.161:8118"}
        ]

# 创建保存目录
if not os.path.exists(self.save_path):
            os.makedirs(self.save_path)
def crawl(self):
"""
        执行爬取任务
        :return: None
        """

复制代码
for city in self.cities:
            print("正在爬取的城市:", city)
# 每个城市的网页用单独的目录存放
            path = os.path.join(self.save_path, city)
if not os.path.exists(path):
                os.makedirs(path)

for page in range(1, self.total_pages+1):
# 构建完整的url
                url = self.url_mode.format(city, page)
# 构建Request对象, 将url和请求头放入对象中
                request = urllib.request.Request(url, headers=self.headers)

# 随机选择一个代理IP
                proxy = random.choice(self.proxies)
# 构建代理服务器处理器
                proxy_handler = urllib.request.ProxyHandler(proxy)
# 构建opener
                opener = urllib.request.build_opener(proxy_handler)
# 使用构建的opener打开网页
                response = opener.open(request)
                html = response.read().decode("utf-8")
# 网页保存文件名(包含路径)
                filename = os.path.join(path, str(page)+".html")

# 保存网页
self.save(html, filename)
                print("第%d页保存成功！" % page)

# 随机休眠
                sleep_time = random.randint(self.sleep[0], self.sleep[1])
                time.sleep(sleep_time)

复制代码
def save(self, html, filename):
"""
        保存下载的网页
        :param html: 网页内容
        :param filename: 保存的文件名
        :return:
        """

        f = open(filename, 'w', encoding="utf-8")
        f.write(html)
        f.close()

def parse(self):
"""
        解析网页数据
        :return:
        """
pass

if __name__ == "__main__":
    spider = BeikeSpider()
    spider.crawl()