IT编程 > 脚本编程 > Python

Python最简单的图片爬虫,只用20行代码爬遍全网

36人参与2020-07-07

前言

网络上的信息很多,有的时候我们需要关键字搜索才可以快速方便的找到我们需要的信息。今天我们实现搜索关键字爬取堆糖网上相关的美图,零基础学会通用爬虫,当然我们还可以实现多线程爬虫,加快爬虫爬取速度

环境:

windows

pycharm

python3

导入模块

import urllib.parse import json import requests import jsonpath

确定目标网址

url = 'https://www.duitang.com/napi/blog/list/by_search/?kw={}&start={}'

分析网站,确定爬取目标

label = '美女' label = urllib.parse.quote(label)

发送请求,提取数据

num = 0 for index in range(0,2400,24):
    u = url.format(label,index)
    we_data = requests.get(u).text

类型转换

   html = json.loads(we_data)
    photo = jsonpath.jsonpath(html,"$..path")

保存数据

for i in photo:
        a = requests.get(i)
        with open(r'C:\Users\Administrator\Desktop\tupian\{}.jpg'.format(num),'wb') as f:
            f.write(a.content) # 二进制
        num += 1

对Python感兴趣或者是正在学习的小伙伴,可以加入我们的Python学习扣qun:855408893 ,从0基础的python脚本到web开发、爬虫、django、数据挖掘数据分析等,0基础到项目实战的资料都有整理。送给每一位python的小伙伴!每晚分享一些学习的方法和需要注意的小细节,学习路线规划,利用编程赚外快。点击加入我们的 python学习圈

运行代码,效果如下图:

本文地址:https://blog.csdn.net/RRRJ97699/article/details/107159814

您对本文有任何疑问!!点此进行留言回复

推荐阅读

猜你喜欢

Python最简单的图片爬虫,只用20行代码爬遍全网

07-07

个人对Pandas中agg、apply和transform函数的理解

07-07

【Python】1006 换个格式输出整数 (15分)

07-07

【Python】拆分任意长度的可迭代对象

07-07

在python中利用pandas和正则表达式读取文件

07-07

使用python发送QQ邮件

07-07

大家都在看

Python最简单的图片爬虫,只用20行代码爬遍全网

07-07

使用Python FastAPI构建Web服务的实现

06-14

都说 Python 赶超 Java,爬取拉勾网数据发现它的薪资已高至 50K

09-08

很酷的python表白工具 你喜欢我吗

06-08

使用scrapy实现爬网站例子和实现网络爬虫(蜘蛛)的步骤

04-12

Python基础(三)

09-14

python 之 并发编程(进程池与线程池、同步异步阻塞非阻塞、线程queue)

07-26

python多线程扫描端口(线程池)

09-09

拓展阅读

热门评论